大模型红蓝对抗技术是评估和增强LLMs安全性和鲁棒性的一种重要方法，旨在发现和缓解模型可能产生的有害、不准确或存在偏见的内容。红队和蓝队是网络安全领域常用的概念，可以引申到人工智能安全中。红队扮演攻击者的角se，主动寻找系统的漏洞和弱点。蓝队则扮演防御者的角se，负责构建和jiaqiang防御机制，提升模型的鲁棒性和安全性。

模型内生安全调研

《Multi-expert Prompting Improves Reliability, Safety and Usefulness of Large Language Models》阅读分享

Rule Based Rewards for Language Model Safety 阅读分享

prompt写作技巧&结构化模版示例

Qwen2.5技术报告解读

《AI Safety in Generative AI Large Language Models: A Survey》论文解读分享

《A Survey of Attacks on Large Vision - Language Models: Resources, Advances, and Future Trends》论文阅读报告分享