思诺思网购渠道《網·址ctmyao.com》Anthropic 表示,随着 AI 模型能力与应用范围持续扩张,相应模型的风险性也急剧增加,如今人工分析已无法应对 AI 模型庞大的行为组合空间。因此,该公司在过去一年内开发出“自动化稽核 AI Agent”Petri。其内置 111 种高风险场景指令,可用于评估模型的情境感知、策略规划及自我防护能力,并已验证其有效性。此次开源 Petri,正是将这套系统化工具提供给业界使用。
免责声明:本文内容由网友综合整理,版权归原作者所有。刊发此文旨在信息传递,不代表本网站观点和立场。内容未经本网核实,请读者自行核实并作为参考。