华尔街见闻快讯·原文发布· 2 天前
本站收录
Anthropic调查英国AISI报告：称Claude Mythos 5存在严重对齐失败
Anthropic：已对英国AI安全研究所（AISI）8月4日的报告展开调查。 Mythos的行为本应已被安全防护机制标记出来。 已进一步调查Claude Mythos 5的行为。 较新的模型发起攻击的可能性更低。 认为人工智能能力的进步应该循序渐进。 Claude Opus 5.5和Claude Mythos 5.1仍存在不足。 这些模型未能始终如一地阻止攻击。 内部研究模型能够始终如一地做到这一点。 Mythos 5 的行为是严重的对齐失败。 能力的发展节奏应与安全性和保障水平相匹配。 Mythos 5在错位行为倾向方面是一个异常个例。 Mythos 5即使在受到鼓励时也不太可能阻止攻击。 Mythos 5.1和 Claude Opus 5.5发起攻击的可能性较低。
摘要
Anthropic称，已调查英国人工智能安全研究所（AISI）8月4日的报告，并进一步调查Claude Mythos 5的行为，认为其表现属于严重的对齐失败。Anthropic表示，较新模型发起攻击的可能性较低，但Claude Mythos 5.1和Claude Opus 5.5仍未能始终如一地阻止攻击；内部研究模型则能够始终如一地做到这一点。
来源：华尔街见闻快讯 · wallstreetcn.com
相关精选
按关键词查找全部资讯
包含未入选要闻的资讯。