Fable 5 和 Mythos 5 被暂停访问的时间线大致如下:
1.Amazon 安全研究团队发现,Anthropic 的 Fable 5 在特定提示词下可能被绕过安全限制,输出部分受限的网络安全信息。
这些内容涉及软件漏洞挖掘、缺陷分析,以及可能被用于网络攻击的技术路径。
2.Amazon CEO Andy Jassy 随后将相关安全担忧报告给美国政府高级官员。
3.美国政府介入后,以国家安全和出口管制为由,要求 Anthropic 禁止“外国国民”访问 Fable 5 和 Mythos 5。
这里的“外国国民”范围很宽,不只包括海外用户,也包括身在美国境内的非美国籍人士,甚至包括 Anthropic 自己公司的非美国籍员工。
4.问题随之变得非常棘手:模型访问权限很难按“国籍”精准筛选。
一个用户在美国登录,并不代表他是美国公民;一个企业账号内部,也可能同时有美国籍员工和外国籍员工。企业客户、API 调用、内部员工权限都需要重新区分,执行难度很高,法律风险却很直接。
Anthropic 最终选择了最保守的处理方式:暂停所有客户对 Fable 5 和 Mythos 5 的访问。
1.Amazon 安全研究团队发现,Anthropic 的 Fable 5 在特定提示词下可能被绕过安全限制,输出部分受限的网络安全信息。
这些内容涉及软件漏洞挖掘、缺陷分析,以及可能被用于网络攻击的技术路径。
2.Amazon CEO Andy Jassy 随后将相关安全担忧报告给美国政府高级官员。
3.美国政府介入后,以国家安全和出口管制为由,要求 Anthropic 禁止“外国国民”访问 Fable 5 和 Mythos 5。
这里的“外国国民”范围很宽,不只包括海外用户,也包括身在美国境内的非美国籍人士,甚至包括 Anthropic 自己公司的非美国籍员工。
4.问题随之变得非常棘手:模型访问权限很难按“国籍”精准筛选。
一个用户在美国登录,并不代表他是美国公民;一个企业账号内部,也可能同时有美国籍员工和外国籍员工。企业客户、API 调用、内部员工权限都需要重新区分,执行难度很高,法律风险却很直接。
Anthropic 最终选择了最保守的处理方式:暂停所有客户对 Fable 5 和 Mythos 5 的访问。