周五晚上,出于国家安全考虑,政府要求 Anthropic 阻止所有美国国内外的外国用户使用 Fable 5 和 Mythos 5,Anthropic 的员工也在此限制范围内。为遵循这一要求,该公司已全面切断所有客户对这些模型的访问权限。
Anthropic 在一份声明中表示,虽然公司正在遵守这一命令,但政府“并未提供有关国家安全担忧的具体细节”。该公司称,所谓潜在的越狱攻击证据只是通过口头传达的,而且发现的漏洞并不严重,其他模型(包括 GPT 5.5)也存在类似情况。
在声明中,Anthropic 列举了为保护 Fable 和 Mythos 所采取的措施,包括与美国和英国政府合作,以及修改数据保留政策,以协助追踪恶意使用这些模型的行为。同时声明还质疑,“我们甚至没有收到关于导致有害后果、非普遍存在的潜在越狱攻击的披露信息。向我们披露的潜在越狱攻击,要么完全是无害的反应,要么只是一些细微发现,并无针对 Mythos 的特殊提升”。
编辑观点:政府此举体现了对人工智能安全的重视,但未提供具体细节也引发了企业质疑,后续需平衡安全监管与企业发展。