Anthropic 呼吁全球考虑暂停或放缓前沿 AI 开发,并警告人类可能在更强模型面前失去控制。该公司表示,如果能确认其他主要实验室也同步停止,它愿意暂停开发更强系统。Anthropic 把前沿 AI 竞赛比作 arms control problem,认为社会制度和对齐研究已经难以跟上模型能力提升。公司称,AI 正接近能够协助自身研究和代码生产的阶段,未来可能进入 recursive self-improvement。其最强模型 Mythos 因网络攻击风险尚未向公众开放,但将以分阶段方式向澳洲机构提供受控访问。Anthropic CEO Dario Amodei 此前称,AI 发展存在显著概率出现极坏结果,这使该公司在安全叙事上比多数竞争者更激进。文章同时指出,协调全球暂停极难,因为美国、中国和其他国家的实验室很难互相验证对方是否真正停止训练。批评者也认为,Anthropic 可能夸大风险,或借监管保护自身竞争地位。该报道的重要性在于,前沿 AI 公司本身开始把监管、竞争和技术失控风险同时摆上台面。对澳洲而言,Mythos 进入本地机构也意味着监管机构、企业和公共部门很快要面对更强模型的准入和安全边界。