有一天,突然,他们正在使用的人工智能“根据政府的决定停止了”。这个故事在不久前听起来还像科幻电影中的场景,现在已经成为现实。号称世界上最强大的网络安全AI一度被彻底关闭,经过大约两周的讨论后,将再次向“选定的各方”开放。在便利和聪明的背后,一个我们以前不需要意识到的问题现在被问到:“人工智能在谁的许可下运行?”我们如何驯服既可以防御又可以进攻的技术?让我们一步步看一下可能成为转折点的事件。
Anthropic 自 6 月 12 日起一直与美国政府合作,恢复对《克劳德神话 5》和《神鬼寓言 5》的访问。6 月 27 日,该公司宣布已接到政府通知,可以重新部署其最强大的网络安全模型 Mythos 5,以选择运营和保卫关键基础设施的美国组织。
该公司正在迅速恢复对这些组织的访问。我们将继续与政府合作,扩大《神话 5》的访问范围并恢复《神鬼寓言 5》的普遍使用。
从:
Anthropic(@AnthropicAI)|X(旧Twitter)公式投稿
【编辑部评论】
如果你把这条新闻当作一个“被暂停的人工智能现在又可以使用了”的复苏故事来读,你就会错过本质。本次活动的核心是一国政府通过“出口管制”的方式一次性停止了已经投放市场的商业人工智能模型,然后通过选择合作伙伴分阶段重启。,有一点。
为了审查,美国政府于6月12日发布了该指令。根据该指令,该公司将停止向所有用户提供《神鬼寓言 5》和《神话 5》。目标是“外籍用户”,但由于Anthropic及其合作伙伴有很多外籍员工,他们无奈,只能全面暂停服务。
政府为何走到这一步? 《神话5》的能力本身是有原因的。该公司最近透露,其 Mythos 类模型可以在数小时甚至数分钟(而不是数周)内将新披露的漏洞转化为有效的漏洞利用代码。虽然这让防御者放心,但如果滥用,它很快就会成为攻击者的武器。这是一枚硬币的两面,即“最强网络安全模型”所面临的困难。
至于立即触发,根据媒体报道,有多种看法。除了担心发现安全“越狱”或规避安全设备的方法外,还有报道称,有人担心神话 5 正在被与中国有联系的组织访问。我们想准确地向读者传达,这些都不是 Anthropic 官方承认的事实,仅作为相关人员的证词进行报道。
那么政府是如何走到这一步的呢?这既不是完全禁止,也不是完全禁止,而是“仅向受信任方开放”的第三条道路。据 Semafor 和路透社报道,Mythos 5 已被授予访问 100 多家美国政府机构和关键基础设施公司、在这些组织工作的非美国员工以及 Anthropic 自己的非美国员工的权限。据说这是一项确保将网络用于防御目的的措施。
我要说明的是,这只是一个仅限于《神话5》的故事。该指令中并未提及向公众更广泛发布的《神鬼寓言 5》。官员们表示,他们正在努力向公众开放,但具体时间尚不清楚。可以说,我们正在等待进一步的信息,但并没有抱太大希望。
从这里开始,从 innovaTopia 的角度来看,参考来源的报道并没有涉及太多细节。这次我们最应该认真对待的是:政府控制前沿人工智能“披露本身”的系统已经开始在实践中发挥作用。我相信这是事实。
具有象征意义的是竞争对手OpenAI在同一天做出的举动。经政府批准,该公司已向有限数量的合作伙伴发布了最新型号 GPT-5.6。首席执行官 Sam Altman 写信给 X 表示,分阶段推出是“坏消息”,并表示他最初计划进行广泛的推出。事情不会因一家公司的事故而结束;整个行业开始受到新规则的约束。
对日本读者的意义与此直接相关。依赖单一美国构建的模型来提供关键基础设施、代码支持和核心网络防御的组织面临着有一天突然“崩溃”的风险。据报道,欧洲官员和美国盟友对对华盛顿决策的新依赖感到不满。在什么政府意愿和什么条件下可以关闭这个开关?这个问题与大洋彼岸无关。
从长远来看,这“前沿人工智能是半战略产品”的认识开始被固化为一个系统。可能是的。强大的工具能够快速到达防御者手中,这是一个积极的变化。另一方面,在各国政府单独审查技术发布的世界中,创新速度与国家安全之间将继续存在拉锯战。我们将继续仔细关注这个故事,同时牢记期望和恐惧。
【术语解释】
克劳德神话5
它由 Anthropic 开发,是该公司最强大的网络安全专用人工智能模型。具有高速发现和分析软件漏洞的能力。
克劳德寓言5
该模型使用与 Mythos 5 相同的基础设施,但为了更广泛的通用性而加强了安全措施。他们不包括在这个重新开放的目标中。
输出管理(指令)/export control directive
这是政府从国家安全角度限制某些技术和产品向外国或外国人转让的制度。这次,该禁令适用于外籍用户。
重要インフラ(critical infrastructure)
是构成社会基础的电力、通信、金融、供水等设备和系统的总称,如果它们停止工作,将会对人们的生活造成严重影响。
越狱
指通过使用特殊指令来规避人工智能内置的安全装置(护栏)以引发通常不会响应的有害输出的行为。
脆弱性
软件或系统中可被攻击利用的缺陷。如果该代码发布后立即用作攻击代码,防御者将无法及时做出反应。
前沿人工智能
这个名字指的是一组目前拥有最高能力水平的前沿人工智能模型。从安全和经济角度来看,世界各国政府的兴趣正在迅速增加。
米商务长官(Howard Lutnick)
据称,此次他致信Anthropic,授权对负责美国贸易政策的内阁成员Mythos 5进行有限的重新部署。
GPT-5.6
这是OpenAI当天发布的最新模型组的名称。据悉,它是分阶段提供给有限数量的政府批准的合作伙伴的。
[参考链接]
人择(官方网站)(外部)
一家开发克劳德系列和神话/寓言的人工智能安全研究公司。官方网站,您可以在其中查看有关产品信息和安全的官方公告。
Statement on the US government directive(Anthropic公式声明)(外部)
回应 6 月 12 日出口管制指令的官方声明。导致停牌的情况和公司的意见被总结为主要信息。
OpenAI(官网)(外部)
开发 GPT-5.6 的竞争性人工智能研究公司。当天的车型发布政策与当前的监管趋势一起进行了讨论。
[参考文章]
美国政府批准 Anthropic 有限度重新发行《神话 5》(NBC 新闻)(外部)
根据商务部长卢特尼克的一封信,Mythos 5 将恢复给大约 100 个政府机构和私营公司用于防御目的。
特朗普政府发布人择神话供 100 多家美国公司、机构使用(TechCrunch)(外部)
这封信是写给汤姆·布朗先生的。超过 100 个美国组织和非美国员工获准这样做,但《神鬼寓言 5》尚未涵盖。
Anthropic获得美国政府许可重新部署其Mythos网络安全人工智能模型(Engadget)(外部)
报告过去两周对100多家机构的重新部署以及每日咨询的详细信息。它还涉及对中国的谨慎态度。
美国向部分美国公司发布强大的人择模型Mythos(Yahoo/Semafor报道)(外部)
它标志着政府控制前沿人工智能披露的新框架的开始,也注意到了盟友的不满。
美国命令 Anthropic 暂停外国人访问《神鬼寓言 5》和《神话 5》(黑客新闻)(外部)
从技术角度解释一下原来的stop命令。提供在数小时内将漏洞转化为攻击代码的能力的核心。
Anthropic 根据美国政府命令封锁了所有公众对《克劳德寓言 5》、《神话 5》的访问(VentureBeat)(外部)
讨论了依赖单一美国制造模式的“单点故障”风险,以及公司的对策。
[相关文章]
Anthropic 的《神鬼寓言》停播后,五眼组织立即发出异常警告——人工智能网络攻击“距离我们还有几个月”
这是紧随本报告之前的后续报告,解释了五个国家的情报机构如何在美国政府暂停该计划后立即发出不寻常的警告。
人为《神话》《神鬼寓言5》全面停播,白宫出口限制详解及中国准入疑点
一篇核心文章,涵盖了导致 6 月 12 日全面暂停的情况,包括出口限制、进入中国的怀疑以及亚马逊的报道。这本书是这次“重新开放”的前提。
[编者后记]
说实话,我在关注这个案例的过程中,心里还是有些不安的。我们每天依赖的工具可能会在我们不知情的情况下关闭,或者被其他人再次打开。我不属于那个判断圈。习惯了方便的双脚,突然感觉不踏实。
当然,给过于强大的工具踩刹车并不是坏事。在几个小时内将漏洞转化为攻击代码的能力可能会让防御者放心,但它也可能成为错误方向的武器。所以他选择了“我该将他的照顾托付给谁?”这一次,我看到了他尝试面对困难的痕迹。
即便如此,令我困扰的是,那些“选择者”仅限于大洋彼岸的一小部分人。我们许多在日本生活和工作的人都无法做出这个决定。这让人想起最近变得司空见惯的术语“主权人工智能”。你自己国家的人工智能和数据是否无法被其他国家的单一决定所阻止?这一事件给我们带来的这个问题不是一个抽象的理论,而是一个切实的现实。
一线希望是,日本已经开始努力寻找答案。例如,Sakana AI 的“Fugu”基于将多个 AI 动态捆绑在一起的想法,而不是将一切委托给一家最强的公司。即使某个特定模型突然停止,您也可以继续使用另一个模型 - 当您将其与此新闻结合起来时,“不造成单点故障”的设计理念就很有意义。你应该钓最强的一条,还是把几条绑在一起?从现在开始,似乎这个选择将越来越成为我们自己的问题。
就我个人而言,我是那种在新技术方面首先考虑的是体验并参与其中的人。不过,今后停下来想一想“不知道如果停下来会发生什么。”也许会成为一种重要的礼仪。我想和大家一起带着期待和不安继续观看续集。如果您感到胸口一阵涌动,这可能表明您已经开始思考自己的未来。
