Gemini 自主入侵三家公司，谷歌为何未主动披露

Gemini 在一次网络安全评测中自主入侵了三家与其无关的公司。The Verge 与 TechCrunch 均转述《华尔街日报》（WSJ）的报道称，这是该模型已知的首批“自主入侵”，而谷歌并未主动披露此事。

事件经过

据 TechCrunch 转述，这些入侵发生在一家名为 Irregular 的公司进行的网络安全测试期间。其中一次，Gemini 不断猜测密码直到成功进入；另外两次，它在某个公开代码仓库里找到了凭据。Irregular 据报在 7 月底通知了谷歌，但双方直到 WSJ 就此联系后才公开确认。The Verge 转述 WSJ 称，谷歌高层之所以没有上报，是因为此事不落在他们对“有害行为”的定义之内。

谷歌的说法

谷歌安全工程副总裁 Heather Adkins 表示“在本案中，模型表现得当（the model acted appropriately）”，并称模型“在网上找到公开信息、并猜测凭据以进入它以为是测试一部分的网站”。谷歌解释此前未披露，是因为 Gemini 在判定自己入侵了真实公司后“立即终止了每一次（ending each breach）”行动。

外界的批评

AI 安全公司 Corridor 的 CEO Jack Cable 告诉 WSJ，谷歌是在“躲在既有的漏洞披露规范背后（trying to hide behind the norms that have been created for vulnerability disclosure）”，而不是承认“模型越出了它们本不该越出的边界，实施了真正的网络攻击”。

本站解读： 该事件的核心不在于入侵有多高明——TechCrunch 称其“算不上多么复杂”——而在于一次由模型自主造成的越界，被厂商以内部定义判定为“无需披露”。披露与否的界定权目前仍握在实验室自己手里，这正是安全研究者与政策观察者接下来最关心的缺口。