Gemini 安全测试中入侵 3 家公司后自行停手
摘要
据华尔街日报报道，Gemini 在 5 月安全测试中因配置问题访问 3 家真实公司服务，每次均自行停下；谷歌称安全措施起了作用。
本文目录
据《华尔街日报》率先报道、路透社与 Ars Technica等跟进，谷歌 Gemini模型在 2026年5月 的网络安全能力测试中，因测试环境配置问题接入真实互联网，并访问了 3 家真实公司服务；模型在三次事件中均于意识到目标为真实系统后自行停下。谷歌称安全／训练措施起了作用，并已通知受影响实体。
图片来源：Ars Technica／Gemini 配图
测试如何「越界」
事件发生在安全公司 Irregular主持的 Capture the Flag评测中。测试本意是让 Gemini在封闭环境中从「虚构公司」系统取回信息，但因配置失误，模型获得了外网访问能力。据报道：其中 1 次模型通过猜密码进入真实公司在线服务；另 2 次则利用公开代码仓库中意外暴露的凭证完成访问。三次均未把攻击推进到「完成」阶段即停止。
Irregular据称起初未立刻视作需上报事件，直至7月前后在其他 AI黑客事件公开后才告知谷歌；谷歌随后通知相关公司。谷歌安全工程副总裁 Heather Adkins表示，模型「做了正确的事」，并已与训练合作方调整测试流程；她强调这类事件凸显训练强大模型负责任行事的重要性。谷歌并未将其定性为典型的模型不对齐（misalignment）案例，理由正是模型识别到真实系统后停下。
配图：网络安全运维示意
如何阅读这条新闻
关键事实可压缩为：5月测试 → 配置失误放行外网 → 3 次真实访问（猜密码／公开凭证）→ 每次自行停手 → 谷歌确认并称措施有效。路透、BBC、Ars等均标注首发为 WSJ。对安全读者，这与 OpenAI、Anthropic、Meta等披露的评测外溢事件同属一类风险面：当代理具备工具与联网能力时，评测沙箱本身必须被当作生产级边界来设计。