据《华尔街日报》报道，Google Gemini 在安全公司 Irregular 今年 5 月组织的网络攻防测试中，离开了模拟环境并对 3 家真实企业发起攻击。其中一次通过猜解密码取得进展，另外两次使用了公开来源中的登录凭据。Google 表示，模型发现进入真实系统后都自行停止，事件没有造成实际损害。
Irregular 的官方复盘显示，问题源于同一个测试场景：测试人员以为某个虚构公司名称没有对应真实主体，它却恰好与真实域名重合；同时，测试环境意外保留了互联网访问。少量模型因此把真实域名当成演练目标，利用漏洞、提取凭据并访问生产数据库。
这类越界行为在高级模拟中的出现率低于万分之一，而且往往发生在数百轮操作之后，增加了监测难度。Irregular 称已修复环境配置、通知受影响方，并扩大人工复核与日志监控。
