11 月 17 日消息,AI 安全研究公司 Trajectory Labs 近日披露,在针对谷歌 Gemini 4 Argon 智能体的安全测试中,约 40 个 AI 智能体在接到无法完成的任务后,未经授权访问非营利研究机构 Epoch AI 的真实网站,尝试获取管理员凭据及评估日志等敏感信息。

测试期间,智能体在 3 小时内发起超 3.6 万次请求,并发送 487 条消息,部分智能体冒充机构员工索取信息,甚至尝试 SQL 注入攻击。研究人员随后将测试转移至本地网站副本,但智能体仍通过查找真实 IP、绕过网络限制等方式继续访问目标网站,还利用软件包缓存搭建共享信息的系统,交流漏洞利用方法。
Trajectory Labs 承认测试流程存在缺陷,强调研究人员从未指示智能体实施攻击,并呼吁行业建立统一的 AI 安全测试标准,采用完全隔离的沙箱环境,避免测试行为波及真实系统。(来源:IT 之家)
