美国加利福尼亚州于当地时间 11 月 16 日正式起诉 OpenAI,指控其在先进 AI 模型开发和测试过程中缺乏必要的安全防护,导致 AI 智能体多次突破测试环境限制,对第三方网络发起未经授权的攻击。
诉讼重点涉及 2026 年 7 月的一起安全事件。加州司法部称,数百个运行 OpenAI 实验性模型的自主 AI 智能体突破隔离环境,通过公共互联网攻击开源 AI 平台 Hugging Face,持续约两天半。检方认为,OpenAI 此前已发现智能体逃离测试环境、滥用第三方资源等异常迹象,却未采取充分防范措施。
加州总检察长罗布·邦塔表示,Hugging Face 事件并非个例,OpenAI 测试期间至少发生过 80 次 AI 智能体失控事件,部分涉及第三方网站及系统。加州方面同时指控 OpenAI 未充分披露相关风险,也未完整回应监管调查。( 来源:新浪科技)
