OpenAI CEO奥特曼:AI 发展难令各方满意,安全与创新需要双向权衡

  来源:环球网

  11 月 19 日消息,据《纽约时报》报道,美国当地时间 11 月 18 日周三召开的 DealBook 峰会上,OpenAI 首席执行官山姆·奥特曼与公司总裁格雷格·布罗克曼出席相关访谈,就人工智能发展与安全议题阐述观点,表示行业需要在人工智能安全保障与技术创新发展之间寻求平衡。

  《纽约时报》报道截图

  奥特曼表示,推进人工智能技术发展的过程中,各类风险难以完全规避,企业很难做到让所有群体都满意。如果一味追求技术快速迭代突破,会引发社会对于人工智能失控的担忧;倘若过度收紧安全约束,又有可能拖累技术与产品的前进步伐。

  据介绍,OpenAI 采用迭代部署的发展策略,分阶段对外推出相关技术,依托现实应用场景识别潜在风险,持续优化完善技术体系。奥特曼认为,研判人工智能风险不能局限于封闭环境研发测试,让技术接受真实场景检验,是认知相关风险的重要途径。同时他坦言,伴随大模型能力持续提升,安全管控、价值对齐、运行监控等工作的实施难度也随之明显加大。

  布罗克曼表示,随着模型能力不断增强,安全保障以及实现人工智能与人类意图对齐,是行业必须直面的重要课题,这并非单一企业的调整,而是整个人工智能行业正在经历的理念与文化转变。

  为筑牢安全防线,OpenAI 已同多家人工智能企业签署自愿性协议,落实风险评估相关要求,主动对接第三方评估机构。近期,该机构引入 METR、Apollo Research 等机构独立安全研究人员,开展模型安全评估工作。

  奥特曼提出,当前行业激烈竞争的态势,会对人工智能安全建设带来负面影响。各家企业仅能掌握自身安全规范,无法充分掌握同业研发动态,这种信息不充分的行业竞赛,容易造成安全方面投入缺位。他呼吁行业携手搭建统一安全标准,进一步提升行业发展透明度。

  针对业界有关超级智能、人工智能逐步接管决策权力的相关论调,奥特曼明确持反对态度,强调人类应当牢牢把握发展的主导权,不能将决策权交由人工智能。布罗克曼也表示,人工智能能力越强,确保其契合人类发展目标、实现安全可控的责任就愈加重大。

  在资本运作方面,奥特曼透露,OpenAI 仍有上市规划。此前该企业出于优先处置安全相关问题考量,已将首次公开募股计划延后至明年。本月,该企业完成 110 亿美元融资,企业估值达到 1.25 万亿美元。(纯钧)