于 10 月底从 OpenAI 离职的 6 年元老 Miles Brundage,近期在个人博客上发文,表示「我们应该为全社会的 AI 发展安装一个刹车」。
他认为,目前 AI 的进展非常快,比如 2021 年出版的一本书——《人工智能简史》中的观点,放到三年后的今天已经过时了。虽然在某些时刻人们对于人工智能的进步过于乐观,但他认为从总体来看,就近十年来说,坚持唱深度学习的反调确实不是一个成功的策略。
在博客中他表示,人类应当安装(经过设计和辩论的)「刹车」,因为当前 AI 的进步明显快于社会能够有效理解和塑造的速度,而且这种情况可能不会很快改变——甚至,二者之间差距可能逐渐扩大。