日前，《人类简史》的作者、历史学家兼哲学家尤瓦尔・诺亚・赫拉利在《华尔街日报》首席执行官理事会峰会上探讨了 AI 的发展前景。
赫拉利指出，AI 并非传统意义上的工具，而是一种能够独立决策、发明新思想并自我学习和改变的 「智能体」。
他强调，与以往人类发明的印刷机、原子弹等工具不同，AI 具有自主性。例如，AI 武器可以自行决定攻击目标并设计下一代武器，而印刷机无法自行写书和决定印刷内容。
他特别提到，目前全球都在热议 AI 「如何确保这些超级智能体的行为符合人类目标和利益」。然而，这本身就面临着两大难题：
- 一是，AI 的定义本身就意味着它能够自我学习和改变，人类无法完全预测其行为。
- 二是，AI 如同孩子，其学习过程更多地受到人类实际行为的影响，而非单纯的指令。
赫拉利对 AI 可能导致的 「无用阶层」表示担忧。他认为，人类不应陷入历史或技术决定论，而是可以通过选择如何发展和部署 AI 技术，塑造不同的社会。
然而，目前领导 AI 革命的公司和国家陷入了军备竞赛的局面，即使意识到需要放慢速度、加强安全投资，也担心被竞争对手超越，从而更加紧张的研发「更强更快」的应用。
赫拉利的在会议中的讨论无疑为人们敲响了警钟，提醒我们应该更加深入地思考如何引导 AI 的发展。
