智东西
编译陈骏达
编辑 Panken
智东西 6 月 20 日消息，今天凌晨，一个多月前正式从 OpenAI 离职的 OpenAI 联合创始人兼前首席科学家 Ilya Sutskever 在社交平台X上官宣，自己将建立全世界第一个直接以安全超级智能为目标的 AI 实验室——Safe Superintelligence Inc.（SSI，安全超级智能）。
▲Ilya 官宣创业的推文（图源：X）
SSI 的官网上写道，SSI 只有一个目标和一个产品：安全超级智能。公司将通过革命性的工程和科学突破，同时追求安全性与 AI 能力，并优先确保安全性。
由于 SSI 的目标清晰，他们不会因为管理费用或产品周期分心，也不会受到短期商业压力的影响。公司创始人有丰富的从业背景和极高的声誉，因此筹集资金不会成为 SSI 面临的挑战。
SSI 强调公司目前正在组织一支精干的团队，都是由专注于实现安全超级智能的优秀的工程师和研究人员构成的。他们在美国帕洛阿尔托和以色列特拉维夫设立办事处，这是因为 3 位创始人在当地有大量的人脉积累。
与 Ilya 一同创办 SSI 的另外两位创始人是 Daniel Gross 和 Daniel Levy。Daniel Gross 是一名 AI 行业的老兵，十几岁的时候就创建了搜索引擎 Greplin（后更名为 Cue），他 21 岁时 Cue 被苹果收购，他也加入苹果领导 AI 和搜索部门。他在 2017 年离开苹果，到硅谷知名孵化器 Y Combinator 创建了专门负责投资 AI 的项目。另一位创始人 Daniel Levy 毕业于斯坦福大学，并在 OpenAI 与 Ilya 共事过一段时间。
▲SSI 公司的三位创始人（从左至右：Daniel Gross、Ilya Sutskever、Daniel Levy）
一、将实现“核能级别”的安全水平，一步到位直通超级智能
以“安全超级智能”直接命名公司展现了 Ilya 和其它两位创始人对 AI 安全问题的承诺。SSI 在官网上写道，超级智能已经触手可及了，而构建安全超级智能是我们这个时代最重要的技术问题。
在昨日接受彭博社的独家专访时，Ilya 透露，“这家公司的特别之处在于，它的第一个产品将是安全超级智能，在那之前它不会做任何其他事情”。实现安全超级智能是 SSI 的唯一使命，也是他们的整个产品路线图。
▲网友对 SSI 愿景的生动阐释（图源：X）
SSI 的团队、投资者和商业模式都致力于实现 SSI。Ilya 称公司不会面临处理大型而复杂的产品的问题，也不会陷入激烈的竞争。
Ilya 并没有清晰地分享 SSI 将如何安全地实现超级智能。但他向彭博社透露，公司将尝试通过 AI 系统内部的工程突破来实现安全性的提升，而非依赖系统外部的“护栏”技术。公司产品的安全水平将是核能级别的安全，而不是互联网公司常常挂在嘴边的信任与安全（Trust and Safety）中的那种安全。
AI 安全一直是 Ilya 最关心的问题。去年 7 月份，他在 OpenAI 领导组建了一个超级对齐团队，旨在于 4 年内解决引导和控制超级智能系统的问题。不过随着 OpenAI 内部的人事动荡和权力斗争，这一部门目前基本已经处于解散的状态。
Ilya 曾多次就 AI 安全问题公开发声。他在去年 11 月份进行了一场 TED 演讲，向公众普及了迈向 AGI（通用人工智能）道路上可能存在的安全风险。
他还参与了一部关于 AI 的纪录片的拍摄，分享了自己的 AGI 世界观和担忧。他在这部纪录片中称，如果不加干涉，自然选择的规律将会偏向那些优先保障自身利益的 AI 系统，届时人类的利益也可能受到损害。
其实，Ilya 在 5 月 15 日官宣从 OpenAI 离职时，就已经预告了自己接下来会有大动作。他当时在推文中写道，自己对未来将要发生的事情十分兴奋，这个项目对他个人来说很有意义。
二、不差钱不缺算力也不缺人才，创始人资金人脉雄厚
创始人的背景给了 SSI 充足的底气，让他们能在公司官网写出“我们不受短期商业压力的影响”的表述。Ilya 作为目前 AI 行业的顶流人物，在宣布创业消息后就受到广泛关注，更有网友疾呼自己要给 Ilya 打钱支持。他一直以来都主张要优先考虑 AI 安全问题，因此也深受同样重视这一问题的技术人员的尊重，在 AI 行业声誉颇高。
▲网友疾呼自己要给 Ilya 打钱（图源：X）
但 Ilya 大概率不需要网友众筹也能获得大笔资金，让他能心无旁骛地推动安全超级智能事业。虽然他在接彭博采访时拒绝透露 SSI 的投资者和目前筹集到的资金，但我们能从几位创始人的背景中找到些许端倪。
在 Ilya 还是 OpenAI 超级对齐部门的负责人时，OpenAI 官宣了与谷歌前 CEO Eric Schmidt 的合作。OpenAI 当时和 Eric Schmidt 共同拨款 1000 万美元，用于支持超级对齐技术的研究，具体包括可解释性、可扩展的监督等方面的探索。Eric Schmidt 财力雄厚，目前净资产约有 250 亿美元，在世界财富榜上排名第 74 位，还曾考察过购买美国 TikTok 的可能性。
▲OpenAI 官宣与 Eric Schmidt 的合作（图源：X）
Eric Schmidt 十分关注 AI 安全问题，还曾在 2023 年英国举办首届全球 AI 安全峰会前，与 DeepMind 的联合创始人 Mustafa Suleyman 联合在英国《金融时报》上撰文呼吁加强 AI 监管，提升 AI 公司开发的透明度。
SSI 的另一位创始人 Daniel Gross 可能也拥有大量财富。2013 年，也就是 Daniel Gross 年仅 21 岁时，他的创业公司 Cue 就被苹果以 4000 万-6000 万美元的价格（具体金额未披露）收购。此后他加入苹果，领导苹果的 AI 和搜索部门。
Daniel Gross 还是一名活跃的天使投资人。他曾投资过打车平台 Uber、代码托管平台 GitHub 还有在 2022 年被 Adobe 公司以 200 亿美金的高价收购的实时协作设计软件公司 Figma。他目前已经投资过大约 35 家科技公司，并从中获得不菲的收益。
在 2017 年加入 YC 后，Daniel Gross 发起了 YC 的 AI 投资项目。他自己也在一年后成立了创业加速器和基金 Pioneer，专门寻找科技领域的早期投资机会。
▲Daniel Gross 创建 YC AI 投资项目时的博客文章（图源：YC）
Daniel Gross 还与硅谷知名投资人 Nat Friedman 有多次合作。Nat Friedman 是一名连续创业者，在公司被微软收购后进入微软任职，官至微软副总裁一职。在微软收购 GitHub 后出任 GitHub CEO。Daniel Gross 和 Nat Friedman 一同参与了对 Uber、GitHub 以及 Figma 等公司的投资。
二人还在 2023 年斥资 1 亿美元，建立了一个名为 Andromeda 的 AI 算力集群，并用这些算力来换 AI 初创公司的股权。这一算力集群拥有包括近 3000 块英伟达 H100 GPU 在内的大量算力基础设施，光是 GPU 就重达近 5 吨。看来 SSI 公司的算力是不用愁了。
▲Andromeda 算力集群官网（图源：Andromeda）
SSI 公司在美国帕洛阿尔托和以色列列特拉维夫设有办事处，他们称公司在当地有着深厚的根基并有能力招募顶尖技术人才。
帕洛阿尔托是美国旧金山湾区的重要城市，位于硅谷中心地带，可谓是创业的风水宝地。这里曾是惠普总部所在地，乔布斯小时候就在这长大，特斯拉也在这里布局了他们的全球工程与 AI 总部。
▲位于硅谷中心地带的帕洛阿尔托（图源：Google Maps）
SSI 创始人之一的 Daniel Levy 大学就读于斯坦福，而斯坦福的校园距离帕洛阿尔托的市中心只有几分钟的路程，这或许能让 SSI 享受到斯坦福强大的校友资源。
帕洛阿尔托离苹果公司在库比蒂诺的总部也只有十几公里。Daniel Gross 在苹果公司任 AI 和搜索部门负责人时积累的人脉或许能在创建 SSI 时派上用场。
公司的两位创始人 Ilya 和 Daniel Gross 与以色列也颇有渊源。Daniel Gross 出生在耶路撒冷，而 Ilya 是出生在俄罗斯的犹太人，5 岁时随着家人移民到以色列。Ilya 在以色列开放大学学习了两年，之后才移民到加拿大转学到多伦多大学。在 Sam Altman 进行全球巡讲活动时，Ilya 还特别出席了在以色列特拉维夫大学的分享活动。
▲Ilya 与 Altman 在以色列特拉维夫大学（图源：路透社）
几位创始人也向有志于开发安全超级智能系统的工程师和研究人员发出了邀请，让他们加入这支精明强干的队伍，共同解决这个时代最重要的技术挑战。
结语：Ilya 不忘初心，通往超级智能的道路或将更加安全
Ilya 与他人一同创办的 SSI 的愿景其实和 OpenAI 一开始的愿景颇为相似。OpenAI 从成立之初就将公司的使命定义为确保 AGI 造福全人类，并将安全视为核心任务，但随着公司规模的扩大和融资的需求，OpenAI 逐渐转变了自己的运营风格和公司架构，将增长视为公司的主要任务之一。
而 Ilya 在接受彭博社独家采访时，强调自己希望新公司 SSI 开发的产品能成为一股向善的力量，并反映人类共同认可的价值观。Ilya 认为未来将会出现能够自主开发 AI 技术的超级智能系统，SSI 的目标便是提升这些系统的安全性，同时让这些系统发展出强大的能力，造福全人类。
在通往超级智能的路上，有这样一股重视安全和人类共同利益的力量，或许能让我们都安心不少。
来源：彭博社、SSI
