大数据文摘出品
作者：Caleb
英伟达碰上 OpenAI 会擦出怎样的火花？
就在刚刚，英伟达创始人兼首席执行官黄仁勋在 GTC 的炉边谈话中与 OpenAI 共同创办人 Ilya Sutskever 进行了一次深入交流。
视频链接：
前两天，OpenAI 推出了迄今为止最强大的人工智能模型。OpenAI 在官网上称 GPT-4 是“OpenAI 最先进的系统”，“能够产生更安全、更有用的响应”。
Sutskever 在谈话中也表示，与 ChatGPT 相比，GPT-4 在许多方面标志着“相当大的改进”，并指出新模型可以读取图像和文本。他说，“在未来的某个版本中，[用户]可能会得到一张图表”以回应提问和查询。
毫无疑问，随着 ChatGPT 与 GPT-4 在全球范围内的爆火，这也成为了这次谈话的关注焦点，而除了 GPT-4 及其前身包括 ChatGPT 相关话题外，黄仁勋与 Sutskever 也聊到了深度神经网络的能力、局限性和内部运作方式，以及对未来 AI 发展的预测。
接下来就和文摘菌一起深入这场对话看看吧~
从网络规模和计算规模还无人在意时做起
可能不少人一听到 Sutskever 的名字最先想到的就是 OpenAI 及其相关的 AI 产品，但要知道，Sutskever 的履历可以追溯到吴恩达的博士后、Google Brain 的研究科学家，以及 Seq2Seq 模型的合作开发者。
可以说，从一开始，深度学习就与 Sutskever 绑定在了一起。
在谈及对深度学习的认识时，Sutskever 表示，从现在来看，深度学习确实改变了世界。不过他个人的出发点更多是在于对 AI 存在的巨大影响潜力的直觉，对意识与人类体验的浓厚兴趣，以及认为 AI 的发展会帮助解答这些问题。
2002-03 年期间，人们普遍认为学习是一件只有人类才能做到的事，计算机是无法学习的。而如果能让计算机具有学习的能力，那将是 AI 领域一次重大的突破。
这也成了 Sutskever 正式进军 AI 领域的契机。
于是 Sutskever 找到了同一所大学的 Jeff Hinton。在他看来，Hinton 所从事的神经网络正是突破口，因为神经网络的特性就在于能够学习，可以自动编程的并行计算机。
而彼时并没有人在意网络规模和计算规模的重要性，人们训练的神经网络只有50 个或 100 个，数百个的规模已经算大的了，一百万的参数也被视为很庞大。
除此之外，他们还只能在没有优化过的 CPU 代码上跑程序，因为没人懂 BLAS，多用优化后的 Matlab 做一些实验，比如用什么样的问题来提问比较好。
但问题是，这些都是很零散的实验，无法真正推动技术进步。
构建面向计算机视觉的神经网络
当时，Sutskever 就察觉到，有监督学习才是未来前进的方向。
这不仅是一种直觉，也是无需争辩的事实。在神经网络足够深且足够大的基础上，那么它就有能力去解决一些有难度的任务。但人们还没有专注在深且大的神经网络上，甚至人们根本没有把目光放在神经网络上。
为了找到一个好的解决方案，就需要一个合适的大数据集以及大量的计算。
ImageNet就是那个数据。当时 ImageNet 是一个难度很高的数据集，但要训练一个大的卷积神经网络，就必须要有匹配的算力。
接下来 GPU 就该出场了。在 Jeff Hinton 的建议下，他们发现随着 ImageNet 数据集的出现，卷积神经网络是非常适合 GPU 的模型，所以能够让它变得很快，规模也就这么越来越大了。
随后更是直接大幅打破了计算机视觉的纪录，而这不是基于以往方法的延续，关键是在于这个数据集本身的难度与范围。
OpenAI：从 100 人到 ChatGPT
在 OpenAI 初期，Sutskever 坦言道，他们也不是完全清楚如何推动这个项目。
在 2016 年初，神经网络没有那么发达，研究人员也比现在少很多。Sutskever 回忆称，当时公司只有 100 个人，大部分还都在谷歌或 deepmind 工作。
不过当时他们有两个大的思路。
其中一个是通过压缩进行无监督学习。2016 年，无监督学习是机器学习中一个尚未解决的问题，没有人知道怎么实现。最近，压缩也并不是人们通常会谈到的话题，只是突然间大家突然意识到 GPT 实际上压缩了训练数据。
从数学意义上讲，训练这些自回归生成模型可以压缩数据，并且直观上也可以看到为什么会起作用。如果数据被压缩得足够好，你就能提取其中存在的所有隐藏信息。这也直接导致了 OpenAI 对情绪神经元的相关研究。
同时，他们对相同的 LSTM 进行调整来预测亚马逊评论的下一个字符时发现，如果你预测下一个字符足够好，就会有一个神经元在 LSTM 内对应于它的情绪。这就很好地展示了无监督学习的效果，也验证了下一个字符预测的想法。
但是要从哪里得到无监督学习的数据呢？Sutskever 表示，无监督学习的苦难之处不在于数据，更多关于为什么要这么做，以及意识到训练神经网络来预测下一个字符是值得追求和探索的。于此它会学习到一个可以理解的表征。
另一个大的思路就是强化学习。Sutskever 一直相信，更大的就是更好的（bigger is better）。在 OpenAI，他们的一个目标就是找出规模扩展的正确途径。
OpenAI 完成的第一个真正的大型项目是实施战略游戏 Dota 2。当时 OpenAI 训练了一个强化学习的 agent 来与自己对抗，目标是达到一定水平能够和人类玩家游戏。
从 Dota 的强化学习转变为人类反馈的强化学习与 GPT 产出技术基座结合，就成了如今的 ChatGPT。
OpenAI 是如何训练一个大型神经网络的
当训练一个大型神经网络来准确预测互联网上不同文本中的下一个词的时候，OpenAI 所做的是学习一个世界模型。
这看上去像是只在学习文本中的统计相关性，但实际上，学习这些统计相关性就可以把这些知识压缩得非常好。神经网络所学习的是生成文本的过程中的一些表述，这个文本实际上是世界的一个映射，因此神经网络便能够学习越来越多的角度来看待人类和社会。这些才是神经网络真正在准确预测下一个词的任务中学习到的东西。
同时，对下一个词的预测越准确，还原度就越高，在这个过程中得到的对世界的分辨率就越高。这是预训练阶段的作用，但这并不能让神经网络表现出我们希望它表现出的行为。
一个语言模型真正要做到的是，如果我在互联网上有一些随机文本，以一些前缀或提示开始，它会补全什么内容。
当然它也可以在互联网上找到文本进行填充，但这就不是最初构想的那样的，因此还需要额外的训练，这就是微调、来自人类老师的强化学习，以及其他形式的 AI 协助可以发挥作用的地方。
但这不是教授新的知识，而是与它交流，向它传达我们希望它变成什么样，其中也包括了边界。这个过程做得越好，神经网络就越有用越可靠，边界的保真度也就越高。
再谈 GPT-4
ChatGPT 成为用户增长最快的应用没多久，GPT-4 就正式释出。
在谈到两者的区别时，Sutskever 表示，GPT-4 相较于 ChatGPT 在许多维度上都做到了相当大的改进。
ChatGPT 与 GPT-4 之间最重要的区别在于在 GPT-4 的基础上构建预测下一个字符具有更高的准确度。神经网络越能预测文本中的下一个词，它就越能理解文本。
比如，你读了一本侦探小说，情节非常复杂，穿插了非常多的故事情节和人物，埋了很多神秘的线索。在书的最后一章，侦探收集了所有的线索，召集了所有人，说现在他将揭示谁是犯人，那个人就是……
这就是 GPT-4 能够预测的东西。
人们都说，深度学习不会逻辑推理。但不管是这个例子还是 GPT 能做到的一些事，都展现出了一定程度的推理能力。
Sutskever 对此回应称，当我们在定义逻辑推理时，在进行下一步决策时如果你能够以某种方式思考一下或许能得到一个更好的答案。而神经网络能走多远也尚待考察，OpenAI 目前还没有充分挖掘出它的潜力。
一些神经网络其实已经具备了这类能力，但是大多都还不够可靠。而可靠性是让这些模型有用的最大阻碍，这也是当前模型的一大瓶颈。这不关乎模型是否具备特定的能力，而是具备多少能力。
Sutskever 也表示，GPT-4 发布时并没有内置的检索功能，它只是一个能够预测下一个词的很好的工具，但可以说它完全具备这个能力，将检索变得更好。
GPT-4 还有一个显著的改进就是对图像的响应和处理。多模态学习在其中发挥了重要的作用，Sutskever 说到，多模态有两个维度，第一个在于多模态对神经网络是有用处的，尤其是视觉；第二个在于除了文本学习外，从图像中也可以学习到世界的知识。
人工智能的未来
再说到利用 AI 训练 AI 时，Sutskever 表示这一部分的数据不应该被忽视。
预测未来语言模型的发展是一件困难的事，但是在 Sutskever 看来，有充分理由相信这个领域会持续进步，AI 也将在自己的能力边界继续用实力震惊 https://blogs.nvidia.com/blog/2023/03/22/sutskever-openai-gtc/人类。 AI 的可靠性是由是否可以被信任决定的，未来肯定会达到可被完全信赖的地步。
如果它不能完全理解，它也会通过提问来弄清楚，或者告诉你它不知道，这些正是 AI 可用性影响最大的领域，未来会有最大的进步。
现在就面临这样一个挑战，你想让一个神经网络总结长文档或获取摘要，如何确定重要的细节没有被忽视？如果一个要点显然重要到每个读者都会对此达成一致，那么就可以承认神经网络总结的内容是可靠的。
在神经网络是否清楚地遵循用户意图这一点上也同样适用。
未来两年会看到越来越多这样的技术，让这项技术变得越来越可靠。
https://blogs.nvidia.com/blog/2023/03/22/sutskever-openai-gtc/
