OpenAI联合创始人Ilya Sutskever：人工智能的构建方式即将发生变化

  12月15日消息，OpenAI的联合创始人、前首席科学家Ilya Sutskever今年早些时候上了头条，因为他离开OpenAI，创办了自己的人工智能实验室Safe Superintelligence。

  “我们知道，预训练毫无疑问会结束、”Sutskever说。这是指人工智能模型开发的第一阶段，当一个大型语言模型从大量未标记的数据中学习模式时，通常是来自互联网、书籍和其他来源的文本。

  在NeurIPS的演讲中，Sutskever表示，尽管他认为现有数据仍然可以推动人工智能的进一步发展，但该行业正在开发新的数据来进行培训。他说，这种动态最终将迫使人们改变目前训练模型的方式。他把这种情况比作化石燃料：就像石油是一种有限的资源一样，互联网包含的人类生成的内容也是有限的。

  “我们已经达到了数据峰值，不会再有了，”Sutskever说，“我们必须处理我们拥有的数据。只有一个互联网。”

  他预测，下一代模型将“以一种真实的方式具有真实感”。在人工智能领域，Agent已经成为一个真正的流行语。虽然Sutskever在演讲中没有给它们下定义，但它们通常被理解为一种自主的人工智能系统，可以自己执行任务、做出决策，并与软件交互。

  他说，未来的系统除了具有“自主性”外，还将具有推理能力。今天的人工智能主要是基于模型之前看到的模式匹配，而未来的人工智能系统将能够以一种更类似于思考的方式逐步解决问题。

  在演讲中，他将人工智能系统的规模与进化生物学进行了比较，并引用了表明不同物种之间大脑和体重之间关系的研究。他指出，虽然大多数哺乳动物遵循一种比例模式，但原始人的脑体重比在对数尺度上表现出明显不同的斜率。

  他认为，就像进化为原始人的大脑找到了一种新的缩放模式一样，人工智能可能会发现新的方法，超越目前的预训练方式。