25 / 11 / 29

用Youmind上总结Ilya Sutskever 访谈，附两份PPT链接

PPT如下，用Youmind上shortcut生成。分别是锤子风格和苹果风格，还不错看。

以下是AI生成。

这是一份关于 Ilya Sutskever 访谈的中文要点总结。这次对话的核心论点是：AI 领域正从单纯依靠堆算力和数据的“扩展时代（Age of Scaling）”，回归到探索新范式和原理的“研究时代（Age of Research）”。

以下是详细的核心观点总结：

1. 时代的转变：从 Scaling 到 Research

扩展时代的终结？ 2012-2020 是研究时代（探索各种可能性），2020-2025 是扩展时代（Scaling Laws，预训练是核心配方）。

回归研究：现在算力已经非常巨大，单纯将规模再扩大 100 倍可能无法带来质的飞跃。我们重新回到了需要通过“研究”来寻找新配方（Recipe）的阶段，而不仅仅是增加数据和算力。

2. 核心瓶颈：泛化与样本效率

AI 的“死记硬背” vs 人类的“举一反三”：现在的模型虽然在评估（Evals）上表现出色，但在实际经济影响上滞后。这可能是因为模型通过预训练（Pre-training）见过了几乎所有数据，类似于一个刷了 10,000 小时题的竞赛选手。

样本效率（Sample Efficiency）：人类（例如青少年学开车）只需要极少的数据和非结构化的反馈就能掌握复杂技能，且具备极强的鲁棒性。相比之下，AI 需要海量数据。这暗示人类拥有一种比当前 AI 更优越的机器学习算法。

3. 价值函数与情绪的作用

情绪即价值函数： Ilya 提出一个有趣的观点，人类的“情绪”可能是一种进化而来的、简单但极度鲁棒的“价值函数（Value Function）”。它指导我们在没有明确奖励信号的情况下进行决策和学习。

RL 的局限：当前的强化学习（RL）往往依赖明确的验证奖励，而人类的学习（如导师带学生）更多是潜移默化的思维传递，不需要每一步都有明确打分。

4. 重新定义 AGI：持续学习（Continual Learning）

AGI 不是全知全能： “AGI”这个词被“预训练”的概念带偏了，让人以为 AGI 就是一个出厂时就知晓一切的静态模型。

真正的智能是学习能力：人类不是生来就是医生或程序员，人类是“可学习者”。真正的超级智能应该是一个具备极致持续学习能力的系统——它被部署后，能像人类员工一样在工作中不断学习新技能，最终胜任任何工作。

5. 安全与部署策略

必须“展示”出来（Show the thing）： Ilya 改变了他之前的想法，现在倾向于逐步发布。因为超级智能太超乎想象，无论是公众还是研究者，如果看不到实物，就无法真正理解其力量，也就无法产生足够的紧迫感去建立安全机制。

逐步发布即安全测试：就像航空安全是靠不断的飞行和事故修正来完善一样，AI 的安全性也需要在与现实世界的交互中进化。

6. SSI (Safe Superintelligence) 的定位

算力用于研究而非推理：虽然 SSI 的融资额看似不如某些巨头，但巨头的算力大量用于服务用户（Inference），而 SSI 的算力集中用于攻克核心研究难题，这在研究层面是足够的。

目标：建立一个关心“感知生命（Sentient Life）”的 AI，而不仅仅是关心人类，因为 AI 自身也将是感知生命，这种共情可能比单纯的代码约束更有效。