Skip to content

#829. Dwarkesh Patel|RSI:AI怎么从数学题进步到超越顶尖研究员?

November 15, 2026 · 44 min

Show notes

📝 本期播客简介

本期我们克隆了:Dwarkesh Patel · Recursive self-improvement has started

原内容更新时间:2026-11-13

“距离 AI 在 AI 研究上达到人类顶尖水平,只剩下两年左右了,甚至可能只剩几个月。”Dwarkesh Patel说,自己几个月前还不相信这个判断,如今却认为 AI 已经在加速 AI 的发展。

他从数学能力的跃升、AI实验室的研发效率变化,推演自动化研究员如何凭借更快的工作速度、更强的能力和更多的并行实例推动进展。他也谈到持续学习、数据和实验算力这些可能的瓶颈,并解释为什么即使 AI 研究不是完全可验证的,仍可能被大规模自动化。

👤 本期嘉宾

Dwarkesh Patel 是本集原节目的主持人和作者,围绕 AI 研究自动化与递归自我改进展开论证。他关注 AI 在可验证任务上的进步,以及这些能力能否迁移到 AI 研发;本集的判断来自他对近期进展的观察、推演和对主要反对意见的回应。

⏱️ 时间戳

AI进步正在加速

00:20 AI研究达到顶尖水平,或许只需几个月到两年

01:09 METR称范围明确任务的AI进展速度翻倍

02:53 两年间,数学能力从做不出竞赛题到拿下金牌

自动化研究员的冲击

10:44 AI工作速度约为人类10倍,可全天候工作

14:15 点子变难找的速度,决定会不会出现纯软件奇点

15:10 一年压缩出约4年进展,可能从GPT-3.5跨到GPT-6

可验证性与瓶颈

25:35 AI最令人头疼的缺陷:样本效率不足

34:03 缺少持续学习,未必阻止研究工作自动化

40:05 一万个agent,或各自每天训练一个GPT-3规模模型

🌟 精彩内容

💡 AI研发效率已经在加速

METR在Anthropic观察3个月后称,范围明确任务上的AI进展速度是一年前的2倍。Anthropic报告称,Claude参与的AI研发工作从2月不到1%,升到26%;OpenAI高频使用内部 coding agent 的研究人员,每天使用的价值从约1000美元涨到8月底超过7000美元。

"如今这部分加速大半很可能是因为 Anthropic 广泛使用 AI 来做研发。"

💡 一年可能压缩出4年进展

如果AI自动化研究,研究员会更快、更聪明,数量也更多。Dwarkesh Patel估计,即使最终不是几个月内出现“纯软件奇点”,自动化后的第一个自然年也可能取得相当于当前速度4年的进展。

"这相当于从 GPT-3.5 到 GPT-6 Astra 那么大的跨越,只用了短短 12 个月。"

💡 数学能力的跃升让他改了判断

2023年,模型还不能稳定做四位数加法;2024年,几乎做不出高中数学竞赛题;2025年,已经能在国际数学奥林匹克竞赛拿金牌。随后,OpenAI用88小时解决了一道千禧年大奖难题。

"关于诸神的陨落,有一件事是确定无疑的。他们不会只是稍稍跌落,而是会轰然坠地,摔得粉碎。"

💡 缺少长期记忆,也未必拦得住

他曾认为,每次会话都像AI“上班第一天”,缺少持续学习会卡住研究自动化;但现在他认为,扩展上下文学习或在可验证任务上提升在线学习能力,或许能绕开这个瓶颈。他仍给“到2032年之后才自动化顶尖研究员工作”留了25%的概率。

"这些模型都已经在解决千禧年大奖难题了,却依然像一些没有长期记忆、傻乎乎的天才实习生。"

💡 一万个研究员agent,各自每天训练一个GPT-3

他用算力增长推演:到2027年底,OpenAI或许能给1万个agent分配足够算力,让每个agent几乎每天训练一个GPT-3规模的模型。作为对照,最初的Transformer论文训练最终模型用了8块P100跑3天,今天租用这批算力约需50美元。

"那么你觉得,一家 AI 实验室如果有 1 万名优秀研究员,每个人都有这么多算力,而且思考速度都快 10 倍,生产力会有多高?"

🌐 播客信息补充

本播客采用原有人声声线进行播客音频制作,也可能会有一些地方听起来怪怪的

使用 AI 进行翻译,因此可能会有一些地方不通顺

如果有后续想要听中文版的其他外文播客,也欢迎联系微信:iEvenight


在小宇宙查看该单集文稿

All episodes of 跨国串门儿计划

Settings

Display

Language

Decides which stations you see first on the home page.

History

Recently played stations and episodes and your latest searches are only stored in this browser.

Notifications

A short notice when a podcast you follow has a new episode. Turn off single podcasts with the bell on their page.

Account

Save favorites – in the app and on the website.

Keyboard shortcuts

/
Open search
Space
Play or pause
← →
In the player: back 15 s, forward 30 s (episodes) · in a row: next tile
↑ ↓
In a row: target within the tile
Home / End
In a row: first or last tile
Esc
Close window or menu
?
This overview
Now playing

Go to station page

Play next

    Add episodes with “Play next” – they play after the current episode.