Zum Inhalt springen

Emergency Pod! An AI Safety Tipping Point? Amodei calls for an AI slowdown

15.09.2026 · 1 Std. 19 Min.

Shownotes

Anthropic CEO Dario Amodei has asked the AI industry to slow itself down, saying it should “pace the frontier” of AI development. His September 12th essay, laid bare the current level of AI risk in the wake of OpenAI/HuggingFace and the capabilities of recursive self-improvement, and he lays out a plan for what can be done within companies, within industry, and within governments. Gregory Allen and Adam Goodwin cover the essay's proposals, and why Amodei argues pacing makes sense now when the 2023 pause letter did not. They then cover reactions and how Sam Altman says OpenAI will take up part independent evaluators, and Demis Hassabis calls the direction correct. President Trump calls the prospect of AI catastrophe "a hoax," and China's foreign ministry calls the proposal "fear mongering," while Congress continues to debate AI regulation, without much prospect of passing anything until after the midterms.

Chapters:

00:00 – 15:37: Setting the stage for understanding Dario’s post
15:37 – 23:00: Pacing the frontier as an idea, and what to do with the extra time?
23:00 – 34:16: Focus on operational excellence, alignment, interpretability, testing and evaluation; METR as the current standard
34:16 – 38:16: What Dario is asking for from government
38:16 – 43:06: What would (or wouldn’t) international cooperation look like?
43:06 – 50:43: Keeping China at bay assuming they will not sign on to slow development, and the official Chinese response
50:43 – 55:17: Reactions to Amodei’s post from industry
55:17 – 1:10:28 President Trump and Obama’s reactions to Amodei’s post; David Sacks opposes Amodei’s suggestions
1:10:28 – 1:19:06: Congressional reactions; calls to regulate not likely to be heeded this session”

Alle Folgen von The AI Power Podcast

Einstellungen

Darstellung

Sprache

Bestimmt, welche Sender dir auf der Startseite zuerst gezeigt werden.

Verlauf

Zuletzt gehörte Sender und Folgen und deine letzten Suchen liegen nur in diesem Browser.

Hinweise

Ein kurzer Hinweis, wenn ein Podcast, dem du folgst, eine neue Folge hat. Einzelne Podcasts stellst du über die Glocke auf ihrer Seite ab.

Konto

Favoriten speichern – in der App und auf der Website.

Tastenkürzel

/
Suche öffnen
Leertaste
Abspielen oder anhalten
← →
Im Player: 15 s zurück, 30 s vor (Folgen) · im Regal: nächste Kachel
↑ ↓
Im Regal: Ziel innerhalb der Kachel
Pos1 / Ende
Im Regal: erste bzw. letzte Kachel
Esc
Fenster oder Menü schließen
?
Diese Übersicht
Läuft gerade

Zur Senderseite

Als Nächstes

    Folgen mit „Als Nächstes“ vormerken – sie laufen nach der aktuellen Folge.