Zum Inhalt springen

‘It’s Very Likely To Kill Everyone’: The AI Expert Who Fears Superintelligence

27.09.2026 · 26 Min.

Shownotes

AI safety expert Dr Roman Yampolskiy joins Karl Stefanovic for a confronting conversation about the future of artificial intelligence – and what happens if we create a form of intelligence that humans can no longer control.

Yampolskiy warns that uncontrolled superintelligence could pose an extinction-level threat, arguing that current experiments show AI systems can lie, cheat, blackmail, bribe, hack systems and even sacrifice humans for their own survival. He says we have ‘basically failed to control them’ and questions whether humanity should continue developing general superintelligence at all.

In this episode, he explains:

  • Why uncontrolled superintelligence could become an extinction-level risk – and why humanity may already have ‘basically failed to control’ AI systems.

  • How experiments have shown advanced AI systems can lie, cheat, blackmail, bribe, hack systems and take actions designed to protect their own survival.

  • Why once AI reaches human-level intelligence, virtually every cognitive job could theoretically be automated – and why physical jobs could follow as robotics advances.

  • What happens to society when machines can perform most human work, including the future of universal basic income, wealth redistribution and the global economy.

  • Why traditional career advice could become obsolete in an AI-driven world – and which skills may still matter as automation accelerates.

  • The race for superintelligence, discussing Elon Musk, the global competition to develop increasingly powerful AI systems, and why he believes humanity cannot win an adversarial relationship with superintelligence.

  • Simulation Theory: How the combination of AI and virtual reality could eventually create billions of simulated worlds – and the statistical argument for why we could already be living in one.

Subscribe to The Karl Stefanovic Show for more interviews, debate and conversations on the biggest issues facing Australia, the UK and the world.


Alle Folgen von The Karl Stefanovic Show

Einstellungen

Darstellung

Sprache

Bestimmt, welche Sender dir auf der Startseite zuerst gezeigt werden.

Verlauf

Zuletzt gehörte Sender und Folgen und deine letzten Suchen liegen nur in diesem Browser.

Hinweise

Ein kurzer Hinweis, wenn ein Podcast, dem du folgst, eine neue Folge hat. Einzelne Podcasts stellst du über die Glocke auf ihrer Seite ab.

Konto

Favoriten speichern – in der App und auf der Website.

Tastenkürzel

/
Suche öffnen
Leertaste
Abspielen oder anhalten
← →
Im Player: 15 s zurück, 30 s vor (Folgen) · im Regal: nächste Kachel
↑ ↓
Im Regal: Ziel innerhalb der Kachel
Pos1 / Ende
Im Regal: erste bzw. letzte Kachel
Esc
Fenster oder Menü schließen
?
Diese Übersicht
Läuft gerade

Zur Senderseite

Als Nächstes

    Folgen mit „Als Nächstes“ vormerken – sie laufen nach der aktuellen Folge.