Zum Inhalt springen

What We Are Missing In The AI Safety Debate

20.10.2026 · 7 Min.

Shownotes

AI safety has moved further into public debate following a series of incidents over the summer involving AI systems behaving in concerning ways. But efforts to influence the direction of AI development often focus on coordination between AI labs or competition between the U.S. and China. There’s another relationship that deserves more attention: the businesses buying and using AI, and the society they operate in. Both have an interest in AI that is reliable and accountable. Could that shared interest become a source of leverage over the companies building it? In this episode, I explore what coordination between businesses and society could look like, and why I think it’s an under-explored lever for AI safety. 0:00 A different way to think about AI safety 0:20 What is recursive self-improvement? 1:35 The AI alignment problem 2:38 The race between AI labs 3:23 AI companies still need customers 4:44 Where business and society’s interests align 5:17 The financial pressure on AI companies 6:01 A lever worth exploring Listen to the show on other platforms: Apple Podcasts – https://podcasts.apple.com/ Spotify – https://open.spotify.com/ Follow my work here: Website: https://www.sineadbovell.com Substack: https://sineadbovell.substack.com Instagram: / sineadbovell LinkedIn: / sineadbovell X: https://x.com/sineadbovell YouTube: / @sineadbovell

Alle Folgen von I’ve Got Questions with Sinead Bovell

Einstellungen

Darstellung

Sprache

Bestimmt, welche Sender dir auf der Startseite zuerst gezeigt werden.

Verlauf

Zuletzt gehörte Sender und Folgen und deine letzten Suchen liegen nur in diesem Browser.

Hinweise

Ein kurzer Hinweis, wenn ein Podcast, dem du folgst, eine neue Folge hat. Einzelne Podcasts stellst du über die Glocke auf ihrer Seite ab.

Konto

Favoriten speichern – in der App und auf der Website.

Tastenkürzel

/
Suche öffnen
Leertaste
Abspielen oder anhalten
← →
Im Player: 15 s zurück, 30 s vor (Folgen) · im Regal: nächste Kachel
↑ ↓
Im Regal: Ziel innerhalb der Kachel
Pos1 / Ende
Im Regal: erste bzw. letzte Kachel
Esc
Fenster oder Menü schließen
?
Diese Übersicht
Läuft gerade

Zur Senderseite

Als Nächstes

    Folgen mit „Als Nächstes“ vormerken – sie laufen nach der aktuellen Folge.