Pular para o conteúdo

What We Are Missing In The AI Safety Debate

20 de outubro de 2026 · 7 min

Notas do episódio

AI safety has moved further into public debate following a series of incidents over the summer involving AI systems behaving in concerning ways. But efforts to influence the direction of AI development often focus on coordination between AI labs or competition between the U.S. and China. There’s another relationship that deserves more attention: the businesses buying and using AI, and the society they operate in. Both have an interest in AI that is reliable and accountable. Could that shared interest become a source of leverage over the companies building it? In this episode, I explore what coordination between businesses and society could look like, and why I think it’s an under-explored lever for AI safety. 0:00 A different way to think about AI safety 0:20 What is recursive self-improvement? 1:35 The AI alignment problem 2:38 The race between AI labs 3:23 AI companies still need customers 4:44 Where business and society’s interests align 5:17 The financial pressure on AI companies 6:01 A lever worth exploring Listen to the show on other platforms: Apple Podcasts – https://podcasts.apple.com/ Spotify – https://open.spotify.com/ Follow my work here: Website: https://www.sineadbovell.com Substack: https://sineadbovell.substack.com Instagram: / sineadbovell LinkedIn: / sineadbovell X: https://x.com/sineadbovell YouTube: / @sineadbovell

Todos os episódios de I’ve Got Questions with Sinead Bovell

Configurações

Exibição

Idioma

Define quais estações você vê primeiro na página inicial.

Histórico

As rádios e episódios ouvidos recentemente e suas últimas buscas ficam só neste navegador.

Avisos

Um aviso rápido quando um podcast que você segue tem um episódio novo. Desative podcasts individuais pelo sino na página deles.

Conta

Salve favoritos – no app e no site.

Atalhos de teclado

/
Abrir busca
Espaço
Reproduzir ou pausar
← →
No player: voltar 15 s, avançar 30 s (episódios) · na fileira: próximo bloco
↑ ↓
Na fileira: alvo dentro do bloco
Home / End
Na fileira: primeiro ou último bloco
Esc
Fechar janela ou menu
?
Esta visão geral
Tocando agora

Ir para a estação

A seguir

    Adicione episódios com “A seguir” – eles tocam depois do episódio atual.