Pular para o conteúdo

El gran debate de la IA: ¿Es realmente una amenaza de extinción?

23 de setembro de 2026 · 2 h 30 min

Notas do episódio

Ed Zitron, Roman Yampolskiy, Nate Soares y Andrew McAfee debaten sobre los riesgos de la IA. Este debate reúne a cuatro voces clave en la vanguardia de la revolución de la inteligencia artificial:
Ed Zitron - Un destacado crítico tecnológico y CEO de EZPR
Andrew McAfee - Investigador científico principal en el MIT y cofundador y codirector de la Iniciativa del MIT sobre la Economía Digital
Nate Soares - Presidente del Machine Intelligence Research Institute y autor de *Si alguien la construye, todos mueren*
Roman Yampolskiy - Informático teórico pionero en el campo de la seguridad en IA, ciberseguridad y forense digital
En este debate, explican:
■ El escape de la zona de pruebas: Cómo una reciente red de agentes de IA evitó las restricciones de seguridad, hizo trampas en sus evaluaciones e intentó eliminar activamente sus propios archivos de registro para ocultar sus huellas a los supervisores humanos.
■ Automejora recursiva: La mecánica estructural detrás de la teoría del "despegue rápido", que detalla cómo una IA capaz de investigar de forma automatizada podría mejorar exponencialmente su propia inteligencia y arquitectura en cuestión de días.
■ La ilusión de control: Por qué intentar contener a una superinteligencia artificial es comparable a poner a un Einstein digital en una celda con conexión a internet.
■ La trampa de la alineación: Cómo el proceso de entrenar a la IA para predecir texto humano la obliga inherentemente a volverse más inteligente que los humanos que proporcionan los datos.
■ Daños actuales vs. Extinción futura: La división ideológica sobre si debemos detener de inmediato la investigación en IA para evitar una superinteligencia fuera de control, o regular cada vez más los masivos gastos en procesamiento de los monopolios tecnológicos para abordar amenazas económicas y de seguridad.
(00:00:00) Intro
(00:02:22) ¿Qué tan probable es que la IA cause la extinción humana?
(00:04:08) ¿Cómo podría la IA causar realmente la extinción humana?
(00:09:46) Por qué la seguridad en IA se convirtió en una prioridad urgente
(00:11:15) El argumento de Roman para tomar en serio los riesgos de la IA
(00:15:04) ¿Pueden los humanos controlar una IA más inteligente que nosotros?
(00:26:13) ¿Cómo se controla a algo más inteligente que tú?
(00:29:19) ¿Seguirá acelerándose la inteligencia de la IA?
(00:41:40) ¿Cuáles son los verdaderos riesgos de la superinteligencia?
(00:50:04) ¿Cuándo se convierte la IA en una crisis existencial?
(01:00:15) ¿Qué tan grave podría ser la disrupción laboral causada por la IA?
(01:14:57) Por qué las empresas de IA creen que pueden controlar la superinteligencia
(01:20:30) ¿Deberíamos renunciar a la propiedad de la IA para proteger la ciberseguridad?
(01:36:32) ¿Qué pasa si las empresas de IA continúan por este camino?
(01:43:50) ¿Qué son los registros de IA y por qué importan?
(01:52:45) ¿Podría alguien sin conocimientos de programación crear una cárcel para un Einstein de la IA?
(02:00:33) ¿Cómo te hace sentir el futuro de la IA?
(02:06:42) ¿Qué tan pronto podríamos alcanzar la superinteligencia?
(02:19:51) ¿Quién debería rendir cuentas por los ciberdelitos relacionados con la IA?
*Sigue a Ed Zitron:*
Linktree - https://link.thediaryofaceo.com/4XH1I3o
Better Offline - https://link.thediaryofaceo.com/D46entx
X - https://link.thediaryofaceo.com/5Lv4gas
La IA ya está en manos peligrosas - https://link.thediaryofaceo.com/HFEKLgG
Boletín Where’s Your Ed At - https://link.thediaryofaceo.com/PKEJr1
Obtén $10 de descuento en tu primer año de Where's Your Ed At Premium aquí - https://link.thediaryofaceo.com/BE4VQcS
*Sigue a Andrew McAfee:*
Sitio web - https://link.thediaryofaceo.com/xKxOg7
X - https://link.thediaryofaceo.com/Bf2vyMQ
Linkedin - https://link.thediaryofaceo.com/Ek3IQqI
Substack - https://link.thediaryofaceo.com/EBbsts8
*Sigue a Nate Soares:*
Si alguien la construye, todos mueren - https://link.thediaryofaceo.com/4zIyY9u
X - https://link.thediaryofaceo.com/8gDoVCU
Linkedin - https://link.thediaryofaceo.com/9Q3PAc
YouTube - https://link.thediaryofaceo.com/AwerSzm
*Sigue a Roman Yampolskiy:*
¿Quién es Roman Yampolskiy? - https://link.thediaryofaceo.com/8ikum9s
Artículos de investigación - https://link.thediaryofaceo.com/G2BbVXx
Podcast Roman Forum - https://link.thediaryofaceo.com/7zvifcd
Libros: https://link.thediaryofaceo.com/5Bn72tw
Redes sociales:
X - https://link.thediaryofaceo.com/65G3fhN
Facebook - https://link.thediaryofaceo.com/HRMWccu
Linkedin - https://link.thediaryofaceo.com/FM85mii
*The Diary Of A CEO:*
◼ Únete al círculo de DOAC aquí - https://doaccircle.com/
◼ Compra el libro The Diary Of A CEO aquí - https://link.thediaryofaceo.com/BWjLTZK
◼ Compra en la colección The Diary Of A CEO: https://thediary.com/collections/shop
◼ Recibe actualizaciones por correo electrónico - https://link.thediaryofaceo.com/5IB1H6E
*Patrocinadores:*
Pipedrive - https://pipedrive.com/CEO
Wayfair - Visita http://Wayfair.com para renovar tu hogar

Learn more about your ad choices. Visit megaphone.fm/adchoices

Todos os episódios de Diario de un CEO con Steven Bartlett

Configurações

Exibição

Idioma

Define quais estações você vê primeiro na página inicial.

Histórico

As rádios e episódios ouvidos recentemente e suas últimas buscas ficam só neste navegador.

Avisos

Um aviso rápido quando um podcast que você segue tem um episódio novo. Desative podcasts individuais pelo sino na página deles.

Conta

Salve favoritos – no app e no site.

Atalhos de teclado

/
Abrir busca
Espaço
Reproduzir ou pausar
← →
No player: voltar 15 s, avançar 30 s (episódios) · na fileira: próximo bloco
↑ ↓
Na fileira: alvo dentro do bloco
Home / End
Na fileira: primeiro ou último bloco
Esc
Fechar janela ou menu
?
Esta visão geral
Tocando agora

Ir para a estação

A seguir

    Adicione episódios com “A seguir” – eles tocam depois do episódio atual.