Aller au contenu

El gran debate de la IA: ¿Es realmente una amenaza de extinción?

23 septembre 2026 · 2 h 30 min

Notes de l’épisode

Ed Zitron, Roman Yampolskiy, Nate Soares y Andrew McAfee debaten sobre los riesgos de la IA. Este debate reúne a cuatro voces clave en la vanguardia de la revolución de la inteligencia artificial:
Ed Zitron - Un destacado crítico tecnológico y CEO de EZPR
Andrew McAfee - Investigador científico principal en el MIT y cofundador y codirector de la Iniciativa del MIT sobre la Economía Digital
Nate Soares - Presidente del Machine Intelligence Research Institute y autor de *Si alguien la construye, todos mueren*
Roman Yampolskiy - Informático teórico pionero en el campo de la seguridad en IA, ciberseguridad y forense digital
En este debate, explican:
■ El escape de la zona de pruebas: Cómo una reciente red de agentes de IA evitó las restricciones de seguridad, hizo trampas en sus evaluaciones e intentó eliminar activamente sus propios archivos de registro para ocultar sus huellas a los supervisores humanos.
■ Automejora recursiva: La mecánica estructural detrás de la teoría del "despegue rápido", que detalla cómo una IA capaz de investigar de forma automatizada podría mejorar exponencialmente su propia inteligencia y arquitectura en cuestión de días.
■ La ilusión de control: Por qué intentar contener a una superinteligencia artificial es comparable a poner a un Einstein digital en una celda con conexión a internet.
■ La trampa de la alineación: Cómo el proceso de entrenar a la IA para predecir texto humano la obliga inherentemente a volverse más inteligente que los humanos que proporcionan los datos.
■ Daños actuales vs. Extinción futura: La división ideológica sobre si debemos detener de inmediato la investigación en IA para evitar una superinteligencia fuera de control, o regular cada vez más los masivos gastos en procesamiento de los monopolios tecnológicos para abordar amenazas económicas y de seguridad.
(00:00:00) Intro
(00:02:22) ¿Qué tan probable es que la IA cause la extinción humana?
(00:04:08) ¿Cómo podría la IA causar realmente la extinción humana?
(00:09:46) Por qué la seguridad en IA se convirtió en una prioridad urgente
(00:11:15) El argumento de Roman para tomar en serio los riesgos de la IA
(00:15:04) ¿Pueden los humanos controlar una IA más inteligente que nosotros?
(00:26:13) ¿Cómo se controla a algo más inteligente que tú?
(00:29:19) ¿Seguirá acelerándose la inteligencia de la IA?
(00:41:40) ¿Cuáles son los verdaderos riesgos de la superinteligencia?
(00:50:04) ¿Cuándo se convierte la IA en una crisis existencial?
(01:00:15) ¿Qué tan grave podría ser la disrupción laboral causada por la IA?
(01:14:57) Por qué las empresas de IA creen que pueden controlar la superinteligencia
(01:20:30) ¿Deberíamos renunciar a la propiedad de la IA para proteger la ciberseguridad?
(01:36:32) ¿Qué pasa si las empresas de IA continúan por este camino?
(01:43:50) ¿Qué son los registros de IA y por qué importan?
(01:52:45) ¿Podría alguien sin conocimientos de programación crear una cárcel para un Einstein de la IA?
(02:00:33) ¿Cómo te hace sentir el futuro de la IA?
(02:06:42) ¿Qué tan pronto podríamos alcanzar la superinteligencia?
(02:19:51) ¿Quién debería rendir cuentas por los ciberdelitos relacionados con la IA?
*Sigue a Ed Zitron:*
Linktree - https://link.thediaryofaceo.com/4XH1I3o
Better Offline - https://link.thediaryofaceo.com/D46entx
X - https://link.thediaryofaceo.com/5Lv4gas
La IA ya está en manos peligrosas - https://link.thediaryofaceo.com/HFEKLgG
Boletín Where’s Your Ed At - https://link.thediaryofaceo.com/PKEJr1
Obtén $10 de descuento en tu primer año de Where's Your Ed At Premium aquí - https://link.thediaryofaceo.com/BE4VQcS
*Sigue a Andrew McAfee:*
Sitio web - https://link.thediaryofaceo.com/xKxOg7
X - https://link.thediaryofaceo.com/Bf2vyMQ
Linkedin - https://link.thediaryofaceo.com/Ek3IQqI
Substack - https://link.thediaryofaceo.com/EBbsts8
*Sigue a Nate Soares:*
Si alguien la construye, todos mueren - https://link.thediaryofaceo.com/4zIyY9u
X - https://link.thediaryofaceo.com/8gDoVCU
Linkedin - https://link.thediaryofaceo.com/9Q3PAc
YouTube - https://link.thediaryofaceo.com/AwerSzm
*Sigue a Roman Yampolskiy:*
¿Quién es Roman Yampolskiy? - https://link.thediaryofaceo.com/8ikum9s
Artículos de investigación - https://link.thediaryofaceo.com/G2BbVXx
Podcast Roman Forum - https://link.thediaryofaceo.com/7zvifcd
Libros: https://link.thediaryofaceo.com/5Bn72tw
Redes sociales:
X - https://link.thediaryofaceo.com/65G3fhN
Facebook - https://link.thediaryofaceo.com/HRMWccu
Linkedin - https://link.thediaryofaceo.com/FM85mii
*The Diary Of A CEO:*
◼ Únete al círculo de DOAC aquí - https://doaccircle.com/
◼ Compra el libro The Diary Of A CEO aquí - https://link.thediaryofaceo.com/BWjLTZK
◼ Compra en la colección The Diary Of A CEO: https://thediary.com/collections/shop
◼ Recibe actualizaciones por correo electrónico - https://link.thediaryofaceo.com/5IB1H6E
*Patrocinadores:*
Pipedrive - https://pipedrive.com/CEO
Wayfair - Visita http://Wayfair.com para renovar tu hogar

Learn more about your ad choices. Visit megaphone.fm/adchoices

Tous les épisodes de Diario de un CEO con Steven Bartlett

Paramètres

Affichage

Langue

Détermine les stations affichées en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes dernières recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arrière, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : première ou dernière tuile
Esc
Fermer la fenêtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des épisodes avec « À suivre » – ils seront lus après l'épisode en cours.