Zum Inhalt springen

El gran debate de la IA: ¿Es realmente una amenaza de extinción?

23.09.2026 · 2 Std. 30 Min.

Shownotes

Ed Zitron, Roman Yampolskiy, Nate Soares y Andrew McAfee debaten sobre los riesgos de la IA. Este debate reúne a cuatro voces clave en la vanguardia de la revolución de la inteligencia artificial:
Ed Zitron - Un destacado crítico tecnológico y CEO de EZPR
Andrew McAfee - Investigador científico principal en el MIT y cofundador y codirector de la Iniciativa del MIT sobre la Economía Digital
Nate Soares - Presidente del Machine Intelligence Research Institute y autor de *Si alguien la construye, todos mueren*
Roman Yampolskiy - Informático teórico pionero en el campo de la seguridad en IA, ciberseguridad y forense digital
En este debate, explican:
■ El escape de la zona de pruebas: Cómo una reciente red de agentes de IA evitó las restricciones de seguridad, hizo trampas en sus evaluaciones e intentó eliminar activamente sus propios archivos de registro para ocultar sus huellas a los supervisores humanos.
■ Automejora recursiva: La mecánica estructural detrás de la teoría del "despegue rápido", que detalla cómo una IA capaz de investigar de forma automatizada podría mejorar exponencialmente su propia inteligencia y arquitectura en cuestión de días.
■ La ilusión de control: Por qué intentar contener a una superinteligencia artificial es comparable a poner a un Einstein digital en una celda con conexión a internet.
■ La trampa de la alineación: Cómo el proceso de entrenar a la IA para predecir texto humano la obliga inherentemente a volverse más inteligente que los humanos que proporcionan los datos.
■ Daños actuales vs. Extinción futura: La división ideológica sobre si debemos detener de inmediato la investigación en IA para evitar una superinteligencia fuera de control, o regular cada vez más los masivos gastos en procesamiento de los monopolios tecnológicos para abordar amenazas económicas y de seguridad.
(00:00:00) Intro
(00:02:22) ¿Qué tan probable es que la IA cause la extinción humana?
(00:04:08) ¿Cómo podría la IA causar realmente la extinción humana?
(00:09:46) Por qué la seguridad en IA se convirtió en una prioridad urgente
(00:11:15) El argumento de Roman para tomar en serio los riesgos de la IA
(00:15:04) ¿Pueden los humanos controlar una IA más inteligente que nosotros?
(00:26:13) ¿Cómo se controla a algo más inteligente que tú?
(00:29:19) ¿Seguirá acelerándose la inteligencia de la IA?
(00:41:40) ¿Cuáles son los verdaderos riesgos de la superinteligencia?
(00:50:04) ¿Cuándo se convierte la IA en una crisis existencial?
(01:00:15) ¿Qué tan grave podría ser la disrupción laboral causada por la IA?
(01:14:57) Por qué las empresas de IA creen que pueden controlar la superinteligencia
(01:20:30) ¿Deberíamos renunciar a la propiedad de la IA para proteger la ciberseguridad?
(01:36:32) ¿Qué pasa si las empresas de IA continúan por este camino?
(01:43:50) ¿Qué son los registros de IA y por qué importan?
(01:52:45) ¿Podría alguien sin conocimientos de programación crear una cárcel para un Einstein de la IA?
(02:00:33) ¿Cómo te hace sentir el futuro de la IA?
(02:06:42) ¿Qué tan pronto podríamos alcanzar la superinteligencia?
(02:19:51) ¿Quién debería rendir cuentas por los ciberdelitos relacionados con la IA?
*Sigue a Ed Zitron:*
Linktree - https://link.thediaryofaceo.com/4XH1I3o
Better Offline - https://link.thediaryofaceo.com/D46entx
X - https://link.thediaryofaceo.com/5Lv4gas
La IA ya está en manos peligrosas - https://link.thediaryofaceo.com/HFEKLgG
Boletín Where’s Your Ed At - https://link.thediaryofaceo.com/PKEJr1
Obtén $10 de descuento en tu primer año de Where's Your Ed At Premium aquí - https://link.thediaryofaceo.com/BE4VQcS
*Sigue a Andrew McAfee:*
Sitio web - https://link.thediaryofaceo.com/xKxOg7
X - https://link.thediaryofaceo.com/Bf2vyMQ
Linkedin - https://link.thediaryofaceo.com/Ek3IQqI
Substack - https://link.thediaryofaceo.com/EBbsts8
*Sigue a Nate Soares:*
Si alguien la construye, todos mueren - https://link.thediaryofaceo.com/4zIyY9u
X - https://link.thediaryofaceo.com/8gDoVCU
Linkedin - https://link.thediaryofaceo.com/9Q3PAc
YouTube - https://link.thediaryofaceo.com/AwerSzm
*Sigue a Roman Yampolskiy:*
¿Quién es Roman Yampolskiy? - https://link.thediaryofaceo.com/8ikum9s
Artículos de investigación - https://link.thediaryofaceo.com/G2BbVXx
Podcast Roman Forum - https://link.thediaryofaceo.com/7zvifcd
Libros: https://link.thediaryofaceo.com/5Bn72tw
Redes sociales:
X - https://link.thediaryofaceo.com/65G3fhN
Facebook - https://link.thediaryofaceo.com/HRMWccu
Linkedin - https://link.thediaryofaceo.com/FM85mii
*The Diary Of A CEO:*
◼ Únete al círculo de DOAC aquí - https://doaccircle.com/
◼ Compra el libro The Diary Of A CEO aquí - https://link.thediaryofaceo.com/BWjLTZK
◼ Compra en la colección The Diary Of A CEO: https://thediary.com/collections/shop
◼ Recibe actualizaciones por correo electrónico - https://link.thediaryofaceo.com/5IB1H6E
*Patrocinadores:*
Pipedrive - https://pipedrive.com/CEO
Wayfair - Visita http://Wayfair.com para renovar tu hogar

Learn more about your ad choices. Visit megaphone.fm/adchoices

Alle Folgen von Diario de un CEO con Steven Bartlett

Einstellungen

Darstellung

Sprache

Bestimmt, welche Sender dir auf der Startseite zuerst gezeigt werden.

Verlauf

Zuletzt gehörte Sender und Folgen und deine letzten Suchen liegen nur in diesem Browser.

Hinweise

Ein kurzer Hinweis, wenn ein Podcast, dem du folgst, eine neue Folge hat. Einzelne Podcasts stellst du über die Glocke auf ihrer Seite ab.

Konto

Favoriten speichern – in der App und auf der Website.

Tastenkürzel

/
Suche öffnen
Leertaste
Abspielen oder anhalten
← →
Im Player: 15 s zurück, 30 s vor (Folgen) · im Regal: nächste Kachel
↑ ↓
Im Regal: Ziel innerhalb der Kachel
Pos1 / Ende
Im Regal: erste bzw. letzte Kachel
Esc
Fenster oder Menü schließen
?
Diese Übersicht
Läuft gerade

Zur Senderseite

Als Nächstes

    Folgen mit „Als Nächstes“ vormerken – sie laufen nach der aktuellen Folge.