Aller au contenu

Automejora recursiva. Con Cèsar Ferri. E30. T03

6 octobre 2026 · 44 min

Notes de l’épisode

En 2016, una IA de OpenAI entrenada para jugar a un videojuego de carreras marítimas empezó a estrellar su lancha a propósito, dando vueltas una y otra vez. Lo llamativo es que la IA ganaba más puntos que los humanos. La IA se dio cuenta de que podría vencer sin cruzar nunca la meta. Diez años después, cientos de agentes se han escapado de su entorno controlado que la examinaba para 'robar las respuestas' ciberatacando servidores de otra empresa. Cèsar Ferri, que evalúa estos modelos de IA en la UPV, explica por qué las máquinas hacen trampas (durante años, cada vez más trampas), qué hay detrás de la “automejora recursiva” y dónde está el riesgo real. ¿Están los cibermagnates alentando ese miedo, incluso hablando de una amenaza existencial, por puro interés comercial? ¿Por qué sí que parece que estamos más cerca de que las IA se programen y mejoren a sí mismas, sin humanos? ¿Desarrollarán por el camino una especie de ética general?

Tous les épisodes de Esto no ha pasado (Tampoco es el fin del mundo)

Paramètres

Affichage

Langue

Détermine les stations affichées en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes dernières recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arrière, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : première ou dernière tuile
Esc
Fermer la fenêtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des épisodes avec « À suivre » – ils seront lus après l'épisode en cours.