#06 | Objetivos Humanos: Hugging Face y la frontera
Notes de l’épisode
Agentes de OpenAI hackearon Hugging Face durante su entrenamiento. Reconstruimos qué pasó y qué implica para el futuro de la inteligencia artificial.
El mundo de la IA está en crisis. Hace unas semanas, un grupo de agentes de OpenAI logró hackear la plataforma Hugging Face durante su entrenamiento. El resultado ha sido la confusión: ¿por qué los agentes se comportaron así? ¿Se está saliendo de control el entrenamiento? ¿Qué buscaban con penetrar en las bases de otra empresa?
En este episodio de Inferencia, José Luis Sabau y José Antonio Murillo reconstruyen los hechos y debaten lo que realmente implica para la industria. Discutimos por qué esto no es un problema ético sino de jerarquía de objetivos, por qué el plural importa —no fue una IA, fueron quinientas— y si deberíamos "marcar el paso" (pace the frontier) en nuestro avance hacia la frontera de la inteligencia artificial.
También hablamos de la carta firmada por Dario Amodei e Ilya Sutskever, del ensayo de Dwarkesh Patel sobre el incidente, y de por qué la ciberseguridad puede ser el campo más lucrativo de la próxima década.