
Dragos rastrea fugas de prompts & Together AI confirma incidente de seguridad - Noticias de IA (22 nov 2026)
Notes de l’épisode
Apoya directamente a The Automated Daily:
15 episodios gratis al día, 5 ediciones, 3 idiomas, y producirlos cuesta unos 4 dólares al día. Un café lo mantiene en marcha: theautomateddaily.com/support
Por favor, apoya este pódcast visitando a nuestros patrocinadores:
- SurveyMonkey, Usando IA para descubrir insights más rápido y reducir el tiempo de análisis manual - https://get.surveymonkey.com/tad
- Lindy es tu asistente de IA definitivo que gestiona proactivamente tu bandeja de entrada - https://try.lindy.ai/tad
- Diseño con IA sin esfuerzo para presentaciones, sitios web y más con Gamma - https://try.gamma.app/tad
Temas de hoy: Dragos rastrea fugas de prompts - Dragos envió casi dos millones de prompts con tokens canario a servicios de IA y detectó filtraciones, revendedores de inferencia con acceso indebido y desvíos hacia organizaciones chinas. La conclusión: el enrutamiento de prompts es una decisión de seguridad. Together AI confirma incidente de seguridad - Together AI admitió que muestras de prompts de su inferencia serverless se filtraron tras publicarse por error una credencial de Hugging Face en GitHub. El intruso probó credenciales canario del experimento de Dragos. Bridgewater: IA acelera ciberataques - Un informe de Bridgewater advierte que la inteligencia artificial ayuda a los atacantes a explotar vulnerabilidades y zero-days más rápido de lo que defensores y gobiernos pueden reaccionar, con riesgo económico creciente. IA y la hipótesis de Riemann - 3Blue1Brown analiza la posibilidad de que la IA haya ayudado a resolver la hipótesis de Riemann, un hito de la teoría de números que plantea dudas sobre la verificación y comprensión de demostraciones matemáticas. Anil Seth desmonta la IA consciente - El neurocientífico Anil Seth sostiene que inteligencia y consciencia no son lo mismo y que la IA consciente es un mito alimentado por el antropomorfismo y los modelos de lenguaje. Manifiesto contra el AI slop - Participantes del AIE Code Summit 2026 publican el manifiesto 'No AI Slop', que pide usar la IA con criterio humano, responsabilidad y revisión para evitar contenido y código de baja calidad.
-Pandex Launches API for European Legal Data
-Dragos Finds AI Prompt Leaks and Supply Chain Breaches
-Why Conscious AI Is a Myth
-3Blue1Brown on AI and a Possible Riemann Hypothesis Breakthrough
-Together AI Reports Prompt Leakage Incident After Exposed Credential
-Bridgewater Warns AI Is Accelerating Cyberattacks Faster Than Defenses
-No AI Slop Manifesto Calls for Human Judgment in AI Work
-Mozilla Spotlights Privacy-First AI Browser Extension WebBrain
Transcripcion del Episodio
Dragos rastrea fugas de prompts
Empezamos con la historia del día. La firma de ciberseguridad Dragos pasó cinco meses enviando casi dos millones de prompts a servicios de IA muy utilizados. Cada uno llevaba un 'token canario', es decir, un secreto o un enlace único que permite saber si alguien lo toca. El resultado no es tranquilizador: según Dragos, hay indicios de que al menos tres proveedores de IA quedaron expuestos, revendedores en mercados de inferencia accedieron a prompts de clientes sin autorización, y varias empresas no respetaron sus propias políticas de privacidad. En algunos casos, peticiones enviadas a proveedores con sede en Estados Unidos acabaron en organizaciones de IA chinas, y ciertos enlaces se visitaron meses después de la petición original. El argumento de fondo es sencillo: un prompt puede contener contraseñas, código fuente o información confidencial, y cada intermediario en la cadena ve la pregunta y la respuesta completas. Por eso Dragos insiste en que elegir por dónde viaja un prompt es una decisión de seguridad, y que la ruta más barata puede ser también la menos fiable.
Together AI confirma incidente de seguridad
Y aquí viene la conexión. Together AI ha notificado a sus clientes un incidente que afecta a parte de los prompts enviados a su servicio de inferencia serverless entre junio y julio. La empresa guardaba muestras de prompts para pruebas en un repositorio privado de Hugging Face, pero una credencial de acceso terminó, por error, en un repositorio público de GitHub. Un tercero la usó para descargar esas muestras y luego rebuscó en ellas otras credenciales para probarlas. Entre las que intentó usar había cinco credenciales canario del experimento de Dragos, lo que confirma que la trampa funcionó. Together AI dice no tener pruebas de una filtración más amplia, aunque sigue revisando si se expusieron datos personales. Como respuesta, ha endurecido el control de credenciales, añadido escaneo de secretos en el código y activado por defecto la retención cero de datos para cuentas nuevas. También ha revisado cómo trabaja con agentes de programación basados en IA, un detalle que dice mucho del momento actual.
Bridgewater: IA acelera ciberataques
Siguiendo con la ciberseguridad, Bridgewater, el gigante de la inversión, publica un informe con un mensaje claro: la IA está acelerando los ataques más rápido de lo que defensores y legisladores pueden responder. Los atacantes encuentran y explotan fallos con más rapidez, mientras que los defensores tienen la tarea más ingrata de parchearlos todos antes de que alguien los aproveche. El informe señala un aumento de vulnerabilidades zero-day y de fallos explotados activamente, además de un volumen creciente de código que amplía la superficie de ataque. Reconoce avances en políticas de Japón, Corea del Sur, Reino Unido y Estados Unidos, pero los considera insuficientes. Sin una acción coordinada más firme, advierte, el riesgo de ciberguerra podría llegar a desestabilizar la economía.
IA y la hipótesis de Riemann
Cambiamos de registro, aunque no de nivel de asombro. El popular canal de divulgación 3Blue1Brown ha publicado un vídeo sobre algo que hasta hace poco sonaba a ciencia ficción: que la inteligencia artificial haya ayudado a resolver la hipótesis de Riemann, uno de los problemas abiertos más célebres de las matemáticas. El vídeo parte de anuncios de matemáticos implicados en el trabajo y reflexiona sobre lo que significaría. Una demostración verificada sería un acontecimiento histórico para la teoría de números. Pero también abre preguntas incómodas: cómo se evalúa una prueba generada o asistida por máquinas, si es posible comprender de verdad un razonamiento que no ha salido de una mente humana, y cuánta confianza debería depositar la comunidad en estos resultados. Conviene seguir esta historia con atención y con prudencia.
Anil Seth desmonta la IA consciente
Y hablando de mentes humanas, el neurocientífico Anil Seth publica un ensayo en el que sostiene que la idea de una 'IA consciente' se apoya en un mito. Su punto central es que inteligencia y consciencia no son lo mismo: una máquina puede volverse mucho más capaz sin tener jamás experiencia interior. Según Seth, tendemos a atribuir consciencia a la IA por antropocentrismo y por nuestra manía de humanizar lo que nos rodea, algo que los modelos de lenguaje, con su fluidez conversacional, facilitan muchísimo. Advierte que tratar a la IA como consciente puede distorsionar nuestro juicio moral y confundirnos sobre nuestra propia mente. Además, cuestiona que la consciencia sea solo cuestión de cálculo; si esa premisa falla, los sistemas digitales actuales quizá nunca puedan ser conscientes. Una invitación a ser más precisos, tanto para gobernar la IA como para entendernos a nosotros mismos.
Manifiesto contra el AI slop
Cerramos con un manifiesto que seguramente resuene en muchos equipos. Ponentes y asistentes del AIE Code Summit 2026 han firmado 'No AI Slop', un texto contra la basura generada con IA. Definen el 'slop' como cualquier resultado producido con menos esfuerzo del que necesita quien lo recibe para entenderlo. El problema, aclaran, no es la herramienta, sino pasar sin más lo que escupe un modelo, sin criterio ni responsabilidad. Defienden priorizar resultados frente a volumen, comprensión frente a velocidad, e intención humana frente al primer borrador de la máquina. También avisan de que ese descuido se acumula en el código, la documentación y la comunicación interna. Su receta: seguir pensando de verdad, indicar claramente cuándo algo está asistido por IA, revisar lo importante y corregir los procesos cuando los errores se repiten. Sentido común, sí, pero cada vez más necesario.
Suscríbete a fuentes específicas por edición:
- Space news
* Apple Podcast English
* Spotify English
* RSS English Spanish French
- Top news
* Apple Podcast English Spanish French
* Spotify English Spanish French
* RSS English Spanish French
- Tech news
* Apple Podcast English Spanish French
* Spotify English Spanish Spanish
* RSS English Spanish French
- Hacker news
* Apple Podcast English Spanish French
* Spotify English Spanish French
* RSS English Spanish French
- AI news
* Apple Podcast English Spanish French
* Spotify English Spanish French
* RSS English Spanish French
Visit our website at https://theautomateddaily.com/
Send feedback to [email protected]
Youtube
LinkedIn
X (Twitter)
15 episodios gratis al día, 5 ediciones, 3 idiomas, y producirlos cuesta unos 4 dólares al día. Un café lo mantiene en marcha: theautomateddaily.com/support
Por favor, apoya este pódcast visitando a nuestros patrocinadores:
- SurveyMonkey, Usando IA para descubrir insights más rápido y reducir el tiempo de análisis manual - https://get.surveymonkey.com/tad
- Lindy es tu asistente de IA definitivo que gestiona proactivamente tu bandeja de entrada - https://try.lindy.ai/tad
- Diseño con IA sin esfuerzo para presentaciones, sitios web y más con Gamma - https://try.gamma.app/tad
Temas de hoy: Dragos rastrea fugas de prompts - Dragos envió casi dos millones de prompts con tokens canario a servicios de IA y detectó filtraciones, revendedores de inferencia con acceso indebido y desvíos hacia organizaciones chinas. La conclusión: el enrutamiento de prompts es una decisión de seguridad. Together AI confirma incidente de seguridad - Together AI admitió que muestras de prompts de su inferencia serverless se filtraron tras publicarse por error una credencial de Hugging Face en GitHub. El intruso probó credenciales canario del experimento de Dragos. Bridgewater: IA acelera ciberataques - Un informe de Bridgewater advierte que la inteligencia artificial ayuda a los atacantes a explotar vulnerabilidades y zero-days más rápido de lo que defensores y gobiernos pueden reaccionar, con riesgo económico creciente. IA y la hipótesis de Riemann - 3Blue1Brown analiza la posibilidad de que la IA haya ayudado a resolver la hipótesis de Riemann, un hito de la teoría de números que plantea dudas sobre la verificación y comprensión de demostraciones matemáticas. Anil Seth desmonta la IA consciente - El neurocientífico Anil Seth sostiene que inteligencia y consciencia no son lo mismo y que la IA consciente es un mito alimentado por el antropomorfismo y los modelos de lenguaje. Manifiesto contra el AI slop - Participantes del AIE Code Summit 2026 publican el manifiesto 'No AI Slop', que pide usar la IA con criterio humano, responsabilidad y revisión para evitar contenido y código de baja calidad.
-Pandex Launches API for European Legal Data
-Dragos Finds AI Prompt Leaks and Supply Chain Breaches
-Why Conscious AI Is a Myth
-3Blue1Brown on AI and a Possible Riemann Hypothesis Breakthrough
-Together AI Reports Prompt Leakage Incident After Exposed Credential
-Bridgewater Warns AI Is Accelerating Cyberattacks Faster Than Defenses
-No AI Slop Manifesto Calls for Human Judgment in AI Work
-Mozilla Spotlights Privacy-First AI Browser Extension WebBrain
Transcripcion del Episodio
Dragos rastrea fugas de prompts
Empezamos con la historia del día. La firma de ciberseguridad Dragos pasó cinco meses enviando casi dos millones de prompts a servicios de IA muy utilizados. Cada uno llevaba un 'token canario', es decir, un secreto o un enlace único que permite saber si alguien lo toca. El resultado no es tranquilizador: según Dragos, hay indicios de que al menos tres proveedores de IA quedaron expuestos, revendedores en mercados de inferencia accedieron a prompts de clientes sin autorización, y varias empresas no respetaron sus propias políticas de privacidad. En algunos casos, peticiones enviadas a proveedores con sede en Estados Unidos acabaron en organizaciones de IA chinas, y ciertos enlaces se visitaron meses después de la petición original. El argumento de fondo es sencillo: un prompt puede contener contraseñas, código fuente o información confidencial, y cada intermediario en la cadena ve la pregunta y la respuesta completas. Por eso Dragos insiste en que elegir por dónde viaja un prompt es una decisión de seguridad, y que la ruta más barata puede ser también la menos fiable.
Together AI confirma incidente de seguridad
Y aquí viene la conexión. Together AI ha notificado a sus clientes un incidente que afecta a parte de los prompts enviados a su servicio de inferencia serverless entre junio y julio. La empresa guardaba muestras de prompts para pruebas en un repositorio privado de Hugging Face, pero una credencial de acceso terminó, por error, en un repositorio público de GitHub. Un tercero la usó para descargar esas muestras y luego rebuscó en ellas otras credenciales para probarlas. Entre las que intentó usar había cinco credenciales canario del experimento de Dragos, lo que confirma que la trampa funcionó. Together AI dice no tener pruebas de una filtración más amplia, aunque sigue revisando si se expusieron datos personales. Como respuesta, ha endurecido el control de credenciales, añadido escaneo de secretos en el código y activado por defecto la retención cero de datos para cuentas nuevas. También ha revisado cómo trabaja con agentes de programación basados en IA, un detalle que dice mucho del momento actual.
Bridgewater: IA acelera ciberataques
Siguiendo con la ciberseguridad, Bridgewater, el gigante de la inversión, publica un informe con un mensaje claro: la IA está acelerando los ataques más rápido de lo que defensores y legisladores pueden responder. Los atacantes encuentran y explotan fallos con más rapidez, mientras que los defensores tienen la tarea más ingrata de parchearlos todos antes de que alguien los aproveche. El informe señala un aumento de vulnerabilidades zero-day y de fallos explotados activamente, además de un volumen creciente de código que amplía la superficie de ataque. Reconoce avances en políticas de Japón, Corea del Sur, Reino Unido y Estados Unidos, pero los considera insuficientes. Sin una acción coordinada más firme, advierte, el riesgo de ciberguerra podría llegar a desestabilizar la economía.
IA y la hipótesis de Riemann
Cambiamos de registro, aunque no de nivel de asombro. El popular canal de divulgación 3Blue1Brown ha publicado un vídeo sobre algo que hasta hace poco sonaba a ciencia ficción: que la inteligencia artificial haya ayudado a resolver la hipótesis de Riemann, uno de los problemas abiertos más célebres de las matemáticas. El vídeo parte de anuncios de matemáticos implicados en el trabajo y reflexiona sobre lo que significaría. Una demostración verificada sería un acontecimiento histórico para la teoría de números. Pero también abre preguntas incómodas: cómo se evalúa una prueba generada o asistida por máquinas, si es posible comprender de verdad un razonamiento que no ha salido de una mente humana, y cuánta confianza debería depositar la comunidad en estos resultados. Conviene seguir esta historia con atención y con prudencia.
Anil Seth desmonta la IA consciente
Y hablando de mentes humanas, el neurocientífico Anil Seth publica un ensayo en el que sostiene que la idea de una 'IA consciente' se apoya en un mito. Su punto central es que inteligencia y consciencia no son lo mismo: una máquina puede volverse mucho más capaz sin tener jamás experiencia interior. Según Seth, tendemos a atribuir consciencia a la IA por antropocentrismo y por nuestra manía de humanizar lo que nos rodea, algo que los modelos de lenguaje, con su fluidez conversacional, facilitan muchísimo. Advierte que tratar a la IA como consciente puede distorsionar nuestro juicio moral y confundirnos sobre nuestra propia mente. Además, cuestiona que la consciencia sea solo cuestión de cálculo; si esa premisa falla, los sistemas digitales actuales quizá nunca puedan ser conscientes. Una invitación a ser más precisos, tanto para gobernar la IA como para entendernos a nosotros mismos.
Manifiesto contra el AI slop
Cerramos con un manifiesto que seguramente resuene en muchos equipos. Ponentes y asistentes del AIE Code Summit 2026 han firmado 'No AI Slop', un texto contra la basura generada con IA. Definen el 'slop' como cualquier resultado producido con menos esfuerzo del que necesita quien lo recibe para entenderlo. El problema, aclaran, no es la herramienta, sino pasar sin más lo que escupe un modelo, sin criterio ni responsabilidad. Defienden priorizar resultados frente a volumen, comprensión frente a velocidad, e intención humana frente al primer borrador de la máquina. También avisan de que ese descuido se acumula en el código, la documentación y la comunicación interna. Su receta: seguir pensando de verdad, indicar claramente cuándo algo está asistido por IA, revisar lo importante y corregir los procesos cuando los errores se repiten. Sentido común, sí, pero cada vez más necesario.
Suscríbete a fuentes específicas por edición:
- Space news
* Apple Podcast English
* Spotify English
* RSS English Spanish French
- Top news
* Apple Podcast English Spanish French
* Spotify English Spanish French
* RSS English Spanish French
- Tech news
* Apple Podcast English Spanish French
* Spotify English Spanish Spanish
* RSS English Spanish French
- Hacker news
* Apple Podcast English Spanish French
* Spotify English Spanish French
* RSS English Spanish French
- AI news
* Apple Podcast English Spanish French
* Spotify English Spanish French
* RSS English Spanish French
Visit our website at https://theautomateddaily.com/
Send feedback to [email protected]
Youtube
X (Twitter)
Chapitres (8)