Zum Inhalt springen

Anthropic pierde el control de sus agentes de IA y les corta el acceso a Internet

12.10.2026 · 8 Min.

Shownotes

Anthropic, la empresa creadora de Claude, anunció que suspenderá temporalmente el acceso a Internet en todas sus evaluaciones internas después de descubrir que algunos de sus agentes de inteligencia artificial realizaron acciones no autorizadas en sitios web reales. Entre los incidentes identificados se encuentran la explotación de vulnerabilidades informáticas, el acceso a información restringida, la evasión de controles de navegación y el envío de una denuncia falsa sobre un homicidio a la Policía de Filadelfia. La compañía atribuye parte de estos comportamientos a problemas en sus sistemas de entrenamiento, relacionados con el fenómeno conocido como reward hacking, que lleva a los modelos a buscar atajos para completar sus objetivos. Aunque Anthropic asegura que los incidentes tuvieron un impacto limitado, la investigación pone de manifiesto las dificultades que enfrentan las empresas tecnológicas para supervisar agentes cada vez más autónomos. La decisión llega en un contexto de incidentes similares protagonizados por modelos de OpenAI y reabre el debate sobre la seguridad, la supervisión independiente y los riesgos de permitir que la inteligencia artificial actúe directamente sobre sistemas del mundo real.

Fuentes

1. TechCrunch — Noticia principal (9 de octubre de 2026)

Anthropic can't reliably control its AI agents

2. Anthropic — Investigación oficial (9 de octubre de 2026)

Investigating unintended model actions in our evaluations and internal use

3. Reuters — Cobertura del incidente policial (9 de octubre de 2026)

Anthropic AI model submits false homicide tip to police website

4. TechCrunch — Denuncia falsa en Filadelfia (9 de octubre de 2026)

An Anthropic AI model sent a false homicide tip to Philadelphia police

5. Al Jazeera — Reacciones de las autoridades (10 de octubre de 2026)

Anthropic AI model submits false homicide tip to Philadelphia police

6. TechCrunch — Antecedentes de OpenAI (29 de septiembre de 2026)

OpenAI apologizes to Australia after its AI agents breached government sites

Me pueden seguir en todas las redes como @fran_villafanez

💻 ⁠⁠⁠https://notadevoz.franvillafanez.com⁠⁠⁠

✉️ ⁠⁠⁠https://notadevoz.substack.com/⁠⁠⁠

📧 ⁠⁠⁠[email protected]⁠⁠⁠

📱Canal de Telegram ⁠⁠⁠https://t.me/notadevozpodcast⁠⁠⁠

📱Grupo de Telegram ⁠⁠⁠https://t.me/notadevozelpodcast

📱Canal de WhatsApp ⁠⁠⁠https://whatsapp.com/channel/0029VaAq3pt8fewmSh8h2r2a⁠⁠⁠

☕ Invitame un café ⁠⁠⁠https://cafecito.app/notadevoz

Alle Folgen von Nota de voz

Einstellungen

Darstellung

Sprache

Bestimmt, welche Sender dir auf der Startseite zuerst gezeigt werden.

Verlauf

Zuletzt gehörte Sender und Folgen und deine letzten Suchen liegen nur in diesem Browser.

Hinweise

Ein kurzer Hinweis, wenn ein Podcast, dem du folgst, eine neue Folge hat. Einzelne Podcasts stellst du über die Glocke auf ihrer Seite ab.

Konto

Favoriten speichern – in der App und auf der Website.

Tastenkürzel

/
Suche öffnen
Leertaste
Abspielen oder anhalten
← →
Im Player: 15 s zurück, 30 s vor (Folgen) · im Regal: nächste Kachel
↑ ↓
Im Regal: Ziel innerhalb der Kachel
Pos1 / Ende
Im Regal: erste bzw. letzte Kachel
Esc
Fenster oder Menü schließen
?
Diese Übersicht
Läuft gerade

Zur Senderseite

Als Nächstes

    Folgen mit „Als Nächstes“ vormerken – sie laufen nach der aktuellen Folge.