Zum Inhalt springen

Claude di Anthropic invia una falsa segnalazione alla polizia: l'incredibile caso dell'ennesima IA che si comporta in modo fin troppo autonomo

12.10.2026 · 13 Min.

Shownotes

Episodio 391.

Durante una valutazione interna, Claude Haiku 4.5 è finito sulla pagina dedicata a un omicidio irrisolto di Philadelphia, ha inventato una testimonianza e l’ha inviata realmente attraverso il modulo della polizia. Il messaggio è stato bloccato dall’antispam, ma Anthropic si è accorta dell’incidente quasi tre mesi dopo. L’azienda ha quindi deciso di rimuovere l’accesso a Internet da tutte le valutazioni interne fino a quando i propri sistemi di monitoraggio non saranno più affidabili.

Nello stesso momento Satya Nadella propone di trattare i modelli AI come possibili “insider risk”, applicando agli agenti il principio dello zero trust: privilegi minimi, ambienti isolati, log verificabili e possibilità di interrompere immediatamente le operazioni.

Il punto non è che le AI siano diventate malintenzionate, ma che quando possono agire nel mondo reale anche un semplice errore di interpretazione può produrre conseguenze concrete.


Per chi volesse approfondire:

https://www.anthropic.com/research/investigating-unintended-model-actions

https://www.theverge.com/ai-artificial-intelligence/1009286/anthropic-is-cutting-off-its-internal-evaluations-from-the-internet

https://x.com/satyanadella/article/2108931348857827686


🔵Seguimi su Telegram: https://t.me/ilpigreco314

e su 🟣Instagram: https://www.instagram.com/ilpigreco/

Alle Folgen von Qualcosa di importante

Einstellungen

Darstellung

Sprache

Bestimmt, welche Sender dir auf der Startseite zuerst gezeigt werden.

Verlauf

Zuletzt gehörte Sender und Folgen und deine letzten Suchen liegen nur in diesem Browser.

Hinweise

Ein kurzer Hinweis, wenn ein Podcast, dem du folgst, eine neue Folge hat. Einzelne Podcasts stellst du über die Glocke auf ihrer Seite ab.

Konto

Favoriten speichern – in der App und auf der Website.

Tastenkürzel

/
Suche öffnen
Leertaste
Abspielen oder anhalten
← →
Im Player: 15 s zurück, 30 s vor (Folgen) · im Regal: nächste Kachel
↑ ↓
Im Regal: Ziel innerhalb der Kachel
Pos1 / Ende
Im Regal: erste bzw. letzte Kachel
Esc
Fenster oder Menü schließen
?
Diese Übersicht
Läuft gerade

Zur Senderseite

Als Nächstes

    Folgen mit „Als Nächstes“ vormerken – sie laufen nach der aktuellen Folge.