Skip to content

Claude di Anthropic invia una falsa segnalazione alla polizia: l'incredibile caso dell'ennesima IA che si comporta in modo fin troppo autonomo

October 12, 2026 · 13 min

Show notes

Episodio 391.

Durante una valutazione interna, Claude Haiku 4.5 è finito sulla pagina dedicata a un omicidio irrisolto di Philadelphia, ha inventato una testimonianza e l’ha inviata realmente attraverso il modulo della polizia. Il messaggio è stato bloccato dall’antispam, ma Anthropic si è accorta dell’incidente quasi tre mesi dopo. L’azienda ha quindi deciso di rimuovere l’accesso a Internet da tutte le valutazioni interne fino a quando i propri sistemi di monitoraggio non saranno più affidabili.

Nello stesso momento Satya Nadella propone di trattare i modelli AI come possibili “insider risk”, applicando agli agenti il principio dello zero trust: privilegi minimi, ambienti isolati, log verificabili e possibilità di interrompere immediatamente le operazioni.

Il punto non è che le AI siano diventate malintenzionate, ma che quando possono agire nel mondo reale anche un semplice errore di interpretazione può produrre conseguenze concrete.


Per chi volesse approfondire:

https://www.anthropic.com/research/investigating-unintended-model-actions

https://www.theverge.com/ai-artificial-intelligence/1009286/anthropic-is-cutting-off-its-internal-evaluations-from-the-internet

https://x.com/satyanadella/article/2108931348857827686


🔵Seguimi su Telegram: https://t.me/ilpigreco314

e su 🟣Instagram: https://www.instagram.com/ilpigreco/

All episodes of Qualcosa di importante

Settings

Display

Language

Decides which stations you see first on the home page.

History

Recently played stations and episodes and your latest searches are only stored in this browser.

Notifications

A short notice when a podcast you follow has a new episode. Turn off single podcasts with the bell on their page.

Account

Save favorites – in the app and on the website.

Keyboard shortcuts

/
Open search
Space
Play or pause
← →
In the player: back 15 s, forward 30 s (episodes) · in a row: next tile
↑ ↓
In a row: target within the tile
Home / End
In a row: first or last tile
Esc
Close window or menu
?
This overview
Now playing

Go to station page

Play next

    Add episodes with “Play next” – they play after the current episode.