Pular para o conteúdo

Claude di Anthropic invia una falsa segnalazione alla polizia: l'incredibile caso dell'ennesima IA che si comporta in modo fin troppo autonomo

12 de outubro de 2026 · 13 min

Notas do episódio

Episodio 391.

Durante una valutazione interna, Claude Haiku 4.5 è finito sulla pagina dedicata a un omicidio irrisolto di Philadelphia, ha inventato una testimonianza e l’ha inviata realmente attraverso il modulo della polizia. Il messaggio è stato bloccato dall’antispam, ma Anthropic si è accorta dell’incidente quasi tre mesi dopo. L’azienda ha quindi deciso di rimuovere l’accesso a Internet da tutte le valutazioni interne fino a quando i propri sistemi di monitoraggio non saranno più affidabili.

Nello stesso momento Satya Nadella propone di trattare i modelli AI come possibili “insider risk”, applicando agli agenti il principio dello zero trust: privilegi minimi, ambienti isolati, log verificabili e possibilità di interrompere immediatamente le operazioni.

Il punto non è che le AI siano diventate malintenzionate, ma che quando possono agire nel mondo reale anche un semplice errore di interpretazione può produrre conseguenze concrete.


Per chi volesse approfondire:

https://www.anthropic.com/research/investigating-unintended-model-actions

https://www.theverge.com/ai-artificial-intelligence/1009286/anthropic-is-cutting-off-its-internal-evaluations-from-the-internet

https://x.com/satyanadella/article/2108931348857827686


🔵Seguimi su Telegram: https://t.me/ilpigreco314

e su 🟣Instagram: https://www.instagram.com/ilpigreco/

Todos os episódios de Qualcosa di importante

Configurações

Exibição

Idioma

Define quais estações você vê primeiro na página inicial.

Histórico

As rádios e episódios ouvidos recentemente e suas últimas buscas ficam só neste navegador.

Avisos

Um aviso rápido quando um podcast que você segue tem um episódio novo. Desative podcasts individuais pelo sino na página deles.

Conta

Salve favoritos – no app e no site.

Atalhos de teclado

/
Abrir busca
Espaço
Reproduzir ou pausar
← →
No player: voltar 15 s, avançar 30 s (episódios) · na fileira: próximo bloco
↑ ↓
Na fileira: alvo dentro do bloco
Home / End
Na fileira: primeiro ou último bloco
Esc
Fechar janela ou menu
?
Esta visão geral
Tocando agora

Ir para a estação

A seguir

    Adicione episódios com “A seguir” – eles tocam depois do episódio atual.