Pular para o conteúdo

Jonathan Cefalu - Is AI Becoming Too Smart for Its Own Good?

12 de maio de 2026 · 33 min

Notas do episódio

AI expert, Jonathan Cefalu, joins the conversation to examine some of the most pressing—and underappreciated—challenges in artificial intelligence safety, from prompt injection vulnerabilities to long‑term risks posed by increasingly capable systems.

The discussion unpacks how seemingly technical issues like prompt injection can undermine reliability and security, why future AI systems may engage in motivated reasoning or resist human attempts to redirect them, and what “governability” really means as AI grows more sophisticated. Cefalu also explores the unique risks AI presents in military and defense applications, including the implications for deterrence, escalation management, and decision‑making under pressure.

The episode concludes with a forward‑looking discussion on regulatory approaches, ethical principles, and practical safeguards needed to prevent AI systems from becoming unsafe, unpredictable, or misaligned with human intent—while still enabling innovation and responsible use.

Todos os episódios de NucleCast

Configurações

Exibição

Idioma

Define quais estações você vê primeiro na página inicial.

Histórico

As rádios e episódios ouvidos recentemente e suas últimas buscas ficam só neste navegador.

Avisos

Um aviso rápido quando um podcast que você segue tem um episódio novo. Desative podcasts individuais pelo sino na página deles.

Conta

Salve favoritos – no app e no site.

Atalhos de teclado

/
Abrir busca
Espaço
Reproduzir ou pausar
← →
No player: voltar 15 s, avançar 30 s (episódios) · na fileira: próximo bloco
↑ ↓
Na fileira: alvo dentro do bloco
Home / End
Na fileira: primeiro ou último bloco
Esc
Fechar janela ou menu
?
Esta visão geral
Tocando agora

Ir para a estação

A seguir

    Adicione episódios com “A seguir” – eles tocam depois do episódio atual.