
Snippet #41 Prompt injection: dicas para proteger agentes de IA
Shownotes
E se o seu agente de código seguisse uma instrução escondida no título de um pull request? Neste Snippet, recebemos Lucas Assunção, Engenheiro de Cibersegurança na dti digital. Ele explica como sites, PRs, servidores MCP e bibliotecas passaram a carregar instruções maliciosas que entram na janela de contexto e mudam o comportamento dos agentes de IA. Ele também mostra por que pesquisadores questionam se o problema tem solução no próprio modelo e quais princípios de arquitetura ajudam a reduzir o impacto quando o agente for enganado. Dê o play e assista agora!
Assuntos abordados:
- Prompt injection;
- Prompt injection x jailbreak;
- Payloads em sites;
- Ataques via pull requests;
- MCP Poison;
- Ataques adaptativos;
- Menor privilégio;
- Agents Rule of Two;
- Sandbox para agentes;
- Auditoria de dependências.
Links importantes:
- Vagas disponíveis
- Newsletter
- Dúvidas? Nos mande pelo Linkedin
Contato: [email protected]
O Entre Chaves é uma iniciativa da dti digital, uma empresa WPP
#ciberseguranca