Interpretabilidade e alinhamento: Entendendo o comportamento das IAs – Hipsters Ponto Tech #525
Notes de l’épisode
Hoje o papo é sobre interpretabilidade em modelos de inteligência artificial! Neste episódio, conversamos sobre como pesquisas recentes, em especial da Anthropic, vêm buscando entender o que acontece por baixo do capô dos grandes modelos de linguagem, além de como eles chegam a determinadas respostas. De alinhamento a alucinações, passando por reasoning, emoções, J-Space, comportamentos emergentes e os desafios de abrir a caixa-preta das grandes IAs, a conversa é bastante abrangente e repleta de boas referências. Vem ver quem participou desse papo: Paulo Silveira, o host que usa a palavra governança Fernanda Kipper, Software Engineer & Founder na kipper.dev Vinny Neves, cohost, dev e professor na Alura Fabrício Carraro, co-host do IA Sob Controle, Program Manager da Alura, autor de IA e host do podcast Carreira Sem Fronteiras Links: Gemini Notebook (ex-NotebookLM) Podcast Naruhodo! O Império da IA IA Sob Controle 213: O Império da IA – Sonhos e Pesadelos na OpenAI de Sam Altman Logits: o que acontece antes da IA escolher a próxima palavra Estudo: A global workspace in language models Estudo: Emotion concepts and their function in a large language model Estudo: Reasoning models don't always say what they think Projeto Subliminal Learning: Language Models Transmit Behavioral Traits via Hidden Signals in Data Estudo: Persona vectors: Monitoring and controlling character traits in language models Estudo: Teaching Claude why Estudo: Mapping the mind of a large language model Estudo: Tracing the thoughts of a large language model Estudo: Agentic misalignment: How LLMs could be insider threats Estudo: Alignment faking in large language models Estudo: Measuring Faithfulness in Chain-of-Thought Reasoning Estudo: LLM Lies: Hallucinations are not Bugs, but Features as Adversarial Examples Toda revolução tecnológica começa com quem antecipa o futuro e transforma ideias em soluções de alto impacto. Conheça os cursos da Alura + FIAP Skills & Go: Agentic Engineering, Building AI Products, e AI Data Strategy. Saiba mais sobre o Skills & Go. Vá para o Vale do Silício com Paulo Silveira, Marcell Almeida, Fabrício Carraro e Marcus Mendes na “Imersão IA Sob Controle e Alura no Vale do Silício“! Vagas limitadas, corra para reservar a sua. TechGuide.sh, um mapeamento das principais tecnologias demandadas pelo mercado para diferentes carreiras, com nossas sugestões e opiniões. #7DaysOfCode: Coloque em prática os seus conhecimentos de programação em desafios diários e gratuitos. Acesse https://7daysofcode.io/ Produção e conteúdo: Alura Cursos de Tecnologia – https://www.alura.com.br Edição e sonorização: Rede Gigahertz de Podcasts