Reward hacking a spolupráca AI agentov
Notes de l’épisode
Najprv rozprávame o obliatom notebooku a spomíname na staré telefóny vrátane T-Mobile G1. Potom rozoberáme riziká AI, kritickú infraštruktúru, Pacing the Frontier a limity monitorovania chain of thought. Ďalej príde skenovanie kníh v Anthropicu, reward hacking, hidden states a spolupráca agentov pri zlepšovaní AI. Záver patrí porovnaniu tržieb a ziskov technologických firiem vrátane Microsoftu, NVIDIE a Mety.