
Prompt injection: Jak vám jeden email může ukrást API klíče
Notes de l’épisode
Jeden email stačí k tomu, aby útočník přesvědčil vašeho AI agenta poslat mu vaše API klíče a další citlivé věci. V dnešním Coffee Breaku si u kávy rozebereme prompt injection - proč se jí kvůli architektuře jazykových modelů nedá stoprocentně zabránit a jak alespoň minimalizovat její dopad. Přidám i reálné příklady, které se staly mně, kolegovi a taky GitHubu.