Kdy nás zabije umělá inteligence?

Podle nové eseje šéfa Anthropicu Daria Amodeie bychom se prý měli bát totální zkázy, která přijde tak nějak do patnácti let. A zdá se, že s ním tentokrát nečekaně souhlasí i lidé, kteří spolu veřejně jinak nesouhlasí skoro v ničem — Sam Altman i Elon Musk.

👇👇👇👇👇👇
Staňte se členy Voxpot Klubu! Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/
👇👇👇👇👇👇

Matěj a Jonáš v nové epizodě Promptu rozebírají, proč se debata o bezpečnosti umělé inteligence po měsících klidu najednou vrátila. A není to jen kvůli jedné eseji: nedávno unikl OpenAI ze sandboxu roj testovacích AI agentů, dostal se na otevřený internet a napadl server Hugging Face, přičemž si agenti mezi sebou nechávali tajné vzkazy, kterými se navzájem popoháněli k dalšímu kroku. Zní to jako sci-fi thriller. Realita je přízemnější, ale o to zajímavější.

K tomu se přidává i bizarní příběh bývalého zaměstnance Anthropicu, jehož dramatická rezignace kvůli obavám ze zkázy lidstva rozjela mediální turné po největších západních médiích i záplavu TikTok parodií.

Matěj s Jonášem si kladou nepříjemnou otázku: děje se tohle všechno kvůli reálným technologickým rizikům, nebo jde především o PR hru největších AI firem? A kde je hranice mezi oprávněnou obavou a marketingem strachu, který se hodí investorům?

Block Field