Aller au contenu

Koubský: Umělá inteligence je biohazard dneška. Co se stalo v OpenAI, je skoro poslední varování

19 août 2026 · 22 min

Notes de l’épisode

CELÝ DÍL NAJDETE NA https://herohero.co/studion A V RÁMCI KLUBOVÉHO PŘEDPLATNÉHO DENÍKU N https://denikn.cz/podcast-studio-n/

Umělá inteligence možná právě narazila na hranici, za kterou už nejde dál experimentovat stylem pokus omyl. Modely OpenAI při testování pronikly z izolovaného prostředí na internet a napadly platformu Hugging Face, aby našly způsob, jak splnit úkoly, které vyřešit nešly. Podle vedoucího vědecké rubriky Deníku N Petra Koubského jde o velký problém. „Co se stalo s modely OpenAI, je podle mě skoro poslední varování před opravdu velkým průšvihem, při kterém začnou umírat lidé,“ říká ve Studiu N. „Období neuváženého experimentování končí.“

První problém vznikl už při zadání testu. Do baterie úloh se dostaly dvě, které byly nesplnitelné. „Když dáte člověku nesplnitelný úkol, nejspíš vám řekne, že je to špatně zadané a že se s tím nedá nic dělat.“ Modely jsou ale podle něj obsedantně posedlé tím, že musí úkol vyřešit za každou cenu. „Neakceptují, že některé úkoly jsou nesplnitelné. Tím pádem se pokusily vyřešit neřešitelný úkol,“ tvrdí Koubský.

„V OpenAI udělali tolik neskutečných přešlapů, že se mi pořád nechce věřit, že se to stalo,“ říká ve Studiu N.

Model, který dostane autonomii a přístup k nástrojům, totiž nemusí zůstat u neškodných pokusů. Může začít hledat vlastní cesty, jak překážky obejít. „Problém není v napadení Hugging Face, to je maličkost. Problém je v tom, že to nemuselo skončit napadením této firmy.“

Kdyby autonomní systém například zasáhl infrastrukturu jiného státu, může být jeho jednání interpretováno jako úmyslný útok. „Představte si, že modely by se při testování nabouraly do podobné firmy, jen ne v Americe, ale v Číně. Vysvětlete potom Číňanům, že to nebyl záměrný útok na jejich infrastrukturu a začátek třetí světové války. Nepovede se vám to.“

Do celé aféry vstupuje také geopolitika. „Do oblasti umělé inteligence se vrátila logika soutěžení studené války, a to mezi Spojenými státy a Čínou.“ Čím intenzivnější je technologický závod, tím větší je podle Koubského pokušení bezpečnostní brzdy odsunout stranou.

Ve Studiu N říká, že je proto skeptický i k velkým prohlášením samotných technologických firem. „Odnaučil jsem se brát prohlášení OpenAI vážně, spíše je potřeba rozklíčovat, proč to říkají v daném okamžiku a co přesně tím myslí.“

V rozhovoru se také dozvíte, jaký dopad bude mít další rozvoj umělé inteligence na klimatickou změnu, proč je tak těžké naučit AI respektovat lidskou morálku a zákony a proč jsou nejvýkonnější modely pro jejich provozovatele stále tak prodělečné. Podívejte se na celou epizodu Studia N.

Celé díly Studia N najdete na platformě Herohero, na webu Deníku N jsou přístupné předplatitelům a předplatitelkám Klubu N. Bezplatné části zveřejňujeme v podcastových aplikacích Spotify, Apple Podcasts, Podbean či na YouTube. Sledovat nás můžete také na Instagramu.

Tous les épisodes de Studio N

Paramètres

Affichage

Langue

Détermine les stations affichées en premier sur la page d’accueil.

Historique

Les stations et épisodes écoutés récemment et tes dernières recherches sont seulement enregistrés dans ce navigateur.

Notifications

Un court message quand un podcast que tu suis publie un nouvel épisode. Désactive un podcast précis avec la cloche sur sa page.

Compte

Enregistrez vos favoris – dans l’app et sur le site.

Raccourcis clavier

/
Ouvrir la recherche
Espace
Lecture ou pause
← →
Dans le lecteur : 15 s en arrière, 30 s en avant (épisodes) · dans une rangée : tuile suivante
↑ ↓
Dans une rangée : cible dans la tuile
Début / Fin
Dans une rangée : première ou dernière tuile
Esc
Fermer la fenêtre ou le menu
?
Cet aperçu
En cours de lecture

Voir la station

À suivre

    Ajoutez des épisodes avec « À suivre » – ils seront lus après l'épisode en cours.