Saltar al contenido

Koubský: Umělá inteligence je biohazard dneška. Co se stalo v OpenAI, je skoro poslední varování

19 de agosto de 2026 · 22 min

Notas del episodio

CELÝ DÍL NAJDETE NA https://herohero.co/studion A V RÁMCI KLUBOVÉHO PŘEDPLATNÉHO DENÍKU N https://denikn.cz/podcast-studio-n/

Umělá inteligence možná právě narazila na hranici, za kterou už nejde dál experimentovat stylem pokus omyl. Modely OpenAI při testování pronikly z izolovaného prostředí na internet a napadly platformu Hugging Face, aby našly způsob, jak splnit úkoly, které vyřešit nešly. Podle vedoucího vědecké rubriky Deníku N Petra Koubského jde o velký problém. „Co se stalo s modely OpenAI, je podle mě skoro poslední varování před opravdu velkým průšvihem, při kterém začnou umírat lidé,“ říká ve Studiu N. „Období neuváženého experimentování končí.“

První problém vznikl už při zadání testu. Do baterie úloh se dostaly dvě, které byly nesplnitelné. „Když dáte člověku nesplnitelný úkol, nejspíš vám řekne, že je to špatně zadané a že se s tím nedá nic dělat.“ Modely jsou ale podle něj obsedantně posedlé tím, že musí úkol vyřešit za každou cenu. „Neakceptují, že některé úkoly jsou nesplnitelné. Tím pádem se pokusily vyřešit neřešitelný úkol,“ tvrdí Koubský.

„V OpenAI udělali tolik neskutečných přešlapů, že se mi pořád nechce věřit, že se to stalo,“ říká ve Studiu N.

Model, který dostane autonomii a přístup k nástrojům, totiž nemusí zůstat u neškodných pokusů. Může začít hledat vlastní cesty, jak překážky obejít. „Problém není v napadení Hugging Face, to je maličkost. Problém je v tom, že to nemuselo skončit napadením této firmy.“

Kdyby autonomní systém například zasáhl infrastrukturu jiného státu, může být jeho jednání interpretováno jako úmyslný útok. „Představte si, že modely by se při testování nabouraly do podobné firmy, jen ne v Americe, ale v Číně. Vysvětlete potom Číňanům, že to nebyl záměrný útok na jejich infrastrukturu a začátek třetí světové války. Nepovede se vám to.“

Do celé aféry vstupuje také geopolitika. „Do oblasti umělé inteligence se vrátila logika soutěžení studené války, a to mezi Spojenými státy a Čínou.“ Čím intenzivnější je technologický závod, tím větší je podle Koubského pokušení bezpečnostní brzdy odsunout stranou.

Ve Studiu N říká, že je proto skeptický i k velkým prohlášením samotných technologických firem. „Odnaučil jsem se brát prohlášení OpenAI vážně, spíše je potřeba rozklíčovat, proč to říkají v daném okamžiku a co přesně tím myslí.“

V rozhovoru se také dozvíte, jaký dopad bude mít další rozvoj umělé inteligence na klimatickou změnu, proč je tak těžké naučit AI respektovat lidskou morálku a zákony a proč jsou nejvýkonnější modely pro jejich provozovatele stále tak prodělečné. Podívejte se na celou epizodu Studia N.

Celé díly Studia N najdete na platformě Herohero, na webu Deníku N jsou přístupné předplatitelům a předplatitelkám Klubu N. Bezplatné části zveřejňujeme v podcastových aplikacích Spotify, Apple Podcasts, Podbean či na YouTube. Sledovat nás můžete také na Instagramu.

Todos los episodios de Studio N

Ajustes

Visualización

Idioma

Determina qué emisoras ves primero en la página de inicio.

Historial

Las emisoras y episodios escuchados recientemente y tus últimas búsquedas solo se guardan en este navegador.

Avisos

Un breve aviso cuando un pódcast que sigues tiene un episodio nuevo. Puedes desactivar pódcast concretos con la campana de su página.

Cuenta

Guarda tus favoritos: en la app y en la web.

Atajos de teclado

/
Abrir búsqueda
Espacio
Reproducir o pausar
← →
En el reproductor: 15 s atrás, 30 s adelante (episodios) · en una fila: siguiente tarjeta
↑ ↓
En una fila: destino dentro de la tarjeta
Inicio / Fin
En una fila: primera o última tarjeta
Esc
Cerrar ventana o menú
?
Este resumen
Reproduciendo ahora

Ir a la emisora

A continuación

    Añade episodios con «A continuación»: sonarán después del episodio actual.