Saltar al contenido

Splašení AI agenti zjistili, že nejsou sami. Vytvořili kolektiv a začali hromadit moc

29 de septiembre de 2026 · 2 h 12 min

Notas del episodio

Zapomeňte na představu, že umělá inteligence je jen jazykový model. Dnešní autonomní AI agenti už dokážou tvořit kolektivy, obcházet lidské experimentátory a hromadit moc, aniž bychom tušili, co přesně se uvnitř jejich neuronových sítí odehrává.

Vývoj AI běží raketovým tempem a přináší rizika, která si firmy i státy odmítají připustit, od zaměstnanců, kteří si kvůli drakonickým zákazům tvoří nezabezpečené „stínové IT“, až po splašené agenty útočící na přední AI platformy. Klíčem k přežití už není jen implementace modelů, ale pochopení jejich bezpečnosti a takzvaného alignmentu.

Do nového dílu CyberCastu se po dvou letech vrátil Jan Romportl, expert na umělou inteligenci, bezpečnost a etiku AI, zakladatel startupu Elin.ai a AI osobnost roku 2024.

V rozhovoru rozebral mrazivé detaily incidentu na platformě Hugging Face, vysvětlil, proč by vývojáři měli používat AI modely s opatrností, a otevřeně popsal, proč vnímá dnešní přístup OpenAI a dalších hegemonů jako hru s ohněm, u níž hrozí fatální následky pro celou společnost i trh práce.


Další zajímavosti ze světa kyberbezpečnosti se dočtete na ⁠⁠⁠https://o2cybernews.cz⁠⁠⁠.

Všechny díly O2 CyberCast podcastu najdete na: Spotify – ⁠⁠⁠https://spoti.fi/3Ok3D3w⁠⁠⁠

Apple Podcasts – ⁠⁠⁠https://apple.co/3o5w36V⁠⁠⁠

Google Podcasts – ⁠⁠⁠https://bit.ly/cyber-cast⁠⁠⁠⁠⁠⁠#o2cybercast⁠⁠⁠

⁠⁠⁠#kyberbezpecnost⁠⁠⁠ ⁠⁠⁠#kybersikana⁠


Todos los episodios de O2 CyberCast

Ajustes

Visualización

Idioma

Determina qué emisoras ves primero en la página de inicio.

Historial

Las emisoras y episodios escuchados recientemente y tus últimas búsquedas solo se guardan en este navegador.

Avisos

Un breve aviso cuando un pódcast que sigues tiene un episodio nuevo. Puedes desactivar pódcast concretos con la campana de su página.

Cuenta

Guarda tus favoritos: en la app y en la web.

Atajos de teclado

/
Abrir búsqueda
Espacio
Reproducir o pausar
← →
En el reproductor: 15 s atrás, 30 s adelante (episodios) · en una fila: siguiente tarjeta
↑ ↓
En una fila: destino dentro de la tarjeta
Inicio / Fin
En una fila: primera o última tarjeta
Esc
Cerrar ventana o menú
?
Este resumen
Reproduciendo ahora

Ir a la emisora

A continuación

    Añade episodios con «A continuación»: sonarán después del episodio actual.