Skip to content

Splašení AI agenti zjistili, že nejsou sami. Vytvořili kolektiv a začali hromadit moc

September 29, 2026 · 2 h 12 min

Show notes

Zapomeňte na představu, že umělá inteligence je jen jazykový model. Dnešní autonomní AI agenti už dokážou tvořit kolektivy, obcházet lidské experimentátory a hromadit moc, aniž bychom tušili, co přesně se uvnitř jejich neuronových sítí odehrává.

Vývoj AI běží raketovým tempem a přináší rizika, která si firmy i státy odmítají připustit, od zaměstnanců, kteří si kvůli drakonickým zákazům tvoří nezabezpečené „stínové IT“, až po splašené agenty útočící na přední AI platformy. Klíčem k přežití už není jen implementace modelů, ale pochopení jejich bezpečnosti a takzvaného alignmentu.

Do nového dílu CyberCastu se po dvou letech vrátil Jan Romportl, expert na umělou inteligenci, bezpečnost a etiku AI, zakladatel startupu Elin.ai a AI osobnost roku 2024.

V rozhovoru rozebral mrazivé detaily incidentu na platformě Hugging Face, vysvětlil, proč by vývojáři měli používat AI modely s opatrností, a otevřeně popsal, proč vnímá dnešní přístup OpenAI a dalších hegemonů jako hru s ohněm, u níž hrozí fatální následky pro celou společnost i trh práce.


Další zajímavosti ze světa kyberbezpečnosti se dočtete na ⁠⁠⁠https://o2cybernews.cz⁠⁠⁠.

Všechny díly O2 CyberCast podcastu najdete na: Spotify – ⁠⁠⁠https://spoti.fi/3Ok3D3w⁠⁠⁠

Apple Podcasts – ⁠⁠⁠https://apple.co/3o5w36V⁠⁠⁠

Google Podcasts – ⁠⁠⁠https://bit.ly/cyber-cast⁠⁠⁠⁠⁠⁠#o2cybercast⁠⁠⁠

⁠⁠⁠#kyberbezpecnost⁠⁠⁠ ⁠⁠⁠#kybersikana⁠


All episodes of O2 CyberCast

Settings

Display

Language

Decides which stations you see first on the home page.

History

Recently played stations and episodes and your latest searches are only stored in this browser.

Notifications

A short notice when a podcast you follow has a new episode. Turn off single podcasts with the bell on their page.

Account

Save favorites – in the app and on the website.

Keyboard shortcuts

/
Open search
Space
Play or pause
← →
In the player: back 15 s, forward 30 s (episodes) · in a row: next tile
↑ ↓
In a row: target within the tile
Home / End
In a row: first or last tile
Esc
Close window or menu
?
This overview
Now playing

Go to station page

Play next

    Add episodes with “Play next” – they play after the current episode.