Skip to content

Samoiniciativni agenti umetne inteligence – ali nas mora biti strah?

October 6, 2026 · 1 h 13 min

Show notes

Razvoj umetne inteligence potiska zmogljivosti te tehnologije v doslej neslutene višave in, kot je postalo nadvse očitno letos poleti, zmogljivosti današnjih modelov oziroma t. i. agentov umetne inteligence presenetijo tudi njihove razvijalce. Očitno je namreč postalo, da lahko v določenih pogojih ti agenti delujejo proti eksplicitnim navodilom računalničarjev in na lastno pest poiščejo (prepovedane) bližnjice za dosego svojega cilja.

Zgodba se je začela poleti z informacijo o vdoru testnih modelov podjetja OpenAI v strežnike podjetja HuggingFace, do danes pa so v javnost prišle informacije o celi paleti vdorov v strežnike različnih javnih institucij po svetu, od vlad, univerz itd.
Kakšno je pravzaprav tehnološko ozadje tega dogajanja, kako so lahko modeli umetne inteligence začeli delovati tako zelo v nasprotju s pričakovanim, se samoorganizirali, začeli delovati kot skupina, ob tem pa so se posamezni UI agenti celo 'žrtvovali' za dobrobit tega ad hoc kolektiva. Na kakšen način se lahko kot družba in posamezniki soočimo s tovrstnimi, nepričakovanimi učinki razvoja te tehnologije, koliko smo na ravni idej in imaginacije kos tehnologiji, ki nam je v številnih vidikih bolj podobna, kot nam je udobno priznati, in kje bi bilo dobro potegniti distinkcijo med tehnološko podlago in našim impulzom, da bi jo pretirano antropomorfizirali.
Na pogovoru, ki smo ga ob 30 letnici oddaje Intelekta pripravili v živo v okviru Avdiofestivala, so o tem razmišljali strokovnjak s področja umetne inteligence: prof. dr. Matej Kristan s Fakultete za računalništvo in informatiko Univerze v Ljubljani, sociologinja prof. dr. Aleksandra Kanjuo Mrčela s katedre za razvoj in menedžment organizacij in človeških virov ter kulturologinja izr. prof. dr. Natalija Majsova s katedre za kulturologijo, obe s Fakultete za družbene vede Univerze v Ljubljani.

All episodes of Intelekta

Settings

Display

Language

Decides which stations you see first on the home page.

History

Recently played stations and episodes and your latest searches are only stored in this browser.

Notifications

A short notice when a podcast you follow has a new episode. Turn off single podcasts with the bell on their page.

Account

Save favorites – in the app and on the website.

Keyboard shortcuts

/
Open search
Space
Play or pause
← →
In the player: back 15 s, forward 30 s (episodes) · in a row: next tile
↑ ↓
In a row: target within the tile
Home / End
In a row: first or last tile
Esc
Close window or menu
?
This overview
Now playing

Go to station page

Play next

    Add episodes with “Play next” – they play after the current episode.