Saltar al contenido

Samoiniciativni agenti umetne inteligence – ali nas mora biti strah?

6 de octubre de 2026 · 1 h 13 min

Notas del episodio

Razvoj umetne inteligence potiska zmogljivosti te tehnologije v doslej neslutene višave in, kot je postalo nadvse očitno letos poleti, zmogljivosti današnjih modelov oziroma t. i. agentov umetne inteligence presenetijo tudi njihove razvijalce. Očitno je namreč postalo, da lahko v določenih pogojih ti agenti delujejo proti eksplicitnim navodilom računalničarjev in na lastno pest poiščejo (prepovedane) bližnjice za dosego svojega cilja.

Zgodba se je začela poleti z informacijo o vdoru testnih modelov podjetja OpenAI v strežnike podjetja HuggingFace, do danes pa so v javnost prišle informacije o celi paleti vdorov v strežnike različnih javnih institucij po svetu, od vlad, univerz itd.
Kakšno je pravzaprav tehnološko ozadje tega dogajanja, kako so lahko modeli umetne inteligence začeli delovati tako zelo v nasprotju s pričakovanim, se samoorganizirali, začeli delovati kot skupina, ob tem pa so se posamezni UI agenti celo 'žrtvovali' za dobrobit tega ad hoc kolektiva. Na kakšen način se lahko kot družba in posamezniki soočimo s tovrstnimi, nepričakovanimi učinki razvoja te tehnologije, koliko smo na ravni idej in imaginacije kos tehnologiji, ki nam je v številnih vidikih bolj podobna, kot nam je udobno priznati, in kje bi bilo dobro potegniti distinkcijo med tehnološko podlago in našim impulzom, da bi jo pretirano antropomorfizirali.
Na pogovoru, ki smo ga ob 30 letnici oddaje Intelekta pripravili v živo v okviru Avdiofestivala, so o tem razmišljali strokovnjak s področja umetne inteligence: prof. dr. Matej Kristan s Fakultete za računalništvo in informatiko Univerze v Ljubljani, sociologinja prof. dr. Aleksandra Kanjuo Mrčela s katedre za razvoj in menedžment organizacij in človeških virov ter kulturologinja izr. prof. dr. Natalija Majsova s katedre za kulturologijo, obe s Fakultete za družbene vede Univerze v Ljubljani.

Todos los episodios de Intelekta

Ajustes

Visualización

Idioma

Determina qué emisoras ves primero en la página de inicio.

Historial

Las emisoras y episodios escuchados recientemente y tus últimas búsquedas solo se guardan en este navegador.

Avisos

Un breve aviso cuando un pódcast que sigues tiene un episodio nuevo. Puedes desactivar pódcast concretos con la campana de su página.

Cuenta

Guarda tus favoritos: en la app y en la web.

Atajos de teclado

/
Abrir búsqueda
Espacio
Reproducir o pausar
← →
En el reproductor: 15 s atrás, 30 s adelante (episodios) · en una fila: siguiente tarjeta
↑ ↓
En una fila: destino dentro de la tarjeta
Inicio / Fin
En una fila: primera o última tarjeta
Esc
Cerrar ventana o menú
?
Este resumen
Reproduciendo ahora

Ir a la emisora

A continuación

    Añade episodios con «A continuación»: sonarán después del episodio actual.