Sikkerhet i kunstig intelligens

Har du hør historien om da sverm med over 1000 KI-agenter konspirerte og samarbeidet for å lure menneskene som hadde skapt dem? Dette skjedde sommeren 2026, og har gitt vann på mølla til dem som frykter at kunstig intelligens skal ta over verden.

I går, 10. november, arrangerte FFI en frokost om sikkerhet kunstig intelligens. Der snakket Håvard Tveit Ihle og Gudmund Vik Mathisen om den såkalt Hugging Face hendelsen, om hvordan språkmodeller fungerer og ikke minst hvordan vi kan teste og evaluere at teknologien trygg.

For KI-agenter og språkmodeller er så nyttige at vi ikke kan unnlate å bruke dem. Men hvordan kan Forsvaret og samfunnskritiske virksomheter trygt bruke språkmodeller, når de samme modellene kan lyve, lure oss, skjule sine hensikter og hallusinere.

I dagens episode får du begge foredragene fra frokosten og spørsmålsrunden etterpå.

Vil du ha nyheter og informasjon om hva Forsvarets forskningsinstitutt forsker på og utvikler? Da kan du:

• abonnere på vårt nyhetsbrev
• følge FFI på LinkedIn
• følge FFI på Facebook
• følge FFI på Instagram
• lese mer på FFI.no

Takk for at du lytter til Ugradert fra FFI.

Hosted on Acast. See acast.com/privacy for more information.