
Inn til kjernen #87 med Sigrid Bratlie, Inga Strümke og Ishita Barua: Vil AI utslette menneskeheten?
Notas do episódio
«Your scientists were so preoccupied with whether or not they could, they didn't stop to think if they should.»Kjenner du sitatet? (Du får svaret helt i starten av episoden 😉) Jeg synes i hvert fall det passer ganske godt til diskusjonen om kunstig intelligens...For noen uker siden fikk jeg en melding fra molekylærbiolog Sigrid Bratlie, som hadde veldig lyst til å diskutere hvor farlig AI egentlig kan bli, og da spesielt hva som skjer når vi kombinerer stadig kraftigere AI-modeller med moderne bioteknologi. Hun er nemlig uenig med AI-forsker Inga Strümke og lege og AI-forsker Ishita Barua om hvor bekymret vi egentlig bør være for utviklingen.Så jeg samlet de tre til en skikkelig nerdediskusjon om AI og risikoen for at teknologien kan brukes til å utvikle biologiske våpen. For hvor lett er det egentlig for AI å bidra til å utslette menneskeheten? Eller er dette først og fremst dommedagsprofetier fra en bransje som har interesse av å fremstille sin egen teknologi som ekstremt kraftfull, for eksempel i forkant av en børsnotering?Vi snakker blant annet om Anthropic-rapporten, der forskere har forsøkt å bruke AI til potensielt farlig biologisk forskning, og om hvor mye AI egentlig gjør mulig som vi ikke kunne fått til tidligere. Men vi kommer også innom AI-selskapenes egne interesser (hvor mye skal vi egentlig stole på advarslene deres – har det ikke alltid vært «avhoppere» fra teknologiselskaper som roper ulv, ulv, og mener at nå kommer verden potensielt til å gå under?), forskjellen mellom språkmodeller og spesialiserte biologiske modeller, og hvorfor det fortsatt tar fryktelig lang tid å utvikle nye legemidler, mens det potensielt kan gå mye raskere å utvikle et skikkelig kjipt virus hvis det er det du faktisk ønsker å gjøre...Og hva kan vi faktisk gjøre for å redusere risikoen, uten samtidig å ødelegge for alle de fantastiske mulighetene AI gir innen forskning og medisin?