
Inn til kjernen #87 med Sigrid Bratlie, Inga Strümke og Ishita Barua: Vil AI utslette menneskeheten?
Shownotes
«Your scientists were so preoccupied with whether or not they could, they didn't stop to think if they should.»Kjenner du sitatet? (Du får svaret helt i starten av episoden 😉) Jeg synes i hvert fall det passer ganske godt til diskusjonen om kunstig intelligens...For noen uker siden fikk jeg en melding fra molekylærbiolog Sigrid Bratlie, som hadde veldig lyst til å diskutere hvor farlig AI egentlig kan bli, og da spesielt hva som skjer når vi kombinerer stadig kraftigere AI-modeller med moderne bioteknologi. Hun er nemlig uenig med AI-forsker Inga Strümke og lege og AI-forsker Ishita Barua om hvor bekymret vi egentlig bør være for utviklingen.Så jeg samlet de tre til en skikkelig nerdediskusjon om AI og risikoen for at teknologien kan brukes til å utvikle biologiske våpen. For hvor lett er det egentlig for AI å bidra til å utslette menneskeheten? Eller er dette først og fremst dommedagsprofetier fra en bransje som har interesse av å fremstille sin egen teknologi som ekstremt kraftfull, for eksempel i forkant av en børsnotering?Vi snakker blant annet om Anthropic-rapporten, der forskere har forsøkt å bruke AI til potensielt farlig biologisk forskning, og om hvor mye AI egentlig gjør mulig som vi ikke kunne fått til tidligere. Men vi kommer også innom AI-selskapenes egne interesser (hvor mye skal vi egentlig stole på advarslene deres – har det ikke alltid vært «avhoppere» fra teknologiselskaper som roper ulv, ulv, og mener at nå kommer verden potensielt til å gå under?), forskjellen mellom språkmodeller og spesialiserte biologiske modeller, og hvorfor det fortsatt tar fryktelig lang tid å utvikle nye legemidler, mens det potensielt kan gå mye raskere å utvikle et skikkelig kjipt virus hvis det er det du faktisk ønsker å gjøre...Og hva kan vi faktisk gjøre for å redusere risikoen, uten samtidig å ødelegge for alle de fantastiske mulighetene AI gir innen forskning og medisin?