
23) Norske språkmodeller og Nasjonalbibliotekets digitalisering med Wilfred Østgulen
Notas do episódio
Visste du at Nasjonalbiblioteket publiserte sin første norske GPT-modell 11 måneder før ChatGPT kom? Eller at de har jobbet med å digitalisere hele samlingen sin i 20 år?
Borealis er en familie av åpne norske språkmodeller utviklet av Nasjonalbiblioteket. De er gratis, og du kan kjøre dem på din egen maskin. I denne episoden av Heis møter vi Wilfred Østgulen, IT-direktør i Nasjonalbiblioteket. Vi snakker om hva vi egentlig skal med norske språkmodeller, hvor vanskelige de er å lage, og hvorfor vi ikke bare kan overlate jobben med å lage en bra norsk modell til de store internasjonale teknologiselskapene.
En bra norsk modell må nemlig trenes på store mengder norsk tekst, så et skikkelig bra datasett er derfor en betydelig del av svaret. Og det datasettet har vi i Norge, for i 2006 bestemte Nasjonalbiblioteket seg for å digitalisere hele samlingen, rubb og rake. Vi snakker om fabrikken i Mo i Rana, som 20 år senere har digitalisert 19 petabyte som skal kunne bevares i 1000 år.
Wilfred mener han har en av de mest spennende teknologijobbene i landet. Etter denne samtalen er vi tilbøyelige til å være enige!
Ting vi snakker om underveis:
- Borealis på Hugging Face // hele modellfamilien, fra 270M til 27B parametre
- Borealis2 31B preview // forhåndsversjonen av versjon 2, bygget på Gemma 4
- A new family of Norwegian-centric models // lanseringsposten fra AI-laben, med lenke til demo
- LM Studio // søk etter Borealis, og kjør modellen på din egen laptop
- Modellene fra AI-laben // NB-Whisper, NB-BERT og den aller første NB-GPT-J-6B
- Prosjekt Mímir // hva er opphavsrettsbeskyttet tekst verdt for en språkmodell?
- Mímir-prosjektets tekniske rapport // for deg som vil ha tallene
- Første språkmodeller trent på tekst fra norske aviser // pressemeldingen fra august 2026
- Pliktavleveringslova // derfor havner konfirmasjonssangen din i Mo i Rana
- 88.000 kaoslagrede stålkasser og seks robotkraner // TU besøker fjellhallen
- Attention Is All You Need // artikkelen fra 2017 som snudde AI-laben
- Training Compute-Optimal Large Language Models // Chinchilla-skalering, eller hvorfor mer regnekraft gir større modeller
- Norway joins LUMI-AI // regnekraften Borealis trenes på
- Inga Strümke på Heis // mer om hvor AI er på vei
Verter for podcasten er Truls Jørgensen og Audun Fauchald Strand, produsent er Tore Græsdal.
Hosted on Acast. See acast.com/privacy for more information.