#93 - Hvordan Bygger Man RAG-systemer? med Emil Lykke Jensen

I denne episode af Vabos Podcast dykker værten Kasper Junge og gæsten Emil Jensen ned i Retrieval Augmented Generation (RAG). De diskuterer, hvad RAG er, hvordan det kan anvendes i virksomheder, og hvilke udfordringer der er forbundet med datahåndtering og søgning. Derudover taler de om vigtigheden af at optimere supportartikler og den iterative proces i systemforbedringer. Episoden afsluttes med en diskussion om hukommelse og RAGs fremtidige perspektiver. I denne samtale diskuterer deltagerne emner relateret til AI, semantisk søgning, evaluering af RAG-systemer, fine-tuning og RAG. De udforsker, hvordan uendelige kontekstvinduer kan forbedre søgninger, vigtigheden af feedback loops i systemer, og hvordan man bedst anvender fine-tuning i forhold til RAG. Deltagerne deler også deres erfaringer med forskellige modeller og værktøjer, samt hvordan domæneviden spiller en afgørende rolle i data science.

Find Emil Lykke Jensen og hans projekter her:

- https://www.linkedin.com/in/emillykkejensen/

- https://www.governt.io/

- https://www.brieft.io/

Chapters

00:00 Introduktion til RAG og gæsternes baggrund

02:31 Hvad er Retrieval Augmented Generation?

05:22 Anvendelse af RAG i virksomheder

08:06 Udfordringer ved datahåndtering og søgning

10:44 Effektivitet i søgning og retrieval

13:39 Optimering af supportartikler med RAG

16:23 Data som en vigtig ressource

18:56 Iterativ forbedring af systemer

22:03 Hukommelse og RAGs rolle

24:42 Fremtidige perspektiver for RAG

35:52 Uendelige kontekstvinduer og semantisk søgning

42:20 Evaluering af racksystemer og feedback loops

47:48 Fine-tuning vs. RAG: Hvornår skal man bruge hvad?

55:03 Praktiske anvendelser og fremtidige perspektiver