Pular para o conteúdo

#269 - Kis magyar szuverenitás: ez a Racka - II. rész

22 de julho de 2026 · 54 min

Notas do episódio

Folytatjuk a múlt héten megkezdett mélyfúrást a nyelvmodellek készítésében, ebben kalauzaink Gyöngyössy Natabara⁠ és ⁠Nemeskey Dávid⁠, a Racka⁠ nyelvmodell fejlesztői. Az adásból kiderül, milyen fázisai és kihívásai vannak a kis nyelvre fejlesztett LLM feltanításának. A nulláról indított tanítás helyett a Qwen 4B modell folytatólagos előtanítását választották, mivel nem állt rendelkezésre elegendő, jó minőségű magyar szövegadat. A tokenizálót ötletesen szabták át a magyar nyelvre, ez 50–60 százalékkal gyorsította a generálást, a Komondor szuperszámítógépen, LoRA-eljárással végzett tanítás pedig összesen 2,1 GPU-évet igényelt. Szó esett még a digitális szuverenitásról, a hazai kutatás finanszírozási kihívásairól, valamint a következő lépésekről is: nagyobb, 30 milliárd paraméteres modellekről és magyar preferenciaadatokra épülő RLHF-fejlesztésről.

Todos os episódios de Láncreakció

Configurações

Exibição

Idioma

Define quais estações você vê primeiro na página inicial.

Histórico

As rádios e episódios ouvidos recentemente e suas últimas buscas ficam só neste navegador.

Avisos

Um aviso rápido quando um podcast que você segue tem um episódio novo. Desative podcasts individuais pelo sino na página deles.

Conta

Salve favoritos – no app e no site.

Atalhos de teclado

/
Abrir busca
Espaço
Reproduzir ou pausar
← →
No player: voltar 15 s, avançar 30 s (episódios) · na fileira: próximo bloco
↑ ↓
Na fileira: alvo dentro do bloco
Home / End
Na fileira: primeiro ou último bloco
Esc
Fechar janela ou menu
?
Esta visão geral
Tocando agora

Ir para a estação

A seguir

    Adicione episódios com “A seguir” – eles tocam depois do episódio atual.