
Modelli frontiera ogni 2 settimane: come stare al passo
Notes de l’épisode
Un modello frontiera ogni 2 settimane: Gemini Carbon esce a 14 giorni da Argon e Sundar Pichai promette che il passo resterà tale. Cosa significa per chi usa questi modelli in produzione?
Nell'episodio 78 di Risorse Artificiali, Stefano, Paolo e Alessio partono dal tweet di Pichai e dal nuovo indice di Artificial Analysis (per il 60% chiuso, per evitare la contaminazione dei benchmark) per ragionare su come stare al passo senza perdere il controllo: riproducibilità per l'enterprise, costi reali dei token input nei contesti lunghi, e la scelta consapevole del modello giusto per ogni caso d'uso, tra Nemotron Transcribe e i modelli specializzati.
Nel blocco hardware: come due registri bloccati in fabbrica limitano le RTX 30 e 40, cosa cambia davvero (efficienza per watt, pre-fill in FP16) e perché non va al doppio.
Capitoli:
00:00 Momenti a-moment: da GPT 2022 alla vibe coding
12:20 Artificial Analysis rifà gli indici di intelligenza
18:00 GPT Terra 6.1: orchestratore multi-agente economico
23:00 Token input, contesti lunghi e costi reali
26:45 Gemini Carbon: un modello frontiera ogni 2 settimane
31:00 Release frequenti: il punto di vista enterprise
35:10 Grokbot e Instinct: agenti consumer su WhatsApp
40:20 Nemotron Transcribe 3.5: cosa fa davvero
46:40 Modelli specializzati e il costo del fine-tuning
52:45 Word Error Rate: quanto fidarsi dei numeri
58:35 RTX 30 e 40 sbloccate: i due registri
1:04:00 Efficienza per watt: pre-fill e quantizzazione
1:09:45 Lampadine, TV jailbreakate e saluti
Spotify: https://open.spotify.com/episode/6v5rX5ZSATUk94OF39gxVv?utm_source=youtube&utm_medium=description&utm_campaign=ep78_drop
Sito: https://risorseartificiali.com/?utm_source=youtube&utm_medium=description&utm_campaign=ep78_drop
Iscriviti al canale: parliamo di AI Engineering in italiano, per chi la scrive.
#78
Tous les épisodes de Risorse Artificiali AI Engineering in italiano