Inferenza europea e zero log | Eugenio Petullà
Notes de l’épisode
Inferenza LLM in Europa, zero data retention e open weight: Eugenio Petullà (Regolo.ai) su dove finiscono i tuoi dati quando interroghi un modello di frontiera o open weight.
Parliamo con Eugenio Petullà, Chief AI Alchemist di Regolo.ai, provider europeo di inferenza hostato in Italia nel gruppo DHH/Seeweb. Regolo serve modelli open weight a consumo tramite API OpenAI-compatible, con zero data retention: niente log, niente training sui dati dei clienti, tutto dentro un datacenter italiano GDPR-compliant.
Nell'intervista: la geopolitica delle GPU e perché l'Europa è schiacciata tra USA e Cina (TSMC, ASML, il collo di bottiglia di Taiwan), il routing dei modelli con brick e il principio "il modello giusto per il task giusto" (non Fable per tradurre un'email), la libreria ai-footprint per misurare CO2 e Watt di ogni chiamata, il sospetto che OpenAI e Anthropic logghino i tuoi prompt, e perché l'Europa ha perso il treno del training ma può ancora vincere su inferenza e robotica.
🎓 Capitoli
0:00:00 Inferenza europea e i tuoi dati
0:06:07 Red Hat, GNOME e l'amore per Linux
0:11:00 Professional open source: Mozilla e WordPress
0:15:52 Regolo, provider europeo di inferenza
0:20:47 GLM, Qwen, Gemma e i small model
0:27:56 I tre business model di Regolo
0:33:45 Geopolitica GPU: Europa tra USA e Cina
0:43:52 Server farm, memoria e impatto ambientale
0:56:00 Modelli di frontiera, Mistral e gap europeo
1:03:39 Routing e brick: il modello giusto
1:12:31 Zero data retention: i tuoi dati su OpenAI
1:18:30 Colonia tecnologica e cloud sovrano
1:24:59 Il futuro degli open weight
1:32:26 AI Act, il treno perso e robotica
🔗 Ascolta sull'altra piattaforma
Spotify: https://open.spotify.com/episode/4mlKC6SrTiixqdNCVjD75T?utm_source=youtube&utm_medium=description&utm_campaign=petulla_drop
Sito: https://risorseartificiali.com/?utm_source=youtube&utm_medium=description&utm_campaign=petulla_drop
👥 Eugenio Petullà
LinkedIn: https://www.linkedin.com/in/eugeniopetulla
Regolo.ai: https://regolo.ai
Se ti piace il podcast, iscriviti al canale. Si parla di AI Engineering in italiano, tra pari tecnici.
Tous les épisodes de Risorse Artificiali AI Engineering in italiano