Inferenza europea e zero log | Eugenio Petullà

Inferenza LLM in Europa, zero data retention e open weight: Eugenio Petullà (Regolo.ai) su dove finiscono i tuoi dati quando interroghi un modello di frontiera o open weight.

Parliamo con Eugenio Petullà, Chief AI Alchemist di Regolo.ai, provider europeo di inferenza hostato in Italia nel gruppo DHH/Seeweb. Regolo serve modelli open weight a consumo tramite API OpenAI-compatible, con zero data retention: niente log, niente training sui dati dei clienti, tutto dentro un datacenter italiano GDPR-compliant.

Nell'intervista: la geopolitica delle GPU e perché l'Europa è schiacciata tra USA e Cina (TSMC, ASML, il collo di bottiglia di Taiwan), il routing dei modelli con brick e il principio "il modello giusto per il task giusto" (non Fable per tradurre un'email), la libreria ai-footprint per misurare CO2 e Watt di ogni chiamata, il sospetto che OpenAI e Anthropic logghino i tuoi prompt, e perché l'Europa ha perso il treno del training ma può ancora vincere su inferenza e robotica.

🎓 Capitoli

0:00:00 Inferenza europea e i tuoi dati

0:06:07 Red Hat, GNOME e l'amore per Linux

0:11:00 Professional open source: Mozilla e WordPress

0:15:52 Regolo, provider europeo di inferenza

0:20:47 GLM, Qwen, Gemma e i small model

0:27:56 I tre business model di Regolo

0:33:45 Geopolitica GPU: Europa tra USA e Cina

0:43:52 Server farm, memoria e impatto ambientale

0:56:00 Modelli di frontiera, Mistral e gap europeo

1:03:39 Routing e brick: il modello giusto

1:12:31 Zero data retention: i tuoi dati su OpenAI

1:18:30 Colonia tecnologica e cloud sovrano

1:24:59 Il futuro degli open weight

1:32:26 AI Act, il treno perso e robotica

🔗 Ascolta sull'altra piattaforma

Spotify: https://open.spotify.com/episode/4mlKC6SrTiixqdNCVjD75T?utm_source=youtube&utm_medium=description&utm_campaign=petulla_drop

Sito: https://risorseartificiali.com/?utm_source=youtube&utm_medium=description&utm_campaign=petulla_drop

👥 Eugenio Petullà

LinkedIn: https://www.linkedin.com/in/eugeniopetulla

Regolo.ai: https://regolo.ai

Se ti piace il podcast, iscriviti al canale. Si parla di AI Engineering in italiano, tra pari tecnici.