Pointer[308]: Rubare I Ragionamenti
Notas do episódio
🧠 Negli ultimi mesi si è parlato molto della Distillation dei modelli closed source eseguita da provider cinesi per il training dei loro modelli. Dopo l'ennesimo blog post di Open AI, che ha accusato Moonshot AI di aver utilizzato la distillation in Kimi K3, abbiamo pensato di incentrare la puntata di questa settimana su un articolo pubblicato di recente, in cui si mostra come sia possibile 'rubare' le reasoning traces delle LLM. 🕵️ L'approccio non è particolarmente complesso ma è molto astuto: i ricercatori hanno mostrato come sia possibile utilizzarlo per rubare le reasoning races e anche per eseguire Jailbreak e Prompt Injection. 🔎 A questo punto la domanda sorge spontanea: se possiamo rubare le reasoning races possiamo anche capire se un modello è stato allenato con Distillation? Una risposta definitiva non possiamo ancora averla, ma da alcune analisi mostrate nel paper si ricavano evidenze inequivocabili.
Unisciti al nostro gruppo Telegram per discutere della puntata: https://t.me/pointerpodcastgruppo
Note Puntata- Stealing Reasoning Traces from Proprietary LLM APIs
- Disrupting a coordinated model-distillation campaign
- Fai acquisti partedendo dalla nostra vetrina Amazon
- Iscriviti ad Audible dal nostro link per ricevere 1 mese di ascolto gratuito, 60 giorni se sei già utente Amazon Prime
- Iscriviti a Kindle Unlimited dal nostro link per ricevere 3 mesi di letture gratuite
- Iscriviti a amazon music dal nostro link per ricevere 4 mesi di uso gratuito
- La nostra pagina supportaci