#289 LLMOps na prática: segurança, custo e evolução do MLOps
Notas do episódio
Por que tantas empresas já rodam agentes de IA em produção e ainda tropeçam em segurança, dados e avaliação? Neste episódio, recebemos Francisco Malaguth, Arquiteto e Cientista de Dados, e Guilherme Flora, Cientista de Dados, ambos da dti digital. Eles explicam o que o LLMOps herda do MLOps e o que precisou ser repensado, como o treinamento deu lugar à seleção de modelos e por que o controle de acesso aos dados ficou muito mais fino. A conversa passa pelo trade-off entre liberdade e segurança que os grandes fornecedores enfrentam, pelo custo que leva empresas a economizar em guardrails e pela dificuldade de medir a qualidade de uma resposta aberta. Dê o play e assista agora!
Assuntos abordados:
- MLOps x LLMOps;
- Seleção de modelos;
- Fine Grained Access;
- Incidentes com IA;
- Guardrails;
- Custo operacional;
- Fundação de dados;
- Evals de LLM;
- Monitoramento contínuo.
Links importantes:
- Vagas disponíveis
- Newsletter
- Dúvidas? Nos mande pelo Linkedin
Contato: [email protected]
O Entre Chaves é uma iniciativa da dti digital, uma empresa WPP
#inteligenciaartificial