
Защита Copilot от prompt injection: Azure Logic Apps как файрвол с Prompt Shields и Threat Intelligence (ИИ-дубляж)
Show notes
Злоумышленникам не нужно взламывать ваш промпт – достаточно отравить контекст скрытой инструкцией в письме, файле SharePoint или поле формы, которую Copilot затем воспримет как команду. В этом выпуске объясняется, почему системные промпты и фильтры не являются настоящей границей безопасности и как Azure Logic Apps проверяет, оценивает и блокирует вредоносные данные ещё до запуска Copilot.Из выпуска вы узнаете:Почему косвенная prompt injection через извлекаемый контент опаснее прямых атак в окне чата и почему системные промпты, разделители и правила лишь убеждают модель, а не обеспечивают защитуМодель файрвола на Logic Apps: запуск, нормализация, проверка, оценка риска, решение и маршрутизация или журналированиеДва прохода проверки: быстрый фильтр на regex и Azure AI Content Safety Prompt Shields для промпта и документов вместе, плюс Microsoft Defender Threat Intelligence с оценками достоверностиЗоны доверия и нормализация (удаление разметки, декодирование URL и Base64) и ступенчатые решения: пропустить, очистить, поместить в карантин, запросить одобрение человека или заблокироватьНастройка в эксплуатации: ложные срабатывания ниже 2 %, обнаружение быстрее 15 минут и сдерживание быстрее 5, план Consumption или Standard, связь с NIST AI RMF и метками конфиденциальности PurviewДля руководителей по безопасности, архитекторов и администраторов Microsoft 365, которые хотят защитить Copilot во время выполнения.Этот выпуск — русская версия анимированного обучающего видео из M365 Show от Microsoft MVP Мирко Петерса, озвученная с помощью ИИ.▶ Смотреть видео: https://youtu.be/viUa5Zoebnk🎧 Другие выпуски: https://www.m365.fm🎤 M365Con – бесплатная онлайн-конференция по Microsoft: https://m365con.net💼 Мирко Петерс в LinkedIn: https://www.linkedin.com/in/m365showpodcast/
This episode includes AI-generated content.
This episode includes AI-generated content.
All episodes of M365.FM – подкаст о Microsoft 365, Copilot и ИИ на русском