Создание безопасных приложений LLM: агенты, RAG и защита от мгновенного ввода

По мере того, как большие языковые модели (LLM) становятся интегрированными в основные бизнес-процессы, появляются новые и критические уязвимости безопасности, особенно касающиеся обработки ввода пользователя и конфиденциальности данных. Этот курс предоставляет фундаментальные знания и практические методы, необходимые для выявления, смягчения и тестирования наиболее критических рисков, с которыми сталкиваются современные приложения LLM. По завершении этого курса вы сможете разрабатывать, создавать и развертывать системы на базе LLM (такие как агенты и приложения RAG), которые работают безопасно и предсказуемо, даже при противоречивых входных данных. Что вы узнаете: * Понять 10 лучших уязвимостей OWASP LLM и как применять моделирование угроз к общим архитектурам LLM, таким как RAG. * Внедрение надежных защитных мер против прямого впрыска, косвенного впрыск, и утечки конфиденциальных данных в развернутых системах. * Настройка агентов LLM и вызовов функций для предотвращения злоупотребления инструментом и обеспечения строгих ограничений на использование ресурсов и циклов. * Практика использования методов проверки данных и методов структурированного выхода (например, схема JSON) для обеспечения предсказуемых ответов модели. * Применять методы редактирования и очистки данных для защиты конфиденциальной информации, проходящей через каналы ЛЛМ. * Интегрировать базовое тестирование безопасности (красная команда) и ворота проверки в рабочие процессы непрерывной интеграции и развертывания (CI / CD). Курс начинается с определения ключевых концепций безопасности LLM и текущего ландшафта угроз, прежде чем перейти к практическому внедрению защитных шаблонов кодирования и обеспечения соблюдения политики для агентов и систем RAG. Этот курс предназначен для разработчиков, ученых по данным и специалистов по безоъепасности, которые только начинают защищать приложения, работающие на LLM. Не требуется предыдущий опыт работы с LLM безопасности, только базовые знания программирования. Начните создавать надежные и устойчивые системы искусственного интеллекта уже сегодня.