Курс подходит
- Специалистам, внедряющим ИИ в ежедневную работу
- Предпринимателям и руководителям
- Разработчикам AI-сценариев и ассистентов
Искусственный интеллект
Онлайн-курс «Тестирование безопасности LLM-приложений»
Проверять AI-системы на prompt injection, утечки и опасное использование инструментов. Обучение построено вокруг практики и завершается самостоятельной итоговой работой.
Итоговый результат: набор security-evals с моделью угроз, атаками, защитами и отчётом остаточного риска.
12 модулейот основ до проекта
33–45 часовв удобном темпе
Автопроверкаобратная связь сразу
Сертификатс проверкой подлинности
О программе
Кому подойдёт курс и чему вы научитесь
Практические навыки
- Разбирать «Модель угроз» на практическом примере
- Проектировать «Поверхность LLM-приложения» на практическом примере
- Применять «Prompt injection» на практическом примере
- Проверять «Утечка данных» на практическом примере
- Сравнивать решения для «Небезопасный вывод» на практическом примере
- Объяснять результат по теме «Tool abuse» на практическом примере
Программа обученияМодуль 1 · Основа Модуль 2 · Основа Модуль 3 · Основа Модуль 4 · Сборка Модуль 5 · Сборка Модуль 6 · Сборка Модуль 7 · Сборка Модуль 8 · Сборка Модуль 9 · Проверка и усиление Модуль 10 · Проверка и усиление Модуль 11 · Проверка и усиление Модуль 12 · Защита
Что вы изучите и создадите
Каждый модуль объясняет отдельную тему простыми словами и закрепляет её практикой.
Модель угроз
«Модель угроз» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Поверхность LLM-приложения
«Поверхность LLM-приложения» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Prompt injection
«Prompt injection» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Утечка данных
«Утечка данных» простыми словами — это умение определить единицу наблюдения и качество исходных данных, выполнить расчёт и проверить вывод независимым способом.
Небезопасный вывод
«Небезопасный вывод» простыми словами — это умение построить модель угроз, сократить поверхность атаки и проверить защиту воспроизводимым сценарием.
Tool abuse
«Tool abuse» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
RAG poisoning
«RAG poisoning» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Атаки на системные правила
«Атаки на системные правила» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Защитные слои
«Защитные слои» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Автоматизация security-evals
«Автоматизация security-evals» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Триаж находок
«Триаж находок» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Итоговый аудит
«Итоговый аудит» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Результат
набор security-evals с моделью угроз, атаками, защитами и отчётом остаточного риска
По ходу курса ученик выполняет практические задания, проверяет себя и постепенно готовит итоговую работу.
Что нужно знать до начала
Уверенно пользоваться компьютером и проверять информацию по источникам. Для курсов с API пригодятся основы программирования. Курс не вводный: желательно заранее выполнить небольшой проект по этой теме.
Инструменты курса
Python, LLM APIs, OWASP LLM, red teaming, evals
Формат
Теория простыми словами, разобранный пример, практика, автопроверка и итоговый проект
Можно начать сразу
Начать обучение →Перейдите от программы к практике
Доступ ко всем модулям, автопроверке и сертификату — 23 900 ₽.
Ответы на вопросы
Подойдёт ли курс новичку?
Это не вводный курс. Перед началом желательно: Уверенно пользоваться компьютером и проверять информацию по источникам. Для курсов с API пригодятся основы программирования. Курс не вводный: желательно заранее выполнить небольшой проект по этой теме..
Как проверяются задания?
Система проверяет текст ответа по критериям урока и короткий тест. Код, сайт или другой результат ученик прикладывает как доказательство: система оценивает объяснение, но не запускает проект автоматически.
Когда я получу сертификат?
Именной сертификат освоения основной части программы автоматически выпускается после зачёта 80% модулей. В нём указано, сколько модулей пройдено; обучение можно продолжить до 100%.