Курс подходит
- Специалистам, внедряющим ИИ в ежедневную работу
- Предпринимателям и руководителям
- Разработчикам AI-сценариев и ассистентов
Искусственный интеллект
Онлайн-курс «Безопасность AI-приложений»
Защищать приложения с языковыми моделями. Обучение построено вокруг практики и завершается самостоятельной итоговой работой.
Итоговый результат: модель угроз и защищённый AI-прототип.
12 модулейот основ до проекта
33–45 часовв удобном темпе
Автопроверкаобратная связь сразу
Сертификатс проверкой подлинности
О программе
Кому подойдёт курс и чему вы научитесь
Практические навыки
- Разбирать «Поверхность атаки» на практическом примере
- Проектировать «Модель угроз» на практическом примере
- Применять «Prompt injection» на практическом примере
- Проверять «Утечка данных» на практическом примере
- Сравнивать решения для «Небезопасный output» на практическом примере
- Объяснять результат по теме «Tool permissions» на практическом примере
Программа обученияМодуль 1 · Основа Модуль 2 · Основа Модуль 3 · Основа Модуль 4 · Сборка Модуль 5 · Сборка Модуль 6 · Сборка Модуль 7 · Сборка Модуль 8 · Сборка Модуль 9 · Проверка и усиление Модуль 10 · Проверка и усиление Модуль 11 · Проверка и усиление Модуль 12 · Защита
Что вы изучите и создадите
Каждый модуль объясняет отдельную тему простыми словами и закрепляет её практикой.
Поверхность атаки
«Поверхность атаки» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Модель угроз
«Модель угроз» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Prompt injection
«Prompt injection» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Утечка данных
«Утечка данных» простыми словами — это умение определить единицу наблюдения и качество исходных данных, выполнить расчёт и проверить вывод независимым способом.
Небезопасный output
«Небезопасный output» простыми словами — это умение построить модель угроз, сократить поверхность атаки и проверить защиту воспроизводимым сценарием.
Tool permissions
«Tool permissions» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
RAG poisoning
«RAG poisoning» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Секреты
«Секреты» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Фильтрация и модерация
«Фильтрация и модерация» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Red teaming
«Red teaming» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Мониторинг
«Мониторинг» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Итоговый защищённый прототип
«Итоговый защищённый прототип» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Результат
модель угроз и защищённый AI-прототип
По ходу курса ученик выполняет практические задания, проверяет себя и постепенно готовит итоговую работу.
Что нужно знать до начала
Уверенно пользоваться компьютером и проверять информацию по источникам. Для курсов с API пригодятся основы программирования. Курс не вводный: желательно заранее выполнить небольшой проект по этой теме.
Инструменты курса
LLM API, evals, security testing
Формат
Теория простыми словами, разобранный пример, практика, автопроверка и итоговый проект
Можно начать сразу
Начать обучение →Перейдите от программы к практике
Доступ ко всем модулям, автопроверке и сертификату — 22 900 ₽.
Ответы на вопросы
Подойдёт ли курс новичку?
Это не вводный курс. Перед началом желательно: Уверенно пользоваться компьютером и проверять информацию по источникам. Для курсов с API пригодятся основы программирования. Курс не вводный: желательно заранее выполнить небольшой проект по этой теме..
Как проверяются задания?
Система проверяет текст ответа по критериям урока и короткий тест. Код, сайт или другой результат ученик прикладывает как доказательство: система оценивает объяснение, но не запускает проект автоматически.
Когда я получу сертификат?
Именной сертификат освоения основной части программы автоматически выпускается после зачёта 80% модулей. В нём указано, сколько модулей пройдено; обучение можно продолжить до 100%.