Курс подходит
- Специалистам, внедряющим ИИ в ежедневную работу
- Предпринимателям и руководителям
- Разработчикам AI-сценариев и ассистентов
Искусственный интеллект
Онлайн-курс «AI Guardrails и безопасные LLM-приложения»
Проектировать управляемые ограничения для входов, инструментов и ответов языковой модели. Обучение построено вокруг практики и завершается самостоятельной итоговой работой.
Итоговый результат: защитный контур AI-сервиса с политиками, тестами атак и журналированием.
12 модулейот основ до проекта
33–45 часовв удобном темпе
Автопроверкаобратная связь сразу
Сертификатс проверкой подлинности
О программе
Кому подойдёт курс и чему вы научитесь
Практические навыки
- Разбирать «Модель угроз LLM» на практическом примере
- Проектировать «Политики входа» на практическом примере
- Применять «Prompt injection» на практическом примере
- Проверять «Контроль инструментов» на практическом примере
- Сравнивать решения для «Структурированный вывод» на практическом примере
- Объяснять результат по теме «Проверка фактов» на практическом примере
Программа обученияМодуль 1 · Основа Модуль 2 · Основа Модуль 3 · Основа Модуль 4 · Сборка Модуль 5 · Сборка Модуль 6 · Сборка Модуль 7 · Сборка Модуль 8 · Сборка Модуль 9 · Проверка и усиление Модуль 10 · Проверка и усиление Модуль 11 · Проверка и усиление Модуль 12 · Защита
Что вы изучите и создадите
Каждый модуль объясняет отдельную тему простыми словами и закрепляет её практикой.
Модель угроз LLM
«Модель угроз LLM» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Политики входа
«Политики входа» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Prompt injection
«Prompt injection» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Контроль инструментов
«Контроль инструментов» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Структурированный вывод
«Структурированный вывод» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Проверка фактов
«Проверка фактов» простыми словами — это умение задать наблюдаемое поведение, подготовить репрезентативные случаи и сравнить ожидаемый результат с фактическим.
PII и секреты
«PII и секреты» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Модерация
«Модерация» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Human-in-the-loop
«Human-in-the-loop» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Журналирование
«Журналирование» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Red-team evals
«Red-team evals» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Итоговый защитный контур
«Итоговый защитный контур» простыми словами — это умение описать допустимый контекст и формат результата, проверить сложные запросы и явно определить безопасный отказ.
Результат
защитный контур AI-сервиса с политиками, тестами атак и журналированием
По ходу курса ученик выполняет практические задания, проверяет себя и постепенно готовит итоговую работу.
Что нужно знать до начала
Уверенно пользоваться компьютером и проверять информацию по источникам. Для курсов с API пригодятся основы программирования.
Инструменты курса
Python, LLM API, policy engine, evals, observability
Формат
Теория простыми словами, разобранный пример, практика, автопроверка и итоговый проект
Можно начать сразу
Начать обучение →Перейдите от программы к практике
Доступ ко всем модулям, автопроверке и сертификату — 22 900 ₽.
Ответы на вопросы
Подойдёт ли курс новичку?
Да. Материал идёт от простых действий к самостоятельной работе, а новые термины объясняются по ходу курса.
Как проверяются задания?
Система проверяет текст ответа по критериям урока и короткий тест. Код, сайт или другой результат ученик прикладывает как доказательство: система оценивает объяснение, но не запускает проект автоматически.
Когда я получу сертификат?
Именной сертификат освоения основной части программы автоматически выпускается после зачёта 80% модулей. В нём указано, сколько модулей пройдено; обучение можно продолжить до 100%.