Тренинг по безопасности ИИ

Про безопасность ИИ говорят все. Вопросы заказчика начинаются там, где заканчивается презентация

Заказчик говорит «мы уже гоняем свою локальную модель» — и разговор заканчивается. Не потому, что человек плохо продаёт или плохо защищает, а потому, что матчасть он слышал один раз на презентации и через неделю от неё ничего не осталось.

Один или два дня вживую. Разбираем, как ИИ устроен на самом деле, где он ломается — с демо, а не со слайдами, — и как об этом говорить: с заказчиком, если вы продаёте, и с руководством, если вы внедряете.

  • один или два дня
  • до 12 человек
  • Москва или ваша площадка
  • стенд для практики
Денис Батранков
34 года в ИБсерия вебинаров про безопасность ИИ-агентов@safebdv — 10 000+ подписчиковготовые демо атак, а не описания
Кому это нужно

Две команды, которым нужны разные практические навыки

Обе выходят на одни и те же вопросы: чем RAG отличается от файнтюнинга, где у агента лишние права и что из этого надо защищать в первую очередь. Программа готовит отвечать на них; общая часть одна, примеры и упражнения — разные.

Если вы продаёте

Сейлы и пресейлы вендоров и интеграторов

Команда услышала презентацию продукта и решила, что готова. На встрече заказчик спрашивает, чем RAG отличается от файнтюнинга и зачем ему ваш продукт при локальной модели, — и разговор рассыпается.

  • Квалификационные вопросы, после которых понятно, есть ли задача
  • Словарь: какие формулировки точны, а какие обещают больше, чем делает продукт
  • Отработка возражений в парах, разбор на видео
  • Место вашего продукта на рынке защиты ИИ, честно
Если вы внедряете

Команды информационной безопасности и их руководители

ИИ в компании уже работает, часто без вашего ведома. Руководство просит «навести порядок», а с чего начинать — неясно: угрозы описаны общими словами, а продукты обещают всё сразу.

  • Что именно ломается: подмена инструкций, утечка данных, избыточные права агента
  • Как найти теневой ИИ, которым сотрудники уже пользуются
  • Требования регуляторов и персональные данные в промптах
  • Как читать обещания вендоров и считать экономику пилота
Программа

Строю её от разговора с заказчиком назад к матчасти

Ликбез «как устроена нейросеть» сам по себе не держится: через неделю от него ничего не остаётся. Поэтому сначала разбираем, в каком месте разговора человек замолкает, и только потом добираем теорию ровно до этого места.

Один день · 8 академических часов

База и разговор

  1. Как ИИ работает без магии. Токены, контекст, галлюцинации, обучение против инференса.
  2. Карта технологий. LLM, RAG, файнтюнинг, агенты, MCP, локальные модели — и чем они отличаются на практике.
  3. Где ИИ ломается. Подмена инструкций, обход ограничений, утечка данных, теневой ИИ. С живыми демо.
  4. Рынок защиты ИИ. Кто что делает на самом деле и где в этой картине ваш продукт.
  5. Разговор с заказчиком. Квалификационные вопросы, словарь, отработка возражений в парах.
Два дня · 16 академических часов

То же без спешки плюс практика

  1. Требования регуляторов. Что уже обязательно и как читать документы, не пересказывая их клиенту дословно.
  2. Персональные данные в промптах. Где проходит граница и что с этим делать технически.
  3. Практикум на стенде. Каждый сам ломает ИИ-агента руками — это запоминается иначе, чем чужое демо.
  4. Экономика пилота. Как посчитать и защитить его перед тем, кто платит.
  5. Питч-баттл. Каждый выступает, разбираем запись вместе.

Второй день имеет смысл, когда команде нужно не понять, а уметь. За восемь часов практикум и разбор записи не помещаются.

Результат

Что человек умеет на следующий день

  • Объясняет своими словами, чем агент отличается от чат-бота и почему это меняет модель угроз
  • Не замолкает на «у нас своя локальная модель» — знает, что спросить следующим
  • Показывает атаку на модель руками, а не пересказывает статью о ней
  • Отличает то, что продукт правда умеет, от того, что написано в презентации
  • Доводит разговор до следующего шага: пилота, замера или внутреннего решения
Как это устроено

Что входит в работу, кроме самого дня

Подготовка под вас

Перед тренингом разбираю ваши продукты, ваши сделки и возражения, которые вы реально слышите. Общих примеров на занятии не будет.

Стенд для практики

Готовая среда, где ИИ-агента можно сломать безопасно. Ничего ставить у себя не нужно.

Замер до и после

Входной и выходной срез знаний. Видно, что изменилось, — и тому, кто платил, и самим участникам.

Веду лично, без ассистентов. Группа до 12 человек — больше не берусь: практикум и разбор записи перестают помещаться в день.

Следующий шаг

Расскажите, кого и чему нужно научить

Технического задания не нужно. Напишите, сколько человек, кто это — сейлы, пресейлы или ИБ-команда, — и что должно измениться после обучения. Отвечу сам: предложу формат и назову смету.