Руководитель направления исследований безопасности GenAI (TI&RnD)

Это возможность возглавить исследовательское направление в команде, занимающейся проектами в новом, динамично развивающемся направлении безопасности искусственного интеллекта. Ваши задачи будут связаны с поиском и исследованием уязвимостей GenAI и AI-приложений с их использованием, в том числе AI-агентов. В коллективе опытных экспертов вы будете оценивать безопасность разрабатываемого ПО, предлагать инструменты для автоматизации исследования и тестирования безопасности GenAI-моделей, а также формировать и развивать исследовательскую команду, участвуя в международных и внутренних CTF.

Это не административная роль, мы ищем «играющего тренера», который сам может написать первый прототип, проверить гипотезу об угрозе и решить таск на CTF — и только потом делегирует масштабирование команде. Если ваш опыт ограничивается управлением процессами без hands-on разработки и исследований, эта позиция не подойдёт.

Вам предстоит:

• Исследование угроз GenAI: создание, поддержка и развитие инструментов для анализа и поиска угроз, в т.ч.:

-разработка средств автоматизации сбора, хранения и анализа новых публикаций, инцидентов и методов атак на GenAI (краулинг, парсинг информации, разработка и управление системами хранения).

-создание и тестирование прототипов (Proof of Concept) для поиска уязвимостей GenAI (скрипты, основные библиотеки GenAI, AI-агенты для генерации кода).

• DevOps: CI/CD, контроль версий (git), тестирование качества, инфраструктура для работы (linux).
• Внедрение практик AI PDLC: исследование и применение методов и инструментов создания и развития программного обеспечения с применением передовых ИИ-моделей.
• Погружение в экосистему: изучение и практическое применение передовых фреймворков и библиотек для работы с LLM и AI-агентами.
• Управление командой: формирование и развитие исследовательской команды (3–5 человек), приоритизация исследований, защита решений перед руководством и смежными командами.
• CTF и хакатоны: формирование и капитанство команды на международных CTF по AI/ML security, трансляция найденных техник в работу направления.
• Публикации и нормативные документы: оформление результатов исследований, вклад в нормативные документы безопасности AI.

Что для нас важно:

• Профиль и образование: законченное высшее образование в области информационных технологий, компьютерных наук, прикладной математики, программной инженерии или смежных направлений.
• Продвинутые навыки программирования: понимание принципов проектирования и разработки программного обеспечения, опыт в написании и чтении программного кода (понятный, поддерживаемый).
• Навыки DevOps: работа с git, администрирование linux, автоматизация этапов жизненного цикла разработки ПО.
• LLM и AI-агенты: экспертный уровень применения LLM для разработки ПО, глубокое понимание архитектуры агентов и их векторов атак.
• Английский язык на уровне не менее чтения технической документации, статей и участия в международных CTF.
• Опыт командной работы в проектах разработки: канбан (спринты, трекинг задач), jira/git/confluence, презентации и умение понятно объяснять свои идеи команде/руководству и согласовывать требования.
• Adversarial ML и red teaming LLM: практический опыт поиска уязвимостей в GenAI-моделях (prompt injection, jailbreaking, tool poisoning, data extraction).
• Знание инструментария для LLM security: Giskard, Garak, LLM Guard и др.
• CTF и хакатоны: участие в международных CTF по AI/ML security (желательно — победы или призовые места).

Мы предлагаем:

• Комфортный современный офис ул. Вавилова 19.
• Офисный формат работы.
• Ежегодный пересмотр зарплаты, годовая премия.
• Корпоративный спортзал и зоны отдыха.
• Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития.
• Программа адаптации и помощь руководителя на старте.
• Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа.
• Гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ.
• Подписка Прайм с возможностью совместного использования на трёх близких.
• Вознаграждение за рекомендацию друзей в команду Сбера.