Эксперт по безопасности GenAI-моделей (LLM/MLLM) и приложений (Исследование и разработка PoC)

Мы защищаем будущее: создаем систему кибербезопасности для генеративного ИИ в Сбере. Наш продукт SOC4AI (Security Operations Center for AI) — это компонент в структуре SOC (Security Operations Center) Сбербанка, отвечающий за мониторинг, анализ и противодействие киберугрозам на GenAI-модели и AI-агенты.

Вам предстоит:

• Анализ новых инцидентов, методов атак и защиты.
• Разработка и создание работающих примеров атак (PoC) для демонстрации уязвимостей.
• Улучшение имеющихся инструментов для тестирования моделей и приложений на устойчивость к новым методам атак.
• Оценка защищенности существующих моделей и приложений в банке и предложение улучшений.
• Участие и выступление на ключевых внешних и внутренних ИТ-мероприятиях.

Ожидаем, что вы:

• Имеете высшее образование в области информационной безопасности, компьютерных наук, прикладной математики или смежных дисциплин либо эквивалентный практический опыт.
• Владеете Python, пишете чистый и понятный код.
• Знаете английский язык на достаточном уровне для чтения статей на arXiv и имеете минимальный опыт их чтения (возможно, по другой специальности).
• Понимаете основы процессов обучения и дообучения современных LLM/MLLM, а также трудности с safety/security этих моделей и (мульти-)агентных систем на их основе.
• Владеете математической статистикой и теорией вероятности в достаточной мере для проведения экспериментов с обоснованными выводами.

Будет плюсом:

• Участие в соревнованиях по атакам на модели/агентов GenAI.
• Опыт работы с PyTorch, transformers, LangChain, smolagents, rigging, TransformerLens или аналогичными библиотеками.
• Знание основ безопасности GenAI и умение ориентироваться в базовых документах, таких как OWASP Top 10 for LLM, MITRE.
• Опыт представления результатов своей работы широкой аудитории.
• Умение интерпретировать результаты исследований как бизнес-результаты.
• 2+ лет релевантного опыта работы, включая опыт в академической среде.

Мы предлагаем:

• Комфортный современный офис рядом с м. Академическая.
• Офисный формат работы.
• Ежегодный пересмотр зарплаты, годовая премия.
• Корпоративный спортзал и зоны отдыха.
• Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития.
• Программа адаптации и помощь руководителя на старте.
• Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа.
• Гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ.
• Бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров.
• Вознаграждение за рекомендацию друзей в команду Сбера.