Senior Deep Learning Research Engineer

Мы разрабатываем и внедряем передовые методы оптимизации обучения и инференса сверхкрупных нейронных сетей (десятки миллиардов параметров) для мультимодальных генеративных моделей. Фокус — компиляция, квантизация, дистилляция, sparsity и другие техники ускорения, без компромисса по качеству.

Обязанности

• Исследование и внедрение методов оптимизации обучения (gradient checkpointing, activation recomputation, mixed-precision, оптимизация графа вычислений).
• Разработка и интеграция техник инференс-ускорения: quantization (INT8, FP8), pruning, structured sparsity, knowledge distillation.
• Использование и доработка ML-компиляторов (TorchDyname, TorchInductor, TensorRT, и другие) для оптимизации вычислительных графов.
• Совместная работа с командами CUDA operators и Distributed Learning для обеспечения максимальной производительности на GPU.
• Проектирование и проведение экспериментов по компрессии моделей и сравнительный анализ trade-off’ов скорость/качество.

Требования

• Экспертный уровень Python, PyTorch.
• Опыт работы с ML-компиляторами и оптимизацией инференса и обучения.
• Глубокое понимание методов квантизации, дистилляции и спарсификации.
• Навыки профилирования и оптимизации производительности (PyTorch Profiler, Nsight Systems, perf).
• Понимание архитектур современных LLM и Diffusion-моделей.

Бонус:

Опыт оптимизации на CPU/ASIC/FPGA, публикации на NeurIPS/ICML/MLSys, знание C++.

Условия

• Комфортный современный офис рядом с м. Кутузовская.
• Формат работы гибрид.
• Ежегодный пересмотр зарплаты, квартальная и годовая премия.
• Корпоративный спортзал и зоны отдыха.
• Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития.
• Программа адаптации и помощь руководителя на старте.
• Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа.
• Ипотека выгоднее до 7% для каждого сотрудника.
• Бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров.
• Вознаграждение за рекомендацию друзей в команду Сбера.