Разработчик инфраструктуры генеративных сетей (Поиск)

Наша группа занимается разработкой инфраструктуры вокруг вычисления генеративных сетей.

Инфраструктура у нас широкая — по всему Яндексу её используют множество команд. В задачи группы входит:

• Разработка сервера инференса (не занимаемся GPU-вычислениями внутри, только бизнес-логикой).
• Разработка релизных процессов для доставки сервера в прод.
• Создание утилит для разворачивания сервера не в проде (чтобы клиенты могли разово по желанию временно поднять сервис, проверить, потушить).
• Работа с общим балансером, где живут общедоступные модели на ограниченном количестве железа, которое должно быть доступно примерно всем в Яндексе.
• Встраивание в вышеперечисленную инфру опенсорсных решений.

Иными словами, мы занимаемся обширным DevOps, чтобы продуктовые команды могли быстро и прозрачно выезжать в прод с разными генеративными моделями.

Какие задачи вас ждут

Разработка сервера инференса

У нас есть внутрияндексовая библиотека, которая занимается расчётами генеративных моделей. Вам нужно будет разрабатывать/дорабатывать сервер вокруг этой библиотеки, который должен отвечать самым разным запросам клиентов: каждому хочется по-разному препроцессить вход; некоторым нужен gRPC, некоторым — WebSocket; кто-то хочет дополнительную отправку данных во внешнее хранилище; кому-то нужен батчинг, а кому-то нет; кто-то хочет одну модель, кому-то и пяти не хватает и прочее в этом духе.

Релизные процессы для доставки сервера в прод

Внутри Яндекса уже насчитывается около 200 инсталляций для разных продуктов. При таких масштабах и разнообразных пожеланиях вам предстоит организовывать горизонтально масштабируемые процессы выкаток. Это включает (среди прочего): регулярное вытаскивание актуальных запросов из прода, no-diff-тестирование всех доступных ручек для каждого из клиентов, непосредственно выкатку.

Создание утилит для разворачивания сервера не в проде

У клиентов есть понятное желание что-то быстро поднять на своём железе не для прода, а для прокачивания таблиц без гарантий на время ответа для проверок разных гипотез. Важно предоставить им для этого удобные способы — это тоже будет входить в число ваших задач.

Разработка коммунального балансера

Попробовать модели хотят примерно все, но железо ограничено. Хочется давать возможность всем желающим позадавать запросы в основные модели. Для этого вам предстоит разрабатывать отдельный балансер, который будет пытаться по возможности пускать всех с учётом ограниченного железа.

Встраивание опенсорсных решений

Вы будете работать со всей вышеперечисленной инфраструктурой и заниматься встраиванием в неё опенсорсных решений.

Мы ждем, что вы

• Разбираетесь в базовых алгоритмах и структурах данных.
• Хорошо знаете C++.
• Знакомы с паттернами и идиомами построения программного обеспечения.
• Умеете писать надёжный и читабельный многопоточный код.

Что мы предлагаем

Здоровье

Расширенная медицинская страховка начинает работать с первого месяца в Яндексе. В неё входят: стоматология, ежегодные чекапы, неотложная помощь за рубежом, лечение критических заболеваний, в том числе онкологии, и страхование от несчастных случаев.

А также

• Психотерапия в офисе или онлайн-сервисах.
• Лазерная коррекция зрения через год работы.
• Ведение беременности и роды — через два года.

Страховка для родственников по системе 80/20.

• Мы оплачиваем 80% стоимости ДМС для детей и супругов, вы — остальные 20%.

Рост и развитие

В Яндексе есть всё, чтобы постоянно развиваться и учиться новому: внутренняя образовательная платформа, менторство и программы для начинающих и опытных руководителей.

Также мы оплачиваем участие в профильных конференциях — как в качестве спикера, так и в качестве участника.

Кроме того, в Яндексе есть внутренние проекты, где наши сотрудники делятся экспертизой, обсуждают сложные темы и разбирают кейсы своих проектов.

Спорт

Во всех крупных офисах Яндекса есть спортзалы со всем необходимым: тренажёрами, спортивным инвентарём, душевыми, шкафчиками для одежды и вещей. Можете заниматься самостоятельно, а можете с корпоративным тренером.

А также

• Бесплатные онлайн-тренировки с FITMOST.
• Скидки в фитнес-клубах, бассейнах, студиях йоги, скалодромах и других местах.

Спортивный клуб Яндекса

• В Яндексе есть спортивный клуб и много спортивных команд. У них есть свои лидеры, чаты, программы тренировок. А ещё они регулярно участвуют в забегах, триатлонах, «Гонке героев», футбольных и других соревнованиях. Вы сможете присоединиться к существующим командам или собрать свою.

И еще

• Гибкий график. У нас нет фиксированного времени начала и конца рабочего дня — работайте так, как удобно вам и вашей команде.
• Жилищные займы. Льготная ставка на покупку жилья и улучшение жилищных условий — в зависимости от стажа, позиции и результатов ревью. Действует для сотрудников, работающих в российских офисах Яндекса.
• Всё для детей. Страхование, детские дни в офисе, подарки на рождение детей и чекапы при планировании беременности.