DevOps-инженер в AI-платформу

О проекте

Крупная AI-платформа, где строится экосистема агентных решений: каталог AI-агентов, мультиагентные системы, конструктор воркфлоу, реестр промптов и единый безопасный доступ к десяткам LLM (как локальным, так и внешним). Команда делает инфраструктуру и инструменты, на которых другие команды собирают и запускают AI-продукты. Это возможность работать на стыке DevOps и современного AI — с GPU, инференсом, оркестрацией агентов и безопасностью LLM.

Обязанности

• Развивать и поддерживать Kubernetes-инфраструктуру для AI/LLM-сервисов, включая GPU-нагрузки и инференс моделей.
• Строить и автоматизировать CI/CD и GitOps-процессы для быстрой и безопасной доставки AI-компонентов.
• Разворачивать и сопровождать стек observability для LLM: метрики, трейсинг, логи, мониторинг latency, токенов и стоимости.
• Обеспечивать безопасность и изоляцию: управление секретами, RBAC, сетевые политики, защита пайплайнов от prompt injection и утечек данных.
• Работать в плотной связке с ML/AI-командами: помогать с инференсом, векторными хранилищами, оркестрацией агентов и масштабированием.

Требования

• 4+ лет в DevOps / Platform / MLOps / Infrastructure Engineering.
• Kubernetes в проде (managed и/или on-prem, OpenShift — плюс), Helm, операторы.
• IaC: Terraform / Terragrunt, Ansible.
• CI/CD: GitLab CI, Argo CD, GitOps.
• Observability: Prometheus, Grafana, VictoriaMetrics, ELK/EFK, алертинг.
• Управление секретами и безопасность: Vault, Keycloak, RBAC, network policies.
• Опыт работы с AI/LLM-нагрузками: GPU-инфраструктура (NVIDIA, CUDA, MIG), инференс LLM (vLLM, TGI, Triton), векторные БД (Qdrant, Milvus, pgvector).
• Понимание MLOps-стека: MLflow, DVC, ClearML, Kubeflow или аналогов.
• Python для автоматизации и обвязки сервисов.
• Опыт с LLM-мониторингом (Langfuse, LangSmith, Arize) и OpenAI-совместимыми шлюзами (LiteLLM) — плюс.
• Понимание agentic-архитектур, RAG, prompt injection и guardrails — плюс.
• Опыт в банке / финтехе / cloud-провайдере — плюс.

Условия

• Официальное оформление по ТК РФ (компания имеет ИТ-аккредитацию).
• Удаленный формат работы (только с территории РФ).
• Конкурентный уровень дохода (оклад + годовой бонус).
• ДМС со стоматологией.
• Много возможностей для профессионального роста.