Обязанности:
Чем предстоит заниматься: Проектировать и развивать ML-контур: инференс, автоматизацию переобучение, доставку моделей в продукт, мониторинг. Отвечать за то, чтобы контур всегда работал и быстро обслуживал нагрузку: high availability, балансировка, масштабирование в кластере. Продуктивизировать ML-решения: конвертировать и оптимизировать модели под разные рантаймы, деплоить на Triton Inference Server. Строить замкнутый цикл: потоки данных, переобучение, валидация, непрерывная поставка модели в прод. Контейнеризировать решения и доставлять их в контур, оптимизировать сборки. Строить CI/CD с ML-нагрузкой, автоматизировать тестирование, развивать тестовый контур. Готовить инфраструктуру для A/B-экспериментов. Выстраивать observability: метрики, логи, трейсинг запросов. Разворачивать модели на собственных серверах. Проектировать интерфейсы и контракты между системами, автоматизировать ML-процессы. Для нас важно: От 4 лет коммерческого опыта в разработке, MLOps или ML engineering, включая реальный опыт вывода ML-моделей в прод. Python: чистый объектно-ориентированный код, проектирование абстракций и интерфейсов, тестируемость. Или сильные навыки system design с умением чётко определять взаимодействие систем. Опыт работы с Triton Inference Server и конвертации моделей под разные рантаймы (ONNX, TensorRT). Знание Docker - оптимизация итоговой сборки, GPU-образы, безопасность контейнеров. Опыт работы с облачной GPU-инфраструктурой. Свободное владение Linux. REST API на Flask или FastAPI, опыт построения микросервисной архитектуры. Понимание конкурентного исполнения кода, опыт обеспечения HA и распределения нагрузки. Понимание метрик качества ML-моделей, базовые знания теории вероятностей и матстатистики. Знание информационной безопасности и современных сценариев атак. Уверенная работа с git. Повседневная работа с AI-агентами (Claude Code, Codex и аналоги). Высшее образование в Computer Science или смежной области, магистратура. Будет плюсом: ClearML или аналогичные MLOps-платформы. Опыт с KV-хранилищами, векторными БД, NoSQL и очередями сообщений. Опыт on-prem деплоя LLM (vLLM, SGLang, TensorRT-LLM).Похожие вакансии