Обязанности:
Кого мы ищем Мы ищем Senior MLOps Engineer, который примет активное участие в создании надежной и маштабируемой платформы для разработки, внедрения и мониторинга ML моделей. Платформа предусматривает два режима работы - batch и real-time. Наш стэк: k8s, Flux2, Airflow, Redis, Qdrant, ClearML, Ray, FastAPI, MongoDB, Spark, Kafka, Prometheus, Grafana. Чем предстоит заниматься: Создание MLOps-практик (стенды, DevOps, процессы) для задач запуска кампаний продаж, обработки аудиоконтента, инференса LLM, развития внутренних LLM-агентов: среды разработки, тестирования, инференса и мониторинга моделей в различных режимах (Batch, Streaming) и использования ресурсов (CPU, GPU) Внедрение и поддержка инструментов версионирования артефактов (ClearML, MLFlow, DVC, AirFlow и т.п.) Развитие LLMOps-практик (эффективный инференс LLM для ChatGPT-like решений) Помощь команде DS в выводом моделей в прод У тебя все получится, если ты имеешь: Опыт работы в качестве DevOps/MLOps/ML Engineer не менее 2 лет Опыт работы с k8s, умение разрабатывать и поддерживать сервисы в этой среде Опыт развертывания и использования MLOps инструментов (ClearML, Ray Serve, DVC, MLflow и т.п.) Опыт выстраивания CI/CD, DAG пайплайнов для разработки/тестирования/инференса моделей/витрин Опыт отладки Spark-job'ов, умение разбираться в ML-алгоритмах (бустинги, сетки, LLM, распределённые вычисления) Знание принципов организации распредёленных информационных систем и баз данных Будет плюсом: Теоретические и практические знания векторных баз данных (Qdrant, Open Search или аналогов) Опыт работы с Feature Store и обеспечения ежедневной работы потоков данных Знания и опыт оптимизации GPU-инференса для LLM Опыт разработки REST-сервисовПохожие вакансии
Договорная
Москва. Станции метро: Парк Победы, Кутузовская, Студенческая
Bell Integrator
Договорная
Москва. Станции метро: Парк Победы, Кутузовская, Студенческая
Островок
Договорная
Москва. Станции метро: Парк Победы, Кутузовская, Студенческая
Страховая компания Сбербанк страхование
Договорная
Москва. Станции метро: Парк Победы, Кутузовская, Студенческая
Страховая компания Сбербанк страхование
Договорная
Москва. Станции метро: Парк Победы, Кутузовская, Студенческая
RWB (Wildberries & Russ)