Обязанности:
Технологический стек: Docker, Kubernetes. Kserve/Seldon Core /Triton/vllm. AirFlow, GitLab CI. MLFlow. PostgreSQL, Minio(S3). Чем предстоит заниматься: Управление Kubernetes-инфраструктурой: Разворачивание, сопровождение и оптимизация production-окружений на базе Kubernetes. Настройка и обслуживание GPU-нод для эффективной работы тренировочных задач и инференса тяжелых LLM-моделей. Разработка и поддержка Helm Charts для унификации деплоя микросервисов и ML-компонентов. Автоматизация CI/CD для ML: Проектирование и поддержка пайплайнов автоматической сборки, тестирования и деплоя (CI/CD) в GitLab CI. Построение процессов непрерывной доставки моделей (CD для ML): от регистрации артефакта до развертывания в прод. Оркестрация данных и экспериментов: Обеспечение стабильной работы Apache AirFlow для orchestration DAG-ов (пайплайнов подготовки данных, тренировок и валидации). Администрирование и интеграция MLFlow (отслеживание экспериментов, реестр моделей, переход между версиями моделей). Инференс и продуктивизация моделей: Развертывание и настройка высокопроизводительных inference-серверов: KServe / Seldon Core (для стандартного ML), а также Triton и vLLM (для LLM и генеративных моделей). Внедрение лучших практик по масштабированию (autoscaling), канареечным развертываниям (canary) и мониторингу дрифта данных. Работа с данными и хранилищами: Настройка и поддержка взаимодействия между компонентами и системами хранения: PostgreSQL (как бэкенд для AirFlow/MLFlow) и объектное хранилище Minio (S3) (для хранения датасетов, артефактов моделей и чекпоинтов). Разработка и код: Написание вспомогательных утилит и адаптеров для интеграции ML-библиотек с инфраструктурой. Будет плюсом, если вы готовы писать высоконагруженные компоненты на Go. Мы ожидаем от кандидата: Опыт работы на релевантной позиции от 2-х лет; Опыт развертывания, настройки и поддержки Kubernetes окружения в production среде; Опыт развертывания, настройки и поддержки релевантного стека (AirFlow, GitLab CI, MLFlow, PostgreSQL, Minio(S3)); Опыт настройки CI/DC пайплайнов (GitLab CI/CD); Опыт настройки GPU нод в Kubernetes; Опыт развертывания, настройки и поддержки inference серверов, таких как Kserve / Seldon Code в в production среде; Опыт продуктивизации ML/LLM моделей; Опыт разработки/ написание helm chart-в; Знание Python (Знание Go приветствуется). Мы предлагаем: Профессиональное развитие в команде экспертов, нетривиальные задачи, новый интересный опыт; Возможность работать в составе крупной компании, лидере страхового рынка; Полное соблюдение норм Трудового Кодекса РФ; Полностью "белая" конкурентная зарплата, премии; График работы 5/2 (удаленный формат работы) или гибридный график с офисом ст .м. Киевская; Корпоративные скидки на страховые продукты (авто страхование, ВЗР и т.д.); Корпоративные скидки на фитнес, магазины-партнёры, книги и др.; Подключение к ДМС после успешного прохождения испытательного срока; Электронная библиотека с более чем 3000 книг на самые актуальные темы.Похожие вакансии