ML архитектор

Обязанности: Анализ задач заказчика (LLM, CV, recommender, classical ML и др.) и требований к качеству/скорости Проектирование целевой архитектуры ML‑решения с учетом ограничений инфраструктуры и продуктов Взаимодействие с ML‑командами заказчика Анализ задач заказчика (LLM, CV, recommender, classical ML и др.) и требований к качеству/скорости Выбор и обоснование стека: фреймворки (PyTorch, TensorFlow и др.), библиотеки, runtime, форматы моделей, схемы шардирования/параллелизма Определение требований к ресурсам (число GPU, тип/объем памяти, сеть, хранилище) Решение проблем на стыке GPU Граус и прикладных бизнес‑задач Разработка рекомендаций по конфигурации моделей (batch size, quantization, pipeline‑параллелизм и др.) для достижения SLA по задержке и пропускной Участие в настройке мониторинга метрик ML‑сервисов: latency, throughput, quality, drift, resource utilization Подготовка эксплуатационных best practices и шаблонов архитектур для типовых сценариев Требования: Опыт проектирования Архитектуры ML‑решения Понимание GPU‑архитектуры, ограничений памяти, пропускной способности и влияния архитектуры модели на загрузку ресурсов Знание современных ML/Deep Learning‑подходов (LLM, CV, NLP, recommender и др.) Знание фреймворков: PyTorch, TensorFlow и др. Архитектура inference‑сервисов (on‑prem, Kubernetes, микросервисы, сервинговые фреймворки) Знание основ оптимизации моделей (quantization, pruning, distillation, tensor/ pipeline/ data parallelism) Опыт работы с Python, Jupyter/VS Code, ML‑фреймворки (PyTorch, TensorFlow и др.), системы оркестрации (Kubernetes), CI/CD, системы мониторинга и логирования, инструменты профилирования и оптимизации моделей