ML-инженер

Мы создаём передовой блокчейн для распределенных вычислений в сфере ИИ. Мы ищем инженера, специализирующегося на инфраструктуре и производительности вывода машинного обучения. Ваша задача — сделать крупномасштабный вывод ИИ быстрым, экономически эффективным и безопасным в среде гетерогенных GPU-узлов, включая конфиденциальные и минимизированные по уровню доверия среды. Обязанности: Архитектура и разработка децентрализованных ИИ-систем корпоративного уровня (pro-code); Создание и масштабирование ИИ-инфраструктуры на базе Kubernetes с использованием Docker, K8s, Terraform/Pulumi и распределенных фреймворков (KubeRay, SkyPilot); Оптимизация вывода LLM / Transformer (задержки, пропускная способность, память); Работа с vLLM, SGLang, пакетной обработкой, KV-кэшем, потоковым выводом; Развертывание и настройка Triton Inference Server, TensorRT, ONNX Runtime; Применение квантования (INT8 / FP16 / FP8) и анализ компромиссов между точностью и скоростью; Профилирование и оптимизация использования CUDA/GPU; Выбор и тестирование GPU для распределенных рабочих нагрузок; Построение защищенных конвейеров вывода с использованием TEE (Intel SGX, NVIDIA Confidential Computing, аттестация): Интеграция вывода ИИ с планированием на основе блокчейна и уровнями доверия. Требования: AI / Inference: PyTorch, ONNX; vLLM, SGLang; Triton Inference Server, TensorRT; CUDA, NVIDIA NGC; Знания в области систем машинного обучения: Архитектура Transformer, механизм внимания; KV-кэш, токенизация, эмбеддинги; Линейная алгебра для повышения производительности машинного обучения; Языки программирования: Python, Rust. Будет плюсом: — Понимание основ блокчейна; — Опыт работы с распределенными системами / P2P-сетями; — Масштабируемые системы машинного обучения в производственной среде; — Сильный технический английский.