Обязанности:
Стрим создаёт экосистему цифровых помощников на базе opensource LLM/VLM, которые решают реальные бизнес-задачи наших клиентов — от автоматизации процессов до интеллектуального анализа данных. Мы ищем в команду Architect платформы цифровых агентов, который заложит технологический фундамент и будет определять стратегию развития нашей GenOps-инфраструктуры. Это ключевая роль, объединяющая видение продукта, выбор технологического стека и создание стандартов разработки. Вместе с нами вам предстоит: Проектирование высоконагруженных систем: разработка архитектуры мультиагентной платформы, обеспечивающей надежную оркестрацию тысяч цифровых помощников и эффективный инференс LLM/VLM в продакшене; Стратегия и выбор стека: определение технологического ландшафта (оркестрация, базы данных, очереди, фреймворки инференса), внедрение современных подходов к оптимизации и управлению GPU-ресурсами; Обеспечение нефункциональных требований: закладывание в архитектуру принципов отказоустойчивости, горизонтального масштабирования, безопасности и наблюдаемости (observability) на всех уровнях — от железа до качества семантических ответов агентов; Техническое лидерство: участие в код-ревью ключевых компонентов, написание архитектурных решений, синхронизация команды вокруг технического видения и менторство инженеров; Исследование и внедрение R&D: оценка и прототипирование новых open-source решений в области агентных систем и LLMOps для повышения эффективности платформы. Для нас важно: Наличие высшее технического образования; Глубокое понимание принципов машинного обучения, NLP и информационного поиска (Information Retrieval); Практический опыт проектирования архитектуры сервисов на базе больших языковых моделей (LLM) в промышленную эксплуатацию; Владение современным LLM-стеком (фреймворки оркестрации агентов, инференса, оценки), инструментами MLOps и компонентами Modern Data Stack; Стек: Python, FastAPI, langchain/llamaindex/haystack k8s, docker, S3, postgresПохожие вакансии
Middle/Senior ML-инженер по обработке естественного языка (NLP+LLM)
Договорная
Казань
Университет Иннополис