other

LLM Backend Engineer

Более недели назад

З/П не указана

Город: Москва

СБЕР

Тип занятости: Полная занятость

Требуемый опыт: Опыт от 3 лет

Мы ищем LLM инженеров в команду AI HUB БЛиК, перед которой стоят две задачи: агентизировать HR-процессы Банка с помощью AI-инструментов и внедрить их в платформу Пульс, сделав решения доступными каждому из сотрудников. Мы используем Python, LangGraph, Kubernetes, а также собственные и внешние модели. При этом, свободно сочетаем готовые инструменты с решениями, которые пишем сами. Нам важны системы, которые приносят организации измеримый результат. Вы будете ключевым специалистом в кросс-функциональной команде и будете работать бок о бок с backend, DS, Data и другими LLM-инженерами. Первый этап отбора на эту вакансию — общение с AI-рекрутером. После отклика ждите сообщение от него, диалог займёт примерно 10 минут. Задача AI-рекрутера — уточнить недостающие детали и ускорить рассмотрение вашей кандидатуры. AI-рекрутер только начинает свой путь, поэтому просим относиться с пониманием. Ваш опыт и участие помогут сделать его удобным и полезным для всех! Обязанности разрабатывать и сопровождать бэкенд AI-агентов: оркестрация графов на LangGraph — состояния, ветвления, циклы, human-in-the-loop, политики retry и fallback проектировать и версионировать инструменты (tools) для агентов, интегрировать их с внутренними системами банка через REST/gRPC/MCP/A2A работать со сложными промптами, настраивать источники данных под RAG для эффективного поиска и оценивать ответы моделей на точность, релевантность и качество упаковывать сервисы в Docker и выводить их в промышленный Kubernetes проектировать и проводить эксперименты и A/B-тесты над промптами, пайплайнами и конфигурациями моделей развивать систему eval — формировать наборы задач и сценариев, определять метрики accuracy/relevance/robustness, автоматизировать прогон экспериментов и анализ результатов; принимать продуктовые решения на основе метрик заниматься тонкой настройкой и оптимизацией конфигураций моделей и агентов: сравнивать модели, версии и параметры inference, подбирать баланс качества, latency и стоимости, обеспечивать устойчивость и предсказуемость работы оркестраций в production выстраивать мониторинг: трассировку цепочек вызовов, метрики латентности, токенов и стоимости, алертинг вместе с командой решать сложные задачи внедрения AI, ревьюить код и держать высокую планку качества решений. Требования практический опыт работы с LLM: промпт-инжиниринг, сборка пайплайнов, интеграция моделей LangGraph — опыт разработки агентных графов, вывода их в прод и отладки нетривиального поведения Docker — сборка и оптимизация образов, multi-stage, работа с реестрами Kubernetes — реальный опыт эксплуатации сервисов в кластере, а не только знакомство по документации Python — глубокое понимание asyncio / multithreading / multiprocessing, понимание алгоритмов и структур данных для решения нетривиальных задач, продвинутые знания SQL: сложные JOIN, CTE, оконные функции, оптимизация запросов (EXPLAIN), работа с подзапросами понимание метрик качества и практический опыт A/B-тестирования ML-решений умение приоритизировать гипотезы, обоснованно выбирать модели, методы и алгоритмы и проектировать эффективные инженерные решения опыт поставки качественного ПО и владение циклом разработки целиком — от технического дизайна до мониторинга после выката понимание ландшафта LLM-провайдеров: как коммерческих, так и open-source моделей, разворачиваемых в собственном контуре знакомство с open-source инструментами для построения и оценки RAG: LangChain, LlamaIndex, Ragas, MLflow и подобными умение объяснять сложные технические вещи широкой аудитории стейкхолдеров. Будет плюсом: опыт вывода в прод бизнес-критичных ML/AI-приложений опыт адаптации, дообучения и разворачивания open-source моделей в on-premise или закрытом контуре MCP (Model Context Protocol), разработка MCP-серверов и проксирования инструментов мультиагентные архитектуры: маршрутизация, разделение ролей, общая память между агентами практический опыт работы с Redis (кэширование, брокер) и ClickHouse (или другими колоночными СУБД), опыт работы с очередями сообщений: Kafka и/или Celery личное портфолио pet-проектов по ML или вклад в open-source опыт работы в банке, финтехе или другом регулируемом домене опыт построения React-агентов на современных open-source решениях опыт использования Openclaw, Hermes, Ouroboros навыки работы с генеративными AI-моделями, опыт создания AI-агентов и использование их в работе будет преимуществом опыт использования GigaChat, Kandinsky и аналогов в продуктах инструментальное владение Ai для анализа, генерации и автоматизации. Условия гибридный формат работы(2 дня в офисе, 3 дня дома), адрес офиса Кутузовский проспект 32 ежегодный пересмотр зарплаты, квартальная и годовая премия корпоративный спортзал и зоны отдыха более 400 образовательных программ СберУниверситета для профессионального и карьерного развития программа адаптации и помощь руководителя на старте расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ подписка Прайм с возможностью совместного использования на трёх близких вознаграждение за рекомендацию друзей в команду Сбера.

Показать контакты

Имя не указано

Пожаловаться ID: 159545174

Похожие вакансии

Senior LLM Inference Backend Engineer

Договорная

Москва

YADRO

LLM/NLP Engineer

Договорная

Москва

IT_One

AI/LLM Engineer

Договорная

Москва

Российские железные дороги

ML backend engineer

Договорная

Москва

Страховая компания Сбербанк страхование

Backend Navigation Engineer

От 300 000 руб.

Москва

Qlan

Senior Backend Engineer

Договорная

Москва

Леста Игры