Обязанности:
О проекте 2UP AI Platform — корпоративная AI SaaS-платформа для создания и развёртывания граф-агентов на базе LangGraph. Платформа объединяет агентные сценарии, RAG, работу с несколькими LLM-провайдерами, корпоративные интеграции, мультитенантную архитектуру, потоковую генерацию ответов и инструменты наблюдаемости. Мы ищем инженера, который сможет работать на стыке сильного Python backend и прикладной AI-разработки: развивать сервисы платформы, создавать LLM-агентов, улучшать RAG-пайплайны и доводить AI-функциональность до стабильного production. Что предстоит делать Backend и архитектура платформы Разрабатывать и развивать сервисы на Python и FastAPI. Проектировать API и внутреннюю архитектуру AI-платформы. Работать с асинхронным Python: asyncio, aiohttp, async-драйверы баз данных. Развивать pipeline обработки сообщений: инициализация, подготовка контекста, retrieval, вызов LLM, работа с инструментами, кэширование, метрики и форматирование ответа. Работать с MongoDB: модели данных, индексы, запросы, агрегации и оптимизация производительности. Использовать Redis для кэширования, хранения состояния и временных данных. Реализовывать WebSocket/SSE streaming ответов AI-агентов. Интегрировать корпоративные и внешние сервисы через API: Jira, Confluence, Google Workspace, S3, OAuth/OIDC и другие системы. Писать тесты, участвовать в code review и рефакторинге существующего кода. LLM, агенты и RAG Разрабатывать AI-агентов и графовые workflow на LangGraph. Реализовывать StateGraph, tool calling, memory, управление контекстом, ветвлениями и обработкой ошибок. Создавать и улучшать RAG-пайплайны для работы с документами и корпоративными источниками знаний. Настраивать загрузку и обработку PDF, DOCX, PPTX, wiki, тикетов и других источников. Работать с чанкингом, метаданными, embeddings, векторным и гибридным поиском. Настраивать retrieval, reranking, фильтрацию и цитирование источников. Интегрировать разные LLM через OpenAI API, Anthropic API, OpenRouter, LiteLLM или аналогичные инструменты. Разрабатывать MCP-инструменты и подключать их к агентному фреймворку. Улучшать качество ответов и снижать количество галлюцинаций. Оптимизировать latency, стоимость запросов, размер контекста и выбор моделей. Качество и эксплуатация Настраивать трассировку и наблюдаемость LLM-сценариев. Формировать наборы тестовых запросов и проводить регрессионные проверки. Использовать Langfuse, RAGAS, LLM-as-a-judge или аналогичные подходы. Участвовать в контейнеризации, CI/CD, мониторинге и логировании. Анализировать production-инциденты и повышать устойчивость AI-сервисов. Обязательные требования От 3 лет коммерческого опыта backend-разработки на Python. Уверенное знание Python 3.11+. Практический опыт разработки production-сервисов на FastAPI, Flask, Django или аналогичных фреймворках. Опыт с асинхронным Python. Опыт работы с PostgreSQL и/или MongoDB. Практический опыт с Redis. Уверенная работа с Docker и docker-compose. Опыт интеграции внешних API. Опыт работы с LLM API и понимание особенностей LLM-систем. Практический опыт создания RAG-решений. Опыт с LangChain, LangGraph или аналогичными агентными фреймворками. Понимание embeddings, vector search, chunking, retrieval и reranking. Умение разбираться в существующем коде и развивать уже работающую систему. Будет плюсом Опыт с Qdrant, pgvector, Pinecone, Weaviate или другими векторными хранилищами. Опыт с LightRAG, GraphRAG или agentic RAG. Практический опыт с Langfuse, LangSmith, RAGAS. Опыт разработки MCP-серверов и инструментов. Опыт с LiteLLM и несколькими LLM-провайдерами. Опыт с Keycloak, OAuth2, OIDC и JWT. Опыт разработки мультитенантных SaaS-систем. Опыт с S3/MinIO. Знание Prometheus, Grafana, Sentry, OpenTelemetry. Опыт с Kubernetes и CI/CD. Опыт self-hosted LLM, vLLM, Ollama или Hugging Face. Опыт fine-tuning моделей через LoRA/QLoRA. Кого мы ищем Нам подойдёт инженер, который: не ограничивается прототипами и умеет доводить решения до production; одинаково уверенно чувствует себя в backend-разработке и AI-интеграциях; понимает, что качество AI-системы зависит не только от промпта, но и от архитектуры, данных, retrieval, наблюдаемости и обработки ошибок; умеет принимать технические решения с учётом качества, скорости, стоимости и дальнейшего масштабирования; готов работать с существующей кодовой базой, а не только создавать решения с нуля. Условия Работа над собственной корпоративной AI-платформой. Удалённый или гибридный формат. Полная занятость. Возможность влиять на архитектуру продукта и технические решения. Задачи на стыке backend, LLM, RAG и AI Agents. Оформление и уровень дохода обсуждаются индивидуально. Процесс отбора Короткое знакомство с HR. Техническое интервью с командой. Финальная встреча с руководителем.Похожие вакансии