AI-разработчик // LLM-инженер

NeoFamily — EdTech-компания, разрабатывающая web-решения для эффективной подготовки к ЕГЭ. Мы создаем цифровые продукты, которые помогают школьникам достигать высоких результатов на экзаменах. Сейчас мы в поиске LLM Backend инженера / AI-разработчика, который сможет поддерживать и развивать сервис проверки домашних заданий на базе LLM, а также внедрять ИИ в рабочие процессы компании. Обязанности: - Внедрять ИИ в процессы компании;- Поддерживать и развивать FastAPI-сервис;- Работать с PostgreSQL, RabbitMQ, Docker/Docker Compose;- Развивать пайплайн асинхронной обработки задач: постановка задач в очередь, relay-сервис, worker’ы, retries и обработка ошибок;- Интегрировать LLM-провайдеров через OpenAI-compatible API;- Настраивать fallback-модели, ретраи, таймауты и обработку ошибок;- Улучшать промпты и пайплайн проверки домашних заданий;- Запускать и анализировать бенчмарки качества, стоимости и скорости моделей;- Разбирать ошибки модели и искать способы улучшить качество проверки. Требования: - Опыт разработки backend-сервисов на Python;- Опыт работы с PostgreSQL;- Навыки работы с Docker, Docker-Compose и Git;- Понимание принципов написания читаемого, поддерживаемого и масштабируемого кода;- Опыт работы с брокерами сообщений по типу RabbitMQ;- Понимание принципов отказоустойчивости и масштабируемости backend-сервисов;- Умение делать LLM-интеграции;- Умение писать промпты для LLM;- Понимание устройства LLM изнутри;- Опыт построения бенчмарков для ML моделей: как собрать датасет, как посчитать метрики качества, определить, как посчитать latency;- Умение работать с нестабильными внешними API: понимать, как устроены rate limit-ы, как можно построить fallback механизмы и т.д. Будет плюсом:- MLflow или похожие инструменты для экспериментов с ML моделями;- Опыт работы с OCR / vision-моделями / обработкой изображений;- Опыт деплоя сервисов. Что мы предлагаем:- Наставничество: code review, регулярная обратная связь- Возможность влиять на решения и предлагать улучшения- Опытная и дружелюбная команда- Работа над реальными задачами и участие в продакшене- Поддержка профессионального роста Варианты трудоустройства:- через трудоустройство по ТК РФ в IT-аккредитованную компанию (отсрочка от призыва, IT-ипотека)- через оказание услуг ИП