От 150 000 до 150 000 руб.
руб.
Не важно
Более недели назад, Калининград
Обязанности: <p class="ra-info-block-title">Обязанности:</p>MLOps (Инженер LLM-инфраструктуры) AI Platform Team отвечает за всю инфраструктуру AI: от исследований моделей до их продакшн-запуска.Наша задача дать продуктам надёжный и эффективный доступ к LLM. Строить отказоустойчивые системы, которые держат нагрузку.Мы ищем инженера, который будет проектировать, разворачивать и оптимизировать платформу для инференса больших языковых моделей. Работать с vLLM/Triton, GPU-кластерами, observability-стеком, чтобы модели работали быстро, стабильно и экономично.Если вы строили высоконагруженные ML-системы и хотите решать инфраструктурные задачи в области LLM давайте обсудим.ЧЕМ ПРЕДСТОИТ ЗАНИМАТЬСЯ:Развитие и эксплуатация инфраструктуры для инференса LLM, включая BitrixGPT, локальные и облачные модели:внедрение стеков для эффективного обслуживания LLM, таких как vLLM, Nvidia Triton Inference Server и их аналогов,оптимизация схем распределения нагрузки, батчинга и стриминга токенов.Настройка, эксплуатация и оптимизация GPU-кластеров для инференса:управление ресурсами, планирование загрузки (capacity planning), снижение стоимости владения.Профилирование и отладка сервисов инференса:поиск и устранение узких мест, влияющих на задержки (latency) и пропускную способность (throughput).Настройка наблюдаемости (observability) AI-стека:сбор метрик, логирование, трассировка и алертинг (Prometheus, Grafana и других инструментов,разработка дашбордов для мониторинга доступности, задержек, ошибок и стоимости инференса.Участие в разработке и улучшении платформенных процессов:совместная работа с командами разработки и data science,ревью архитектуры и сервисов, обмен экспертизой на внутренних митапах.
От 150 000 до 150 000 руб.
руб.
Не важно
Более недели назад, Калининград
Обязанности: <p class="ra-info-block-title">Обязанности:</p>Инженер по оптимизации производительности Senior (SaaS, Highload) ЧЕМ ТЕБЕ ПРЕДСТОИТ ЗАНИМАТЬСЯ:Проводить нагрузочные тесты;Замерять и оптимизировать производительность систем;Автоматизировать работу с метриками, алертами и аварийными сценариями;Помогать команде строить отказоустойчивую и масштабируемую архитектуру;Участвовать в ревью архитектурных решений, предлагать улучшения.ЧТО МЫ ЖДЕМ ОТ ТЕБЯ:Производительность и профилирование:Работаешь с: XHProf, Grafana, Xdebug, Prometheus, Nginx, Apache, Jmeter, InfluxDB;Легко читаешь и создаешь метрики в Prometheus, Grafana, Kibana;Настраиваешь проактивный грамотный мониторинг и алертинг;Понимаешь Garbage Collector, CPU-bound vs IO-bound;Знаешь как бороться с утечками памяти и тяжелыми запросами.Про инфраструктуру:Работал с облачными инфраструктурными сервисами: Яндекс Облаком, VK Cloud, Selectel. Понимаешь, где и как они могут проседать;Понимаешь работу балансировщиков, шардирование, репликацию, CDN;Работал с Kubernetes и Docker.Базы данных:Оптимизировал запросы в MySQL и\или PostgreSQL не просто ставил индекс, а реально снижал нагрузку;Умеешь разбирать планы выполнения, знаешь, что такое EXPLAIN ANALYZE и зачем он нужен;Использовал и работал с кешами (Redis/Memcached/ValKey), писал write-behind, инвалидацию делал по-умному.Бекенд:Уверенно работаешь с PHP (оптимизация кода, кеширование, воркеры, очереди);Знаешь, как не убить прод длинным запросом или залоченным SELECT FOR UPDATE.