MLSecOps Engineer (AI Safety)

MLSecOps Engineer (AI Safety) — это специалист, который отвечает за безопасность и надежность систем искусственного интеллекта.Обязанности Участие в разработке архитектуры и дизайна стандартизированного размещения ИИ агентов, сегментировании и изолировании контекстов агента (разделение памяти, защита системных промптов); Внедрение и настройка инструментов перехвата и валидации промптов (guardrails), написание правил детекции атак (Jailbreaking, Prompt Injection) и фильтрации вывода; Построение пайплайна безопасной загрузки данных (RAG), реализация механизмов санитизации данных (очистка PII, секретов) до попадания в векторный индекс, настройка прав доступа (RBAC) на уровне чанков данных в векторной базе данных; Разработка и поддержка набора автотестов для ежедневного тестирования безопасности агента; Разработка валидаторов для структурированного вывода, проверка планов агента на безопасность перед исполнением (pydantic). Требования Свободное владение Python; Знание LangChain и/или LlamaIndex, умение писать кастомные callbacks, chains, tools; Понимание OWASP Top 10 for LLM, знание механик атак (prompt injection, indirect injection, data poisoning, model denial of service); Понимание работы векторных баз данных (Pinecone, Milvus, Qdrant); Базовое понимание Docker и CI/CD для интеграции проверок в общий пайплайн. Мы предлагаем Необходимое оборудование и софт для работы; Официальное трудоустройство; ДМС со стоматологией, офисный врач, доплата больничного листа, корпоративные скидки; Льготные условия ипотеки в рамках зарплатного проекта; Бесплатная подписка на сервисы партнеров; Корпоративный спорт; Насыщенная корпоративная жизнь; Электронная библиотека издательства МИФ, в которую входят почти 2 тыс. единиц контента по бизнесу, саморазвитию, здоровому образу жизни и другим актуальным темам.