Обязанности:
Наша команда обеспечивает кибербезопасность GenAI-моделей, LLM-приложений, AI-агентов и мультиагентных систем, используемых миллионами пользователей. Основной фокус: кибербезопасность GenAI-моделей разных модальностей с помощью автоматизированных бенчмарков и обеспечение безопасности AI-агентов, тестирование их логики принятия решений, а также доступных инструментов. Вам предстоит: проведение тестирований моделей разных модальностей с помощью автоматизированных бенчмарков поиск и адаптация релевантных наборов данных (датасетов) адаптация и настройка новых или уже существующих бенчмарков для тестирования устойчивости моделей к различным видам атак проведение практического пентеста AI-агентов и мультиагентных систем с фокусом на специфичные уязвимости (промпт-инъекции, манипуляция контекстом, нарушение логики оркестрации, компрометация инструментов RAG/API), выявление угроз и уязвимостей на уровне поведения, логики взаимодействия агентов, используемых инструментов разработка рекомендаций и требований безопасности для повышения безопасности агентных систем подготовка заключений и отчетной документации по результатам оценки защищенности взаимодействие с командами разработки для внедрения мер безопасности отслеживание современных трендов и методов атак в области безопасности AI-агентов участие и выступление на ключевых внутренних и внешних мероприятиях, посвященных кибербезопасности ИИ. Что для нас важно: высшее образование в области информационной безопасности, компьютерных наук, либо эквивалентный практический опыт 2+ года релевантного опыта работы (включая пентест, академическую среду или CTF) знание английского языка на уровне чтения технической литературы понимание архитектур и специфических векторов атак для GenAI-моделей разных модальностей (текст, код, изображение, аудио) опыт работы с фреймворками и библиотеками для тестирования LLM/GenAI понимание основ пентеста и методик создания моделей угроз применительно к агентным системам понимание принципов работы, архитектур и протоколов взаимодействия AI-агентов и мультиагентных систем глубокое понимание тактик атак из MITRE ATLAS и уязвимостей из OWASP Top 10 for LLM применительно к агентам опыт анализа сложных распределенных систем на наличие уязвимостей и «узких» мест владение Python для написания скриптов автоматизации тестирования и анализа. умение формализовать неочевидные проблемы в поведении агента как конкретные уязвимости и риски для бизнеса навыки формирования отчетной документации и интерпретации результатов тестирования как бизнес-рисков. Будет большим плюсом: опыт в разработке и адаптации бенчмарков, а также умение анализировать и сравнивать результаты тестирования различных моделей участие в CTF или специализированных соревнованиях по безопасности AI опыт практического тестирования поведения AI-приложений или агентов (подойдет исследовательский/хобби-проект или CTF) практический опыт работы с фреймворками для создания агентов опыт представления результатов своей работы широкой аудитории понимание вызовов, связанных с безопасностью (security/safety) автономных агентов. Мы предлагаем: комфортный современный офис офисный формат работы ежегодный пересмотр зарплаты, годовая премия корпоративный спортзал и зоны отдыха более 400 образовательных программ СберУниверситета для профессионального и карьерного развития программа адаптации и помощь руководителя на старте расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров вознаграждение за рекомендацию друзей в команду Сбера.Похожие вакансии