Data Quality Engineer

В трайбе SberWorks (Сбер) мы создаём Productivity Platform — единую платформу для автоматизации производственных процессов и внедрения искусственного интеллекта в Сбере. В основе платформы лежит DataLake — централизованное хранилище, которое накапливает и структурирует данные для аналитики, обучения AI-ассистентов и построения витрин. Цель создания платформы Productivity Platform — обеспечить единый и бесшовный путь для команд Банка, сократив производственные затраты благодаря максимальной автоматизации и применению искусственного интеллекта на каждом этапе производственного процесса. Команда DataLake отвечает за развитие и сопровождение холодного хранилища на базе Hadoop. Мы ищем специалиста, который поможет нам развить с нуля практики тестирования данных в нашей системе и выстроить процессы обеспечения качества данных на всех этапах их жизненного цикла. Стек технологий проекта: Python, PySpark, Airflow, Hadoop (Hive), Kafka, Postgres, CDC, OpenMetaData Обязанности · Разрабатывать и поддерживать автоматизированные тесты Data Quality для данных, хранящихся в Hadoop (Hive). · Интегрировать тесты в Airflow-пайплайны, обеспечивать их запуск по расписанию и мониторинг результатов. · Анализировать причины инцидентов с качеством данных, взаимодействовать с владельцами источников и потребителями данных. · Разрабатывать и внедрять метрики, правила и стандарты качества данных для DataLake. · Участвовать в развитии инфраструктуры тестирования данных, внедрять новые инструменты и подходы. Требования · Опыт работы с Hadoop/Hive, понимание принципов организации данных в DWH. · Уверенное владение Python и PySpark для написания тестов и обработки данных. · Опыт работы с Airflow: создание, отладка и поддержка DAG’ов. · Понимание принципов тестирования данных (Data Quality), опыт разработки автотестов для ETL-процессов. · Навыки работы с SQL, опыт анализа данных и поиска аномалий. · Будет плюсом: опыт работы с Kafka, CDC, Postgres. · Будешь стремиться погружаться в продукт, а не "просто писать код" Условия · Современный комфортный офис рядом с м. Кутузовская. · Ежегодный пересмотр зарплаты и годовая премия · Более 400 образовательных программ СберУниверситета. Возможность постоянно совершенствоваться и развивать профессиональные навыки. · Программа адаптации и помощь руководителя на старте. Мы поможем вам быстро влиться в коллектив и начать продуктивную работу. · Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа. Забота о вас и ваших близких — важный аспект нашего сотрудничества. · Корпоративный спортзал и зоны отдыха. · Ипотека выгоднее до 7% для каждого сотрудника. Специальные условия ипотечного кредитования сделают покупку жилья доступной. · Подписка СберПрайм+, скидки на продукты компаний-партнеров · Вознаграждение за рекомендацию друзей в команду Сбера. Привлекая новых талантливых специалистов, вы можете заработать дополнительное вознаграждение.