Обязанности:
Привет! Мы в поисках Senior Data Engineer на проект построения и развития хранилища данных в направление Магнит Маркета. Магнит, огромный классический brick-and-mortar ритейлер, врывается на рынок маркетплейсов, запуская свой Магнит Маркет на основе присоединившегося к нам пятого по размеру маркетплейса в России — Kazan Express — и собственной офлайн-инфраструктуры. Основные задачи — развитие существующего фреймворка загрузки сырьевых данных и построения витрин над ними, развитие дата-каталога, движка Data Quality. Наша команда - это 5 дата инженеров + аналитик. Наш стек: Greenplum и Clickhouse как DWH; Airflow как оркестратор задач; Python для дагов и операторов в AF; Debezium как CDC; Yandex Cloud как место работы всех наших сервисов; DBT как основа дата каталога и шаблонизатор SQL. Чем ты будешь заниматься: В первые три месяца Погружаться во фреймворки загрузки данных и расчета витрин на основе задач по одному из направлений; Осваиваться в предметной области данных; Проводить code review аналитиков с целью использования ими лучших технических решений и оптимизации производительности. Когда освоишься Создавать новые паттерны загрузки данных и расчета витрин для дальнейшего переиспользования; Развивать модель данных; Рефакторить текущие процессы, предлагать лучшие практики работы с данными; Самостоятельно вести проекты, нужные бизнесу; Декомпозировать их до понятных технических задач. Мы ожидаем: Опыт в Greenplum и/или ClickHouse; Знания особенностей MPP систем; Уверенно владеть SQL (оконные функции, партицирование, агрегации, оптимизация запросов, понимание плана запроса); Опыт с Python достаточный для разработки операторов в Airflow (ООП) и написания пайплайнов данных из различных источников; Понимание принципов работы Airflow. Мы предлагаем: Интересный сложный продукт с большим количеством пользователей; Оформление в аккредитованную ИТ-компанию; Конкурентоспособную заработную плату (обсуждается индивидуально); ДМС со стоматологией; Технику для работы; Наличие корпоративных скидок PRIMEZONE (товары, рестораны, фитнес и тд), программ лояльности, корпоративной библиотеки, курсов; Удаленка, либо у нас есть уютные офисы в Москве, СПб, Краснодаре или Иннополисе :)Похожие вакансии