Senioer Data Engineer (Scala)

Мы разрабатываем аналитические системы на базе единой платформы, которые позволяют безопасно работать с данными независимо от их формата, метода хранения и эксплуатации. Платформа основана на концепции Infrastructure as Code (IAC) и состоит из нескольких независимых программных продуктов и сервисов на базе JVM/Scala и Kubernetes. Она обеспечивает высокий уровень потоковой обработки и хранения данных, управления доступом и метаданными, а также контролем их использования в периметре частных облачных сред. Обязанности: Проработка High Level Design процессов загрузки данных на платформу Декомпозиция задач, оценка сроков выполнения Выполнение Code review и контроль правильности реализации принятых технических решений Реализация процессов загрузки данных на платформу из различных источников (s3, hdfs, samba, sftp) в различных форматах (csv, parquet, json, xml) Определение и согласование нефункциональных требований к процессам построения витрин Разработка витрин данных Расчет и загрузка данных в feature store Реализация общих программных компонент по обработке данных (airflow операторы, spark internals, общие библиотеки по загрузке данных) Проектирование моделей данных, для хранения Технологический стек Языки программирования: Scala (2.13+) Хранение и обработка данных: Postgresql, ClickHouse, Scylla, ElasticSearch, S3, Kafka, Spark Мониторинг: Grafana, Prometheus Прочие технологии и фреймворки: Docker, Kubernetes(Openshift), Typelevel (Cats Effect, Circe, Doobie, Weaver), ScalaTest Наши ожидания: Профильное образование: информационные технологии, статистика, математика Понимание работы Spark, Spark Streaming, Scala Знание алгоритмов и структур данных, знание SQL Опыт работы по специальности от 3 лет Знание особенностей реализации различных алгоритмов и структур данных Опыт работы в команде Что мы предлагаем Здоровье и спорт: ДМС со стоматологией Корпоративные скидки в сети фитнес-клубов World Class Корпоративный тариф на абонементы FITMOST Программа корпоративных скидок Best Benefits – на спорт и не только Спортивные мероприятия (турниры по футболу, волейболу, киберспорт, забеги, шахматы) Обучение и развитие: Курсы английского языка, в том числе с носителем языка Сообщества по интересам: вместе читаем книги, ходим на интересные мероприятия и делимся маршрутами путешествий Внешние профессиональные курсы и конференции, сертифицированное обучение, которые вы выбираете сами Профильные митапы – организовываем, проводим и принимаем участие Билеты со скидкой в Музей криптографии для сотрудников и их семей А также: Работа в гибридном формате или в офисе Комфортные офисы в Москве, Санкт-Петербурге и Нижнем Новгороде с кофе-поинтами и разнообразными снеками каждый день Насыщенные и яркие корпоративные праздники Классный мерч