Aviasales.ru

Data Engineer

Не указана
  • Москва
  • Полная занятость
  • Полный день
  • От 3 до 6 лет

Наша команда инфраструктуры аналитики помогает аналитикам делать свою работу. Мы обеспечиваем доставку данных в единое хранилище для аналитики и поддерживаем инструменты для их обработки и презентации.

В компании много самодостаточных команд. В каждой команде свои сервисы, свои разработчики и аналитики. Так что у нас достаточно потоков данных самого разнообразного формата и объема. Это данные о букингах, на которые смотрит вся компания, и каждая запись проверяется чуть ли не руками, а еще — данные о билетах объемом более терабайта в сутки. Это требует разных подходов с нашей стороны.

Работаем на современном стеке на базе LakeHouse архитектуры: Spark, Trino, AWS S3, DeltaLake format, DBT, Kafka, Airbyte, Apache Airflow, DataHub, Great Expectations.

Нам нужен еще один дата инженер в нашу дружную команду, который в ближайшей перспективе будет сфокусирован на задачах одной из продуктовых команд.

Что нужно будет делать:

  • подключать новые источники и разрабатывать/модернизировать data pipelines;

  • настраивать и поддерживать аналитическое окружение;

  • обеспечивать отправку и обмен данными с внешними и внутренними сервисами;

  • участвовать в принятии архитектурных решений для новой дата платформы;

  • модернизировать текущую дата платформу вместе с Core командой дата инженеров.

Что мы ждем от тебя:

  • опыт работы инженером данных от 3 лет;

  • отличное знание Python, SQL;

  • опыт разработки процесса для тестирование данных;

  • опыт работы и внедрение дата каталогов будет большим плюсом;

  • умение строить высоконагруженные streaming и batch пайплайны;

  • опыт работы в нашем стеке Apache Spark, Apache Airflow, Trino будет плюсом;

  • опыт работы с Kubernetes, Terraform и с с AWS приветствуется;

  • самостоятельность и ответственность, умение коммуницировать с разными командами и людьми;

  • желание развиваться и выстраивать процессы вокруг себя.

Как мы работаем:

  • в любой точке мира: не привязываемся к локации, платим в долларах, любим путешествовать;

  • без бюрократии: удобные процессы здорового человека, горизонтальные и открытые коммуникации, быстрое обсуждение идей и принятие решений;

  • компенсируем: ДМС, психотерапию или иностранные языки, занятия спортом и больничный;

  • на райском острове: можно работать на Пхукете с видом на океан.