Amex Development

Инженер ETL (удаленно из РФ или РБ)

От 250 000 RUR
  • Москва
  • От 3 до 6 лет
  • SQL
  • PostgreSQL
  • Python
  • API
  • Greenplum
  • Apache Airflow
  • pandas
  • ORACLE
  • Numpy
  • PySpark
  • JSON
  • XML

Удаленная работа!
Пожалуйста указывайте в сопроводительном письме Вашу локацию и желаемый уровень оплаты в рублях

Требования:

  • Python - уверенное знание структур данных и алгоритмов, эффективное применение принципов ООП и ФП (Функциональное программирование), опыт написания модульных и интеграционных тестов, знание и опыт применения библиотек обработки и анализа данных - numpy, pandas
  • Опыт разработки и внедрения в промышленную эксплуатацию сервисов загрузки и обработки неструктурированных и слабо структурированных данных (текст, xml, json) из внешних источников
  • Способность разобраться с API поставщиков данных, используя доступную документацию
  • SQL - умение создавать сложные запросы с использованием аналитических оконных функций и использовать инструменты профилирования для оптимизации их производительности, опыт работы с БД Oracle, Postgres, Greenplum
  • Уверенное знание и опыт работы с инструментами разработки, планирования и мониторинга рабочих процессов (workflow engines) пакетной обработки данных - Airflow
  • Опыт разработки сложных, высоконагруженных приложений обработки данных на основе PySpark, уверенное знание настроек Spark и их влияния на производительность приложений Spark

Ключевые компетенции: SQL, PostgreSQL, Python, API, Greenplum, Airflow, pandas, Oraсle, numpy, Pyspark, json/xml

Обязанности:

  • Реализация высоконагруженных конвейеров обработки данных для обеспечения надежной и бесперебойной репликации данных из ИТ-систем
  • Реализация комплексных задач по подготовке данных в целевых аналитических хранилищах (DataLake, SandBox, FeatureStore) для построения признаков, необходимых для разработки моделей машинного обучения
  • Разработка и поддержание в актуальном состоянии документации по разработанному функционалу
  • Своевременное отражение статуса выполнения задач в Jira
  • Проверка качества кода (код-ревью)

Условия:

  • Полная занятость с графиком 5/2
  • Удалённый формат работы
  • Возможность профессионального роста
  • Индивидуальный план развития и менторская поддержка
  • Работа с современным стеком технологий и крупными игроками рынка

О компании:

Наша компания занимается созданием современного программного обеспечения и сотрудничает с крупными игроками российского рынка. Мы аккредитованная IT-компания, которая помогает клиентам внедрять инновационные продукты, меняющие мир к лучшему. Мы следим за современными тенденциями и применяем их в своей работе, предоставляя сотрудникам возможность учиться и развиваться. Присоединяйтесь к нам и реализуйте свои амбиции в дружной команде профессионалов!