Вход
vk.com rss

Middle Data Engineer (ETL)

themodels.work ✎
IBS Компания
Москва
60000 - 100000 RUR
просмотры2
12:11 27.02.2023
Описание:

Наша agile-команда создает информационную платформу GM TA (Global Markets Trading Analytics) в интересах Департамента Глобальных Рынков (ДГР). ДГР – предоставляет корпоративным и розничным клиентам широкий спектр продуктов и услуг на локальных и зарубежных финансовых рынках. Ключевые направления бизнеса – Fx trading, Commodities, Equity, Founding, Fixed Income, Rates, Credit Valuation Adjustment, Structured Products, Investment Banking. Этот бизнес потребляет и порождает огромное количество данных, которые должны обрабатываться c целью:
• поддержки регулярных бизнес-операций
• проведения Ad hoc анализа
• подготовки регулярной аналитической / управленческой отчетности
• разработки моделей машинного обучения, направленных на решение широкого спектра прикладных задач прогнозирования, классификации, кластеризации, выявления поведенческих паттернов и отклонений от них, сентимент-анализ и т.д.

Разрабатываемая нами информационная платформа – высоконагруженное решение, призванное обеспечить достижение всех этих целей.

Текущий инструментальный стек платформы:
• Python, Java
• Informatica PowerCenter
• Kafka, AirFlow
• InfluxDB, kdb+, OneTick
• MS SQL, PostgreSQL, MongoDB
• Grafana, Qlik Sense, Kibana, ELK
• OpenShift
• Python ML/DL libraries, PySpark, TensorFlow

Обязанности:

  • Проектировать и разрабатывать потоки для загрузки данных в хранилище
  • Проектировать и реализовывать слои детальных данных
  • Проектирование и разработка корпоративной аналитической платформы (ПКАП);
  • Системная разработка, поддержка и оптимизация ETL-процессов
  • R&D, реализация пилотов по выбору технологий и решений
  • Поддержка промышленной эксплуатации разработанных решений
  • Поддержание технической документации в актуальном состоянии
Требования:
  • Опыт работы от 2-х лет с одним из ETL инструментов: Informatica PowerCenter / IBM Datastage / Oracle Data Integrator / Talend Data Integration / Pentaho Data Integration / Apache Airflow / Apache Oozie
  • Опыт работы от 2-лет с одной из баз данных: MSSQL / PostgreSQL / Teradata / Oracle / GreenPlum / MongoDB / InfluxDB
  • Опыт работы с SQL от 2-х лет: ANSI SQL, процедурный SQL, оптимизация SQL-запросов, транзакции, индексы, опыт работы с аналитическими(оконными) функциями
  • Опыт работы с Python от 1-го года: знакомство с Flask, FastAPI и общего понимания про PySpark, TensorFlow
  • Знакомство с экосистемой Hadoop

​​​​​​Наша компания является аккредитованной в Минцифры

Откликнуться
Отклик отправлен
Откликаться могут только исполнители