Spark Developer

Компания "Неофлекс"

СТЕК: Apache Spark (Pyspark), Hadoop, РSQL, Airflow

Что нужно делать:

• разработкой и оптимизацией ETL-процессов для переноса кода с MS SQL на Spark (PySpark);
• написанием эффективного кода на PySpark, отвечающего требованиям производительности;
• настройкой и поддержкой DAG-ов в Airflow для оркестрации процессов;
• тестированием и отладкой кода, обеспечением качества данных;
• взаимодействием с командой и заказчиком по уточнению требований.

Что мы хотели бы видеть:

• опыт работы со Spark+Hadoop (от 1 года), знание Pyspark;

• глубокие знания SQL;

• опыт работы с Airflow (написание и поддержка DAG-ов);

• понимание принципов распределенных вычислений (умение использовать нативные инструменты Spark);

• понимание формата Parquet;

• опыт работы с облачными хранилищами (S3 или аналоги);

• умение работать в команде и следовать процессам заказчика;

• опыт работы с S3, Iceberg, Kafka - будет являться большим преимуществом.

Что ты приобретёшь, присоединившись к нам:

• достойную оплату труда + компенсационные, стимулирующие и мотивационные выплаты, бонусы за участие в реферальной программе;
• работа в команде профессионалов готовых делиться экспертизой;
• официальное трудоустройство по ТК РФ, аккредитация IT, расширенный социальный пакет:

✔️ страховка ДМС (с 3-го месяца работы, стоматология, возможность подключения родственников, теле медицина, полис ВЗР),

✔️ Больничный Без Больничного 4 дня в году,

✔️ сотрудникам со стажем в Neoflex более 3 месяцев при предоставлении листка нетрудоспособности устанавливается доплата до полного заработка за период болезни,

✔️ обучение детей сотрудников ИТ специальностям,

✔️ компенсация затрат на фитнес и занятия английским языком;

• обеспечиваем техникой для работы (ноутбук, наушники, мышь);
• профессиональное развитие - в Учебном Центре (курсы по работе с большими данными, видео лекции, тренажеры, карьерный коучинг, лекции, тренинги, конференции, участие в митапах);
• возможность пройти проф.сертификацию;
• прозрачную систему карьерного развития Performance Review;
• персонального наставника с первого дня работы;
• насыщенную корпоративную жизнь: яркие корпоративы, праздники для детей сотрудников, корпоративные спортивные мероприятия, мотивационные награждения;
• комфортную атмосферу в филиалах компании в городах: Москва, Санкт-Петербург, Нижний Новгород, Пенза, Воронеж, Саратов, Самара, Краснодар где есть лаунж и фотозоны, вендинги в кухнях, пространство для медитаций и другие секретные места, о которых знают только наши сотрудники.

Здесь мечты превращаются в реальность. Мы будем рады, если ты станешь частью нашей команды! Откликайся ;)