Мы используем файлы cookie для улучшения вашего опыта использования сайта. Это позволяет нам анализировать, как посетители взаимодействуют с сайтом, и делать его лучше. Продолжая использовать сайт, вы соглашаетесь на использование файлов cookie. Подробную информацию вы найдете в политике обработки персональных данных.

Потоковая обработка данных с помощью Apache Flink

Вендор:
Big Data School
Направление:
Big Data
Продукт:
Apache Flink
Код курса:
FLINK
Длительность:
4 дня | 16 ак. часов
Цена:

2520 BYN с НДС 20%

4-хдневный курс обучения по Flink позволит вам получить и систематизировать знания по использованию возможностей Apache Flink для обработки прежде всего потоковых данных, включая нюансы извлечения меток времени и генерации watermarks, лучшие практики (best practices) использования механизмов временных окон, работы с локальным состоянием, вопросы эффективности и параллелизма обработки, тонкости работы с источниками данных и многое другое.

Вы изучите необходимый теоретический минимум, чтобы понять основные концепции фреймворка Flink, его подходы к преобразованию потока данных, нюансы работы с потоком в терминах времени событий или времени обработки (event vs processing time), виды сохраняемого состояния (state type and primitives), работу с источниками потоковых данных.

Преподаватель курса подробно объяснит все тонкости и особенности настройки механизмов извлечения времени, работы с состоянием и локальным кластером Apache Flink с тем, чтобы вы могли самостоятельно разрабатывать собственные системы потоковой обработки данных по окончании курса.

На практике вы реализуете собственные потоковые процессоры с помощью Apache Flink, научитесь работать с метками времени и watermarks, сможете выполнять базовые трансформации потоковых данных, использовать временные окна, обрабатывать данные из Apache Kafka и файловых источников.

Во время курса вы также получите информацию о сравнении возможностей Apache Flink с аналогами (Kafka Streams и Spark Structured Streaming).

Курс предполагает использование языка Java.

Целевая аудитория

Дата-инженеры и специалисты по данным, которые хотят изучить необходимый теоретический минимум по Apache Flink, чтобы понять основные концепции фреймворка, stateful преобразований и доставки данных из сторонних систем, а также узнать особенности подхода Flink к построению масштабируемых надежных конвейеров обработки потоковых данных.

Уровень подготовки

  • Уверенное знание базовых команд Linux (опыт работы с командной строкой),
  • Знания языка Java.

1. Введение и архитектура Apache Flink

  • Потоковая и Batch обработка
  • Основные понятия и особенности потоковой обработки
  • Встречаем Flink: компоненты и первое приложение
  • Основные API

2. Datastream API: Базовые трансформации и работа с источниками данных

  • Основные операторы (трансформации)
  • Роллинг агрегации и reduce
  • Работа с источниками (Apache Kafka, файловые источники)

3. Datastream API: Работа с учетом времени

  • Архитектура Apache Flink
  • Event Time Processing
  • Оконные операции и джойны

4. Datastream API: Работа с состоянием

  • Низкоуровневые «process» функции и управление состоянием
  • Checkpoints, savepoints

5. Другие API, языки и системы

  • Flink Table API и SQL
  • Flink и python
  • Сравнение Flink с Kafka Streams и Spark Structured Streaming
Онлайн формат обучения

Онлайн обучение - это курс, который проходит в режиме реального времени под руководством преподавателя по такому же графику как и очное обучение. Наш учебный центр может организовывать курсы только в онлайн формате или в смешанном, когда часть слушателей находится в классе очно, а часть подключается онлайн.

Занятия на большинстве наших курсов занимают 8 академических часов в день (с 10:00 до 17:00), также есть отдельные программы вечернего онлайн обучения. Чтобы наши студенты не уставали в процессе учебы, мы делаем небольшие перерывы на чай/кофе, при полнодневном обучении также есть время на полноценный обеденный перерыв.

В процессе обучения вы сможете задавать вопросы и общаться с преподавателем и остальными участниками как с помощью чата, так и голосом при наличии микрофона.

В зависимости от выбранной программы обучения, каждому участнику будет предоставлен доступ к заренее настроенной виртуальной машине с лабораторными заданиями. Для удобства мы рекомендуем слушателям подключить 2 монитора, на одном из которых будет учебный материал/трансляция преподавателя, а на другом открыт стенд для выполнения практических заданий. На части из курсов (не всех) предусмотрена запись тренинга, которую слушатели могут просмотреть, если по какой-то причине пропустили часть занятия.

Документы об окончании курса

  • Сертификат Учебного центра iqData
  • Cертификат об обучении установленного образцая

сертификат iqData об обучении на курсеСертификат установленного образца

Учились на этом курсе?

Другие курсы Data Flow и Data Engineering

NIFI3
3 дня | 24 ак. часа
TRINO
4 дня | 16 ак. часов
AIRF
6 дней | 24 ак. часа