К содержимому
learnspaceYOUR NEXT CHAPTER
ПРОСТРАНСТВО ОБУЧЕНИЯ
ГлавнаяКаталог курсовМоё обучениеCoursera

Знания без границ

Учитесь у лучших университетов и компаний мира.

Открыть Coursera
Интеграция
Пространство университета
Моё пространствоСтраница курса
↵
ЯЛичный кабинетСтудент
© 2026 LearnSpaceКаждый день — возможность узнать больше.Помощь
Serverless Data Processing with Dataflow: Develop Pipelines · LearnSpace
Назад в каталог
courseraАнализ данных

Serverless Data Processing with Dataflow: Develop Pipelines

Курс от Google Cloud
Продвинутый≈ 23.4 чАнглийский
О курсеНавыкиПрограммаПреподаватели

О курсе

In this second installment of the Dataflow course series, we are going to be diving deeper on developing pipelines using the Beam SDK. We start with a review of Apache Beam concepts. Next, we discuss processing streaming data using windows, watermarks and triggers. We then cover options for sources and sinks in your pipelines, schemas to express your structured data, and how to do stateful transformations using State and Timer APIs. We move onto reviewing best practices that help maximize your pipeline performance. Towards the end of the course, we introduce SQL and Dataframes to represent your business logic in Beam and how to iteratively develop pipelines using Beam notebooks.

Навыки, которые вы освоите

DataflowData PipelinesData ProcessingData TransformationExtract, Transform, LoadJupyterReal Time DataSQLFile I/O

Программа курса

10 модулей · 60 учебных материалов

01Introduction2 материалов

Overview

Course IntroductionВидеоImportant note about hands-on labsЧтение
02Beam Concepts Review8 материалов

Beam Concepts Review

Beam BasicsВидео

Учитесь у экспертов

Google Cloud Training

Преподаватель курса

Serverless Data Processing with Dataflow: Develop Pipelines
В каталоге вашей программы

Инвестируйте в себя

Новые знания — в удобное для вас время.

Начать на Coursera

Обучение откроется на Coursera
в новой вкладке

Обучение на Coursera

≈ 23.4 ч

10 модулей

Язык: Английский

Субтитры: Китайский (Тайвань), Арабский, Французский, Узбекский, Украинский, Китайский (Китай), Греческий, Итальянский, Бразильский португальский, Вьетнамский, Нидерландский, Корейский, Немецкий, Пушту, Русский, Тайский, Индонезийский, Шведский, Турецкий, Азербайджанский, Испанский, Дари, Хинди, Японский, Казахский, Венгерский, Польский

Часть программы вашего университета
Utility TransformsВидео
DoFn LifecycleВидео

Lab: Writing an ETL pipeline using Apache Beam and Dataflow

Accessing and completing labsPLUGINLab: Writing an ETL pipeline using Apache Beam and Dataflow (Java)Внешний инструментLab: Writing an ETL pipeline using Apache Beam and Dataflow (Python)Внешний инструмент

Quiz

Beam Concepts ReviewЗадание

Additional Resources

Additional ResourcesЧтение
03Windows, Watermarks, and Triggers9 материалов

Windows, Watermarks, and Triggers

WindowsВидеоWatermarksВидеоTriggersВидео

Lab: Batch Analytics Pipelines with Dataflow

Lab: Batch Analytics Pipelines with Dataflow (Java)Внешний инструментLab: Batch Analytics Pipelines with Dataflow (Python)Внешний инструмент

Lab: Streaming Analytics Pipeline with Dataflow

Lab: Serverless Data Processing with Dataflow - Using Dataflow for Streaming Analytics (Java)Внешний инструментLab: Serverless Data Processing with Dataflow - Using Dataflow for Streaming Analytics (Python)Внешний инструмент

Quiz

Windows, Watermarks, and TriggersЗадание

Additional Resources

Additional ResourcesЧтение
04Sources & Sinks10 материалов

Sources & Sinks

Sources & SinksВидеоTextIO & FileIOВидеоBigQueryIOВидеоPubsubIOВидеоKafkaIOВидеоBigtableIOВидеоAvroIOВидеоSplittable DoFnВидео

Quiz

Sources & SinksЗадание

Additional Resources

Module ResourcesЧтение
05Schemas6 материалов

Schemas

Beam schemasВидеоCode examplesВидео

Lab: Writing branching pipelines

Lab: Branching Pipelines (Java)Внешний инструментLab: Branching Pipelines (Python)Внешний инструмент

Quiz

SchemasЗадание

Additional Resources

Additional ResourcesЧтение
06State and Timers5 материалов

State and Timers

State APIВидеоTimer APIВидеоSummaryВидео

Quiz

State and TimersЗадание

Additional Resources

Additional ResourcesЧтение
07 Best Practices11 материалов

Best Practices

SchemasВидеоHandling un-processable dataВидеоError handlingВидеоAutoValue code generatorВидеоJSON data handlingВидеоUtilize DoFn lifecycleВидеоPipeline OptimizationsВидео

Lab: Advanced Streaming Analytics Pipeline with Dataflow

Lab: Advanced Streaming Analytics Pipeline with Dataflow (Java)Внешний инструментLab: Advanced Streaming Analytics Pipeline with Dataflow (Python)Внешний инструмент

Quiz

Best PracticesЗадание

Additional Resources

Additional ResourcesЧтение
08Dataflow SQL & DataFrames5 материалов

Dataflow SQL & DataFrames

Dataflow and Beam SQLВидеоWindowing in SQLВидеоBeam DataFramesВидео

Quiz

Dataflow SQL & DataFramesЗадание

Additional Resources

Additional ResourcesЧтение
09Beam Notebooks3 материалов

Beam Notebooks

Beam NotebooksВидео

Quiz

Beam NotebooksЗадание

Additional Resources

Additional ResourcesЧтение
10Summary1 материалов

Summary

Course SummaryВидео