К содержимому
learnspaceYOUR NEXT CHAPTER
ПРОСТРАНСТВО ОБУЧЕНИЯ
ГлавнаяКаталог курсовМоё обучениеCoursera

Знания без границ

Учитесь у лучших университетов и компаний мира.

Открыть Coursera
Интеграция
Пространство университета
Моё пространствоСтраница курса
↵
ЯЛичный кабинетСтудент
© 2026 LearnSpaceКаждый день — возможность узнать больше.Помощь
Source Systems, Data Ingestion, and Pipelines · LearnSpace
Назад в каталог
courseraIT и технологии

Source Systems, Data Ingestion, and Pipelines

Курс от DeepLearning.AI, Amazon Web Services
Средний≈ 34.5 чАнглийский
О курсеНавыкиПрограммаПреподаватели

О курсе

In this course, you will explore various types of source systems, learn how they generate and update data, and troubleshoot common issues you might encounter when trying to connect to these systems in the real world. You’ll dive into the details of common ingestion patterns and implement batch and streaming pipelines. You’ll automate and orchestrate your data pipelines using infrastructure as code and pipelines as code tools. You’ll also explore AWS and open source tools for monitoring your data systems and data quality.

Навыки, которые вы освоите

Data QualityAmazon Web ServicesApache AirflowExtract, Transform, LoadNetwork TroubleshootingTerraformInfrastructure as Code (IaC)Data Import/ExportAmazon CloudWatchData InfrastructureIT AutomationData IntegrationData PipelinesData AccessData TransformationData ProcessingCI/CD

Программа курса

4 модулей · 101 учебных материалов

01Working with Source Systems35 материалов

Introduction to Source Systems

Welcome to Course 2ВидеоProgram SyllabusЧтениеCourse 2 OverviewВидеоDifferent Types of Source SystemsВидео

Учитесь у экспертов

Joe Reis

Author, Data Engineer, "Recovering Data Scientist"

Morgan Willis

Principal Cloud Technologist

Source Systems, Data Ingestion, and Pipelines
В каталоге вашей программы

Инвестируйте в себя

Новые знания — в удобное для вас время.

Начать на Coursera

Обучение откроется на Coursera
в новой вкладке

Обучение на Coursera

≈ 34.5 ч

4 модулей

Язык: Английский

Субтитры: Арабский, Французский, Узбекский, Украинский, Китайский (Китай), Греческий, Итальянский, Бразильский португальский, Вьетнамский, Нидерландский, Корейский, Немецкий, Пушту, Русский, Тайский, Индонезийский, Шведский, Турецкий, Азербайджанский, Испанский, Хинди, Японский, Казахский, Венгерский, Польский

Часть программы вашего университета
Relational DatabasesВидео
SQL QueriesВидео
[IMPORTANT] Guidelines before you start the labs in this courseЧтение
[Optional] FAQ VS Code Lab EnvironmentЧтение
Practice Lab 1: Interacting With a Relational Database Using SQLЛабораторная
NoSQL DatabasesВидео
Database ACID ComplianceВидео
Lab Walkthrough - Interacting with Amazon DynamoDB NoSQL DatabaseВидео
Practice Lab 2: Interacting With Amazon DynamoDB NoSQL DatabaseЛабораторная
Object StorageВидео
Practice Lab 3: Interacting With Amazon S3 Object StorageЛабораторная
LogsВидео
Streaming SystemsВидео
Join the DeepLearning.AI Forum to ask questions, get support, or share amazing ideas!Чтение

Connecting to Source Systems

Lesson OverviewВидео Connecting to Source SystemsВидео[Optional] Connecting to an Amazon RDS MySQL DatabaseЧтениеBasics of IAM and PermissionsВидеоBasics of AWS IAMЧтениеBasics of Networking in the CloudВидеоAWS Networking Overview - VPCs & SubnetsВидеоAWS Networking - Internet Gateway & NAT GatewayВидеоAWS Networking - Route TablesВидеоAWS Networking - Network ACLs & Security GroupsВидео[Optional] AWS Networking Overview- VPCЧтениеLab Walkthrough - Troubleshooting Database Connectivity on AWSВидеоAssignment 1: Troubleshooting Database Connectivity on AWSПрограммирование

Quiz

Week 1 QuizЗадание

Summary & Resources

Week 1 SummaryВидеоWeek 1 ResourcesЧтениеLecture Notes W1Чтение
02Data Ingestion20 материалов

Data Ingestion Overview

Week 2 OverviewВидеоData Ingestion on a ContinuumВидеоBatch and Streaming ToolsЧтение

Batch Ingestion

Conversation with a Marketing AnalystВидеоETL vs. ELTВидеоSummary of the Differences: ETL vs. ELTЧтениеREST APIВидеоLab walkthrough: Batch Data Processing from an API ЧтениеAssignment 2: Batch Data Processing from an APIПрограммирование

Streaming Ingestion

Conversation with a Software EngineerВидеоStreaming Ingestion DetailsВидеоKinesis Data Streams DetailsВидеоWhat is Change Data Capture (CDC)?ЧтениеSummary: General Considerations for Choosing Ingestion ToolsЧтениеLab Walkthrough - Streaming IngestionВидео

Quiz

Week 2 QuizЗадание

Summary & Resources

Week 2 SummaryВидеоWeek 2 ResourcesЧтениеLecture Notes W2Чтение
03DataOps26 материалов

DataOps - Automation

Week 3 OverviewВидео[Optional] Conversation with Chris BerghВидеоDataOps AutomationВидеоInfrastructure as CodeВидеоTerraform - Creating an EC2 InstanceВидеоTerraform - Defining Variables and OutputsВидеоTerraform - Defining Data Sources and ModulesВидео[Optional] Additional Terraform Configuration Example - ExerciseЧтениеLab Walkthrough - Implementing DataOps with TerraformВидеоPractice Lab 1: Implementing DataOps with TerraformЛабораторная[Optional] Note regarding Practice Lab 1Чтение

DataOps - Observability

Data ObservabilityВидео[Optional] Conversation with Barr MosesВидео[Optional] Conversation Takeaways & Additional NotesЧтениеMonitoring Data QualityВидео[Optional] Conversation with Abe GongВидеоGreat Expectations - Core ComponentsВидео

Quiz

Week 3 QuizЗадание

Summary & Resources

Week 3 SummaryВидеоWeek 3 ResourcesЧтениеLecture Notes W3Чтение
04Orchestration, Monitoring, and Automating Your Data Pipelines20 материалов

Orchestration Overview

Week 4 OverviewВидеоBefore OrchestrationВидеоEvolution of Orchestration ToolsВидеоOrchestration BasicsВидео

Airflow

Airflow - Core ComponentsВидеоAirflow - The Airflow UIВидеоAirflow - Creating a DAGВидеоAdditional Notes About Airflow Basic ConceptsЧтениеPractice Lab 1: Airflow 101 - Building Your First Data PipelineЛабораторнаяAirflow - XCom and VariablesВидеоBest Practices for Writing Airflow DAGsЧтениеPractice Lab 2: Airflow 101 - Best PracticesЛабораторнаяAirflow - Taskflow APIВидеоExample on Branching in AirflowЧтениеAssignment 4: Building an Advanced Data Pipeline With Data Quality ChecksПрограммированиеOrchestration on AWSВидео

Quiz

Week 4 QuizЗадание

Summary & Acknowledgements

Course 2 SummaryВидеоAcknowledgmentsЧтениеLecture Notes W4Чтение
Practice Lab: Streaming IngestionЛабораторная
Great Expectations - Workflow ExampleВидео
Assignment 3: Testing Data Quality with Great ExpectationsПрограммирование
[Optional] Conversation with Chad SandersonВидео
Amazon CloudWatchВидео
Practice Lab 2: Implementing Monitoring with Amazon CloudWatchЛабораторная