К содержимому
learnspaceYOUR NEXT CHAPTER
ПРОСТРАНСТВО ОБУЧЕНИЯ
ГлавнаяКаталог курсовМоё обучениеCoursera

Знания без границ

Учитесь у лучших университетов и компаний мира.

Открыть Coursera
Интеграция
Пространство университета
Моё пространствоСтраница курса
↵
ЯЛичный кабинетСтудент
© 2026 LearnSpaceКаждый день — возможность узнать больше.Помощь
Generative AI: Foundations and Concepts · LearnSpace
Назад в каталог
courseraАнализ данных

Generative AI: Foundations and Concepts

Курс от Northeastern University
Средний≈ 21.6 чАнглийский
О курсеНавыкиПрограммаПреподаватели

О курсе

This course provides an overview of some different concepts underpinning Generative AI, their mathematical principles, and their applications in engineering. The focus will be on the practical implementation of generative AI including, neural networks, attention mechanism, and advanced deep learning models.

Навыки, которые вы освоите

Generative Model ArchitecturesConvolutional Neural NetworksArtificial Neural NetworksProbability DistributionApplied MathematicsBayesian NetworkEstimationModel OptimizationDeep LearningMathematical ModelingModel TrainingNetwork ArchitectureGenerative AIModel Evaluation

Программа курса

4 модулей · 131 учебных материалов

01Foundations of Neural Networks and Optimization25 материалов

Welcome!

Course OverviewЧтениеSyllabus - Generative AI: Foundations and ConceptsЧтениеMeet Your Fellow LearnersОбсуждениеAcademic IntegrityЧтение

Lesson 1: Neural Networks

Учитесь у экспертов

Ramin Mohammadi

Преподаватель курса

Generative AI: Foundations and Concepts
В каталоге вашей программы

Инвестируйте в себя

Новые знания — в удобное для вас время.

Начать на Coursera

Обучение откроется на Coursera
в новой вкладке

Обучение на Coursera

≈ 21.6 ч

4 модулей

Язык: Английский

Субтитры: Арабский, Французский, Итальянский, Бразильский португальский, Корейский, Немецкий, Испанский, Японский, Венгерский

Часть программы вашего университета
Module OverviewЧтение
Neural Networks Part 1: PerceptronВидео
Perceptron In-DepthЧтение
Neural Network BreakdownЧтение
Neural Network StructureЧтение
Neural Networks Part 2: How Neural Networks LearnВидео
How Neural Networks Learn: Deep DiveЧтение
Neural Networks Part 3: Back PropagationВидео
Backpropagation & SGDЧтение
Check Your KnowledgeЗадание

Lesson 2: Optimization Techniques

Optimization Technique Overview Part 1ВидеоMatricesЧтениеOptimization Technique Overview Part 2ВидеоNewton's MethodsЧтениеQuasi-Newton MethodsЧтениеOptimization Technique Overview Part 3ВидеоRoot-Mean-Square PropagationЧтениеAdaptive Moment EstimationЧтениеCheck Your KnowledgeЗадание

Module Wrap-Up

Neural NetworksОбсуждениеModule Wrap-UpЧтение
02Regularization and Advanced Techniques24 материалов

Lesson 1: Regularization

Module OverviewЧтениеRegularization: Model Selection and ComplexityВидеоStein’s Unbiased Risk EstimatorЧтениеStein's LemmaЧтениеRegularizationЧтениеWhy Does Regularization Work?ЧтениеRegularization TechniquesВидеоEigen Decomposition and Singular Value DecompositionЧтениеUnderstanding the Search SpaceЧтениеRegularization TechniquesЧтениеBagging and Other Ensemble MethodsЧтениеCheck Your KnowledgeЗадание

Lesson 2: Dropout

Introduction to DropoutВидеоDeep Dive Into DropoutЧтениеApplying Dropout to Linear RegressionЧтение

Lesson 3: Batch Normalization

Introduction to Batch NormalizationВидеоDeep Dive Into Batch NormalizationЧтениеInternal Covariate Shift and Domain AdaptationЧтениеNew Batch Normalization TechniquesЧтениеBatch Normalization EffectsЧтениеAlternatives to Batch NormalizationЧтение

Module Wrap-Up

Regularization & Stabilization TechniquesОбсуждениеModule Wrap-UpЧтение
03Convolutional Neural Networks (CNNs)39 материалов

Lesson 1: Convolutional Neural Networks (CNNs)

Module OverviewЧтениеIntroduction to Convolutional Neural NetworksЧтениеConvolutional Neural Networks Part 1: The First PrinciplesВидеоInvariance and EquivarianceЧтениеConvolutionЧтениеTranslationЧтениеKernel FlippingЧтениеConvolution vs. Cross-CorrelationЧтениеEdge DetectionЧтениеTypes of KernelsЧтениеParameter Sharing and FiltersЧтение

Lesson 2: Convolutional Neural Networks for 1D Inputs

Convolutional Neural Networks Part 2: 1D InputВидеоCNNs for 1D InputsЧтениеPaddingЧтениеStride, Kernel Size, and DilationЧтениеConvolutional Layers as Fully Connected LayersЧтение

Lesson 3: Convolution in Multidimensional Arrays

Convolutional Neural Networks Part 3: Multiple DimensionsВидеоConvolution in Multidimensional ArraysЧтениеArchitecture of Convolutional NNsЧтениеDownsamplingЧтениеUpsampling and LayersЧтение

Lesson 4: Putting It All Together

End-to-End Visualization of CNNsЧтениеConvolutional Neural Networks Part 4: BackpropagationВидеоBackpropagationЧтениеConvolutional LayersЧтениеKernel WeightsЧтениеConvolutional Neural Networks Part 5: PixelCNNВидео

Lesson 5: Regularization in CNNs

Recap on RegularizationЧтениеIdeas to Get Around the Optimization ProblemЧтениеLayer Normalization FormulasЧтениеFilter Response Normalization (FRN)ЧтениеNormalizer-Free NetworksЧтениеCheck Your KnowledgeЗадание

Lesson 6: Random Kernels

Why Random Kernels Learn Different ThingsЧтение

Module Wrap-Up

CNN QuirksОбсуждениеModule Wrap-UpЧтение
04Generative Models and Maximum Likelihood Learning43 материалов

Lesson 1: Maximum Likelihood Learning

Module OverviewЧтениеIntro to Maximum Likelihood LearningВидеоLearning a Generative ModelЧтениеGoal of LearningЧтениеWhat is “Best?"ЧтениеLearning as Density EstimationЧтение

Lesson 2: Divergence Methods

Divergence Methods & Gradient DescentВидеоKullback-Leibler (KL-Divergence)ЧтениеDetour on KL-DivergenceЧтениеExpected Log-LikelihoodЧтениеMonte Carlo EstimationЧтениеExtending the MLE Principle to Autoregressive ModelsЧтениеMLE Learning: Gradient DescentЧтениеMLE Learning: Stochastic Gradient DescentЧтениеEmpirical Risk and OverfittingЧтениеCheck Your KnowledgeЗадание

Lesson 3: Representation

Representation Part 1: DistributionsВидеоLearning a Generative Model Part 2ЧтениеBasic Discrete DistributionsЧтениеStructure Through IndependenceЧтениеKey Notion: Conditional IndependenceЧтениеBayesian NetworksЧтение

Lesson 4: Autoregressive Models

Autoregressive Models General PrinciplesВидеоMotivating Example: MNISTЧтениеIntroduction to Autoregressive ModelsЧтениеFully Visible Sigmoid Belief Networks (FVSBN)ЧтениеNADE: Neural Autoregressive Density EstimationЧтениеAutoregressive Models ContinuedВидео

Module Wrap-Up

Generative ModelingОбсуждениеModule Wrap-UpЧтениеCongratulationsЧтение
Check Your KnowledgeЗадание
Applications of CNNsЧтение
Residual Neural NetworksЧтение
Check Your KnowledgeЗадание
ExamplesЧтение
Naive BayesЧтение
Representation Part 2: Discriminative vs General ModelsВидео
Discriminative vs. Generative ModelsЧтение
Generative Models Are Still UsefulЧтение
Bayesian Networks vs. Neural ModelsЧтение
Check Your KnowledgeЗадание
General Discrete DistributionsЧтение
Real-Valued Neural Autoregressive Density-Estimator (RNADE)Чтение
Autoregressive Models vs. AutoencoderЧтение
Summary of Autoregressive ModelsЧтение
Check Your KnowledgeЗадание