К содержимому
learnspaceYOUR NEXT CHAPTER
ПРОСТРАНСТВО ОБУЧЕНИЯ
ГлавнаяКаталог курсовМоё обучениеCoursera

Знания без границ

Учитесь у лучших университетов и компаний мира.

Открыть Coursera
Интеграция
Пространство университета
Моё пространствоСтраница курса
↵
ЯЛичный кабинетСтудент
© 2026 LearnSpaceКаждый день — возможность узнать больше.Помощь
Foundations of Local Large Language models · LearnSpace
Назад в каталог
courseraАнализ данных

Foundations of Local Large Language models

Курс от Duke University
Начальный≈ 23.7 чАнглийский
О курсеНавыкиПрограммаПреподаватели

О курсе

By the end of this course, a learner will have a solid understanding of Large Language Models running locally. You'll be able to setup a local environment using powerful tooling to run different LLMs and interact with them both with a web interface as well as with APIs. You will explore other tools and programming languages to interact with these LLMs and using LLMs via via Hugging Face Candle and Mozilla llamafile.

Навыки, которые вы освоите

Generative AIHugging FaceModel DeploymentRetrieval-Augmented GenerationRisk Management FrameworkRust (Programming Language)Responsible AICloud DeploymentModel EvaluationLLM ApplicationData EthicsApplication DeploymentLarge Language Modeling

Программа курса

3 модулей · 92 учебных материалов

01Local LLMOps44 материалов

About the Course

Meet your Course Instructor: Noah GiftВидеоMeet your Course Instructor: Alfredo DezaВидеоConnect with your instructorsЧтениеCourse structure and discussion etiquetteЧтение

Учитесь у экспертов

Noah Gift

Executive in Residence and Founder of Pragmatic AI Labs

Alfredo Deza

Adjunct Assistant Professor in the Pratt School of Engineering

Foundations of Local Large Language models
В каталоге вашей программы

Инвестируйте в себя

Новые знания — в удобное для вас время.

Начать на Coursera

Обучение откроется на Coursera
в новой вкладке

Обучение на Coursera

≈ 23.7 ч

3 модулей

Язык: Английский

Субтитры: Арабский, Французский, Узбекский, Украинский, Китайский (Китай), Греческий, Итальянский, Бразильский португальский, Нидерландский, Корейский, Немецкий, Русский, Тайский, Индонезийский, Шведский, Турецкий, Испанский, Хинди, Японский, Казахский, Венгерский, Польский

Часть программы вашего университета
Meet and greet (optional)Обсуждение
Report a problem with the courseЧтение

Introduction to Large Language Models (LLMs)

Key TermsЧтениеIntroductionВидеоWhat are LLMs and how do they work?ВидеоBenefits and risks of using LLMsВидеоMitigating risks of LLMsВидеоExternal lab: trigger inaccuracy in a modelЧтениеWhat are foundation models?ВидеоFoundation models and the next era of AIЧтениеKnowledge checkЗаданиеSummaryВидеоLesson ReflectionЧтение

Getting Started with local models

Key TermsЧтениеGetting Started llamafileВидеоLocal System Metrics llamafileВидеоllamafileЧтениеWhisper.cppЧтениеQuiz-Getting Started with llamafileЗаданиеLesson ReflectionЧтениеLocal Llamafile APIЛабораторная

Getting Started with Rust Candle

Key TermsЧтениеData Poisoning BattleЧтениеSleeper AgentsЧтениеCandle Hello WorldВидеоExploring Starcoder RustВидеоWhisper Candle TranscribeВидеоExploring Remote Development AWSВидеоQuiz-Getting Started with Rust CandleЗаданиеLesson ReflectionЧтение

Using Rust Candle

Rust for LLMsВидеоServerless InferenceВидеоRust CLI InferenceВидеоRust Chat InferenceВидеоChat loop Star CoderВидеоInvoke Rust Candle on AWS GPU-Part OneВидеоInvoke Rust Candle on AWS GPU-Part TwoВидеоLesson ReflectionЧтениеFinal Quiz-Local LLMOpsЗаданиеNext StepsЧтение
02Production Workflows and Performance of LLMs34 материалов

Evaluating Real-World Performance of LLMs

Key TermsЧтениеCoding Elo in PythonВидеоPython EloЛабораторнаяCoding Elo in RustВидеоCoding Elo in RВидеоR EloЛабораторнаяCoding Elo in JuliaВидеоJulia EloЛабораторнаяChatbot ArenaЧтениеLesson ReflectionЧтениеQuiz-Evaluating Real-World Performance of LLMsЗадание

Exploring Production LLM Workflows

Key TermsЧтениеGetting started lorax and skypilotВидеоWhat is skypilot?ЧтениеWhat is Lorax?ЧтениеWhat is Ludwig?ЧтениеLudwig: Fine-Tune Mistral-7bВидеоExternal Lab: Fine-Tune Mistral-7b

Retrieval Augmented Generation with local LLMs

Key TermsЧтениеIntroductionВидеоWhat is RAG?ВидеоOverview of a RAG applicationВидеоManaging data for RAGВидеоManaging data for RAGЛабораторнаяVerifying embeddings and search
03Responsible Generative AI14 материалов

AI Ethics of Generative Models

Key TermsЧтениеProfit Sharing ConceptsВидеоTragedy of the GenAI commonsВидеоGame Theory of GenAIВидеоPerfect CompetitionВидеоNegative ExternalitiesВидеоRegulatory EntrepreneurshipВидеоCreating or Reinforcing BiasВидеоRegulatory EntrepreneurshipЧтениеWhat is Glaze?ЧтениеQuiz-AI EthicsЗаданиеLesson ReflectionЧтениеInteractive Llamafile SandboxЛабораторнаяShare your learning experienceЧтение
Чтение
External Lab: Launching Mixtral with Lorax and SkypilotЧтение
Lesson ReflectionЧтение
Quiz-Exploring Production LLM WorkflowsЗадание
Final Graded Quiz-Responsible Generative AIЗадание
Видео
Using RAG with an LLMВидео
Knowledge checkЗадание
External lab: Use RAG with a local LLM using your own dataЧтение
SummaryВидео
Lesson ReflectionЧтение