Курс по LLM
для ML/DL-инженеров

Программа

• 16 недель
• 13 лекций
• 13 заданий с фидбеком от преподавателей

Лекция каждую неделю. После каждой темы — домашнее задание с фидбеком от лектора. Раз в 4−5 недель — Q&A-сессия для разбора вопросов. В середине курса есть перерыв на каникулы.

1. 01. Введение в NLP.
   Классические
   подходы и RNN В тарифе «С введением»

   Темы лекции:

   • Особенности домена
   • Виды NLP-задач
   • Модели на основе подсчетов
   • Дистрибутивная гипотеза
   • Эмбеддинги
   • Рекуррентные сети
   • Token classification
2. 02. Введение
   в NLP. Seq2Seq
   и Трансформеры В тарифе «С введением»

   Темы лекции:

   • Seq-to-seq
   • Attention
   • Трансформер
   • BERT
   • Почему трансформеры победили
   • T5
3. 03. Основы LLM.
   Архитектура
   трансформера В тарифе «С введением»

   Темы лекции:

   • Полный разбор архитектуры Transformer
   • Embeddings
   • Attentions
   • LayerNorm
   • FFN
   • Генерация текста
4. 04. Основы LLM.
   Модификации
   трансформеров В тарифе «С введением»

   Темы лекции:

   • Обучение архитектур Encoder, Decoder, Encoder-Decoder
   • Rotary Embeddings
   • Grouped Query Attention
   • Gated Activation
   • RMSNorm
5. 05. Доступные LLMs

   Темы лекции:

   • Обзор основных игроков индустрии
   • Open source LLM и датасеты
   • Открытые бенчмарки и арены
   • Сервисы для сервинга LLM
   • Как выбрать LLM для своей задачи и нужна ли она вообще
6. 06. Prompt Engineering

   Темы лекции:

   • Instruct LLM
   • Что такое промпт и почему это работает, zero shot learning
   • Примеры промптов к разным моделям
   • Промпты в LangChain
   • Форматированный ответ
   • Извлечение ответа из промпта
   • Few Shot learning
   • Борьба с галлюцинацией
   • Tips and tricks
   • Примеры
   • Function calling
   • Защита от инъекций
7. 07. Tools and Agents

   Темы лекции:

   • Function call / Tools
   • Structured output
   • Примеры сценариев
   • LLM Agents
   • ReAct
8. 08. Fine-tuning

   Темы лекции:

   • Оценка затрат памяти на обучении
   • Схема работы Mixed Precision
   • DDP
   • Pipeline / Tensor Parallel
   • ZeRO, FSDP
   • Adapters
   • Инструменты
9. 09. Alignment

   Темы лекции:

   • Мотивация: safety, robustness, predictability
   • Обзор подходов: RLHF, RLAIF, Reward Hacking (Overoptimization), DPO, KTO
   • TRL библиотека для дообучения
   • Less Is More for Allignment
   • Источники данных: User feedback, Crowdsourcing, Synthetic
10. 10. RAG

    Темы лекции:

    • Что такое RAG
    • Векторный поиск
    • Векторные БД
    • Полнотекстовый поиск
    • Проблемы поиска
    • Оценка качества
    • Практические советы
11. 11. Деплой

    Темы лекции:

    • Схемы деплоя
    • Фреймворки для инференса: torch.compile, onnx, trtllm, vllm, tgi, lmdeploy
    • Разбор преимуществ фреймворков
    • Техники ускорения инференса
    • Мониторинги
12. 12. Ускорение LLM

    Темы лекции:

    • Flash attention
    • Квантизации bitsandbytes
    • Различные методы квантования
    • Speculative decoding
    • Sparse Matrix multiplication (статьи SpQR и butterfly от Tri Dao)
    • Инициатива LocalLlama (gguf)
    • Архитектурные решения: MoE, medusa, и multitoken prediction
13. 13. Multimodal models

    Темы лекции:

    • Задачи мультимодального домена
    • Метрики
    • CLIP
    • LLaVA