Основы байесовского вывода 2025
Это курс об основах байесовского вывода и вероятностных моделях в машинном обучении, представленный на Факультете математики и компьютерных наук Санкт-Петербургского государственного университета осенью 2025 года.
Введение в ML и байесовский вывод
4 сентября 2025 г.
Введение в ML и байесовский вывод
4 сентября 2025 г.
Введение. История AI. Что такое машинное обучение, какие задачи оно решает. Байесовский подход в машинном обучении, теорема Байеса и её интерпретация.
Байесовский вывод для монетки, сопряжённые априорные распределения
11 сентября 2025 г.
Байесовский вывод для монетки, сопряжённые априорные распределения
11 сентября 2025 г.
Основные задачи байесовского вывода. Решения этих задач для монетки (испытаний Бернулли). Сопряжённые априорные распределения, бета-распределение как сопряжённое для монетки. Априорные распределения и разреженность, кубик вместо монетки. Житейские примеры теоремы Байеса.
Линейная регрессия
18 сентября 2025 г.
Линейная регрессия
18 сентября 2025 г.
Метод наименьших квадратов, вероятностные предположения линейной регрессии, выделение признаков, оверфиттинг и регуляризация
Байесовский вывод в линейной регрессии
25 сентября 2025 г.
Байесовский вывод в линейной регрессии
25 сентября 2025 г.
Геометрический смысл регуляризации. Байесовский вывод в линейной регрессии, его наглядные иллюстрации. Вывод предсказательного распределения в линейной регрессии.
Основы классификации
2 октября 2025 г.
Основы классификации
2 октября 2025 г.
Постановка задачи классификации, её геометрия. Линейный дискриминант Фишера. Порождающие модели и оптимальный байесовский классификатор; пример: LDA и QDA. Идея логистической регрессии
Байесовский вывод в логистической регрессии
9 октября 2025 г.
Байесовский вывод в логистической регрессии
9 октября 2025 г.
Логистическая регрессия: максимизация правдоподобия, куда смотрит градиент; метод второго порядка и IRLS; мультиклассовая логистическая регрессия. Вывод предсказательного распределения через лапласовские аппроксимации.