Глубокое обучение 2026
Курс посвящён современным методам глубокого обучения и читается осенью 2026 года на Факультете технологий искусственного интеллекта Университета ИТМО.
История искусственного интеллекта, введение в ML и глубокое обучение
7 сентября 2026 г.
История искусственного интеллекта, введение в ML и глубокое обучение
7 сентября 2026 г.
История искусственного интеллекта и введение в машинное и глубокое обучение: от механических автоматов, теста Тьюринга и первых систем AI до нейросетей, трансформеров и LLM. Во второй части — вероятностный взгляд на машинное обучение, байесовский вывод, функции ошибки, регуляризацию, линейную и логистическую регрессию.
Основы нейронных сетей, backpropagation, алгоритмы стохастического градиентного спуска
21 сентября 2026 г.
Основы нейронных сетей, backpropagation, алгоритмы стохастического градиентного спуска
21 сентября 2026 г.
Нейронные сети как графы вычислений, функции активации и обратное распространение ошибки. Прямой и обратный проходы на примере с доски; автоматическое дифференцирование. Почему в глубоком обучении нужен стохастический градиентный спуск: мини-батчи, выбор скорости обучения и разный масштаб координат. Momentum и метод Нестерова, AdaGrad, RMSProp, Adadelta, Adam и AdamW; weight decay и его отличие от L2-регуляризации. Регуляризация, dropout и его интерпретации, вопросы о локальных минимумах и grokking. Примеры оптимизации в notebook.