ДЕКАБРЬ 2020 - МАРТ 2021

Математика и алгоритмы в ML

На входе:
Базовое знание Python, опыт работы с библиотеками Numpy, Sklearn, опыт работы с классическими методами ML, знание базовых алгоритмов (работа с бинарными деревьями, сортировка, бинарный поиск).

На выходе:
Понимание алгоритмов (итеративные методы, градиентный спуск, построение деревьев, ансамбли), с помощью которых обучаются методы ML. Своя написанная с нуля библиотека, повторяющая интерфейс Sklearn.

Математика и алгоритмы в DL

На входе:
Базовые знание Python, опыт работы с библиотеками Numpy, Sklearn, опыт работы с нейронными сетями, знание базовых алгоритмов (графы, динамическое программирование, сортировка, бинарный поиск), математика: матрицы, векторы, производные.

На выходе:
Понимание, как под капотом работают популярные DL-библиотеки, как учатся нейронные сети. Своя написанная с нуля библиотека, повторяющая интерфейс Pytorch с основными слоями, автоматическим дифференцированием и методами оптимизации.

Идеально для тех, кто проходил короткий базовый курс по анализу данных у нас в летней школе или другие курсы по машинному обучению без детального разбора теории.

В первой половине мы рассмотрим задачу линейного программирования,
градиентные методы с обоснованием их работы, разберем как регуляризация влияет на процесс оптимизации; поймем, как быстро выбирать решающее правило для деревьев, какие эвристики используются для построения ансамблей; изучим итеративные методы оптимизации для задач кластеризации и рекомендаций, а также методы для безградиентной оптимизации.

Во второй половине курса будем заниматься преимущественно автоматическим дифференцированием, а также научимся выводить производные для основных преобразований, использующихся в машинном обучении.

Антон Панкратов
Выпускник МГУ ВМК, ФИВТ МФТИ, ШАД.
Занимался машинным обучением в Яндексе, Google, Mail.Ru, Amazon.