Описание
В рамках данного курса слушатели приобретут знания о различных нейросетевых архитектурах и фреймворках для глубокого обучения, причем акцент сделан на практических приемах их использования, в т.ч. с помощью облачных платформ Google Colab и Kaggle.
Основное внимание курс уделяет сверточным нейронным сетям и их оптимизации, приемам обнаружения объектов на изображениях с их последующей классификацией, сегментацией и/или локализацией, способам обработки естественного языка, в т.ч. для генерации текстов и изображений, а также задачам обучения моделей с подкреплением.
Лабораторный практикум предусматривает создание нейросетей как в ходе занятий, так и в качестве домашних заданий, например, для распознавания объектов не только на базе классических датасетов типа FashionMNIST и CIFAR-10, но и на данных из реальной жизни (в частности, выявление и классификация опухолей на томограммах медицинских обследований и т.д.).
удостоверение о повышении квалификации государственного образца
Цели
- классы задач, решаемых нейросетями;
- разновидности и специализации нейросетевых архитектур;
- работа с наиболее популярными и востребованными фреймворками для глубокого обучения;
- сверточные нейронные сети, в т.ч. их оптимизация и повышение производительности;
- классификация, сегментация, детектирование и локализация объектов на изображениях;
- способы обработки естественного языка, в т.ч. генерация текстов и изображений по запросу;
- обучение с подкреплением;
- Изучить совместное использование нотаций BPMN и DMN
Целевая аудитория
Предварительная подготовка
- Уверенное владение языком Python3 и популярными модулями для обработки численных данных (numpy, scikit-learn, matplotlib и т.д.).
- Основы линейной алгебры и дифференциального исчисления.
- Основы теории вероятностей и статистического анализа.
Разбираемые темы
-
1. Введение в искусственные нейронные сети. Современное применение нейронных сетей. Основные задачи: компьютерное зрение, обработка естественного языка, беспилотные агенты, генеративные сети, обучение с подкреплением и другие области (теория – 1 ч., ДЗ – 4 ч.)
- Архитектуры нейронных сетей. Нейрон, веса, функции активации, обучение
- Области применения нейронных сетей
- Основные классы задач, решаемых сетями
-
2. Фреймворки для глубокого обучения (PyTorch, TensorFlow, Keras) (Теория – 2 ч., практика – 4 ч.)
- Методы оптимизации, метрики, функции потерь, управление гиперпараметрами
- Тензоры, переменные, градиенты, функции, модели, обучение
- Устройство TensorFlow и PyTorch, модели и виды слоев в Keras
-
3. Сверточные нейронные сети (теория – 2 ч., практика – 3 ч., ДЗ – 4 ч.)
- Архитектура CNN. Фильтры, пулинг, 1D/2D/3D
- Обучение сверточных сетей
- Идеи удачных архитектур: AlexNet, VGG, Inception, ResNet
-
4. Оптимизация нейронной сети (теория – 1 ч., практика – 3 ч., ДЗ – 4 ч.)
- Алгоритм градиентного спуска и его варианты
- Регуляризация, Dropout, Batch Normalization
-
5. Transfer learning & Fine-tuning (теория – 1 ч., практика – 2 ч., ДЗ – 4 ч.)
- Способы доучивания сетей: полные и частичные
- Использование предобученных сетей в других задачах
-
6. Обработка естественного языка (теория – 2 ч., практика – 3 ч., ДЗ – 4 ч.)
- Виды задач: классификация, разметка, генерация, seq2seq
- Представления слов и текстов. Эмбеддинги. Word2Vec, FastText
- Языковые модели. ELMo, *BERT
- Трансформеры, механизм внимания, GPT, XLNet
-
7. Сегментация и детектирование объектов (теория – 2 ч., практика – 4 ч., ДЗ – 4 ч.)
- Сети для сегментации изображений
- Сети для детектирования объектов на изображениях
-
8. Генеративные сети (теория – 1 ч., практика – 3 ч., ДЗ – 2 ч.)
- GAN для генерации изображений
- Диффузионные модели. Stable Diffusion
-
9. Обучение с подкреплением (теория – 2 ч., практика – 4 ч., ДЗ – 4 ч.)
- Принципы обучения с подкреплением и основные подходы. Q-обучение
- Глубокое обучение с подкреплением
-
Итого: теория – 14 ч (35%), практика – 26 ч. (65%) + 30 ч. на ДЗ
С 1994 г. преподает дисциплины, связанные с управлением данными, проектированием информационных систем и разработкой программного обеспечения.
С 2014 г. Александр является штатным экспертом Luxoft Training по направлению «Разработка и архитектура ПО, СУБД Oracle», где занимается проведением тренингов, разработкой тренинговых программ и развитием данного направления.
О проектах:
Александр занимается разработкой учебных программ, чтением лекций, проведением семинаров, практических и лабораторных работ. Под его руководством уже не один десяток специалистов успешно защитили выпускные квалификационные работы бакалавра и магистерские диссертации.
Среди его кейсов работа в ЗАО «ТИТАН МЕТА», Московском государственном университете приборостроения и информатики, Национальном исследовательском университете «Высшая школа экономики» и Luxoft Training.
Курсы, сертификаты, членство в профессиональных организациях:
2009 г. — повышение квалификации в Московском государственном университете приборостроения и информатики по программе «Информационная компетентность в профессиональной деятельности преподавателя вуза».
2011 г. — повышение квалификации в Информационно-Вычислительном Центре Московского энергетического института (технического университета) по программе «Современные технологии построения баз данных на примере Microsoft SQL Server 2008. Web-приложения и современные средства разработки. Современные технологии построения компьютерных сетей с использованием Microsoft Windows Server 2008 R2».
Александр является членом организаций:
-
IEEE, IEEE Computer Society (Institute of Electrical and Electronics Engineers / Институт инженеров электротехники и электроники).
-
ACM, ACM SIGMOD (Association for Computing Machinery / Ассоциация вычислительной техники).
