Описание
В рамках данного курса слушатели приобретут знания о различных нейросетевых архитектурах и фреймворках для глубокого обучения, причем акцент сделан на практических приемах их использования, в т.ч. с помощью облачных платформ Google Colab и Kaggle.
Основное внимание курс уделяет сверточным нейронным сетям и их оптимизации, приемам обнаружения объектов на изображениях с их последующей классификацией, сегментацией и/или локализацией, способам обработки естественного языка, в т.ч. для генерации текстов и изображений, а также задачам обучения моделей с подкреплением.
Лабораторный практикум предусматривает создание нейросетей как в ходе занятий, так и в качестве домашних заданий, например, для распознавания объектов не только на базе классических датасетов типа FashionMNIST и CIFAR-10, но и на данных из реальной жизни (в частности, выявление и классификация опухолей на томограммах медицинских обследований и т.д.).удостоверение о повышении квалификации государственного образца
Цели
Целевая аудитория
Предварительная подготовка
Уверенное владение языком Python3 и популярными модулями для обработки численных данных (numpy, scikit-learn, matplotlib и т.д.)
Основы линейной алгебры и дифференциального исчисления
Основы теории вероятностей и статистического анализаРазбираемые темы
-
1.Введение в искусственные нейронные сети. Современное применение нейронных сетей. Основные задачи: компьютерное зрение, обработка естественного языка, беспилотные агенты, генеративные сети, обучение с подкреплением и другие области. [Теория – 1 ч., ДЗ – 4 ч.]
-
Архитектуры нейронных сетей. Нейрон, веса, функции активации, обучение
-
Области применения нейронных сетей
-
Основные классы задач, решаемых сетями
-
-
2.Фреймворки для глубокого обучения (PyTorch, TensorFlow, Keras) [Теория – 2 ч., практика – 4 ч.]
-
Методы оптимизации, метрики, функции потерь, управление гиперпараметрами
-
Тензоры, переменные, градиенты, функции, модели, обучение
-
Устройство TensorFlow и PyTorch, модели и виды слоев в Keras
-
-
3.Сверточные нейронные сети [теория – 2 ч., практика – 3 ч., ДЗ – 4 ч.]
-
Архитектура CNN. Фильтры, пулинг, 1D/2D/3D
-
Обучение сверточных сетей
-
Идеи удачных архитектур: AlexNet, VGG, Inception, ResNet
-
-
4.Оптимизация нейронной сети [теория – 1 ч., практика – 3 ч., ДЗ – 4 ч.]
-
Алгоритм градиентного спуска и его варианты
-
Регуляризация, Dropout, Batch Normalization
-
-
5.Transfer learning & Fine-tuning [теория – 1 ч., практика – 2 ч., ДЗ – 4 ч.]
-
Способы доучивания сетей: полные и частичные
-
Использование предобученных сетей в других задачах
-
-
6.Обработка естественного языка [теория – 2 ч., практика – 3 ч., ДЗ – 4 ч.]
-
Виды задач: классификация, разметка, генерация, seq2seq
-
Представления слов и текстов. Эмбеддинги. Word2Vec, FastText
-
Языковые модели. ELMo, *BERT
-
Трансформеры, механизм внимания, GPT, XLNet
-
-
7.Сегментация и детектирование объектов [теория – 2 ч., практика – 4 ч., ДЗ – 4 ч.]
-
Сети для сегментации изображений
-
Сети для детектирования объектов на изображениях
-
-
8.Генеративные сети [теория – 1 ч., практика – 3 ч., ДЗ – 2 ч]
-
GAN для генерации изображений
-
Диффузионные модели. Stable Diffusion
-
-
9.Обучение с подкреплением [теория – 2 ч., практика – 4 ч., ДЗ – 4 ч.]
-
Принципы обучения с подкреплением и основные подходы. Q-обучение
-
Глубокое обучение с подкреплением
-
-
Итого: теория – 14 ч (35%), практика – 26 ч (65%) + 30 ч на ДЗ
С 1994 г. преподает дисциплины, связанные с управлением данными, проектированием информационных систем и разработкой программного обеспечения.
С 2014 г. Александр является штатным экспертом Luxoft Training по направлению «Разработка и архитектура ПО, СУБД Oracle», где занимается проведением тренингов, разработкой тренинговых программ и развитием данного направления.
О проектах:
Александр занимается разработкой учебных программ, чтением лекций, проведением семинаров, практических и лабораторных работ. Под его руководством уже не один десяток специалистов успешно защитили выпускные квалификационные работы бакалавра и магистерские диссертации.
Среди его кейсов работа в ЗАО «ТИТАН МЕТА», Московском государственном университете приборостроения и информатики, Национальном исследовательском университете «Высшая школа экономики» и Luxoft Training.
Курсы, сертификаты, членство в профессиональных организациях:
2009 г. — повышение квалификации в Московском государственном университете приборостроения и информатики по программе «Информационная компетентность в профессиональной деятельности преподавателя вуза».
2011 г. — повышение квалификации в Информационно-Вычислительном Центре Московского энергетического института (технического университета) по программе «Современные технологии построения баз данных на примере Microsoft SQL Server 2008. Web-приложения и современные средства разработки. Современные технологии построения компьютерных сетей с использованием Microsoft Windows Server 2008 R2».
2024 г. — Сертифицированный тренер PostgreSQL по курсу DBA1 «Администрирование PostgreSQL 13. Базовый уровень».
Александр является членом организаций:
-
IEEE, IEEE Computer Society (Institute of Electrical and Electronics Engineers / Институт инженеров электротехники и электроники).
-
ACM, ACM SIGMOD (Association for Computing Machinery / Ассоциация вычислительной техники).