Съдържание и теми, включени в курса
Въведение в дълбокото обучение
- Какво е дълбоко обучение и как се различава от традиционното машинно обучение
- Реални приложения в компютърното зрение, NLP и други области
- Обзор на екосистемата за дълбоко обучение: TensorFlow 2.x, Keras, PyTorch
- Настройване на средата за разработка с ускорение чрез GPU
Механика на дълбокото обучение
- Изкуствени неврони, активиращи функции и слоеве в мрежата
- Директно разпространение (forward propagation) и изчисляване на предсказанията
- Функции за загуба за задачи по класификация и регресия
- Оптимизация чрез градиентен спусък и обратното разпространение (backpropagation)
- Трениране на първата ви невронна мрежа върху набора от данни MNIST
Свързани невронни мрежи за компютърно зрение
- Разбиране на конволюцията, филтрите и картите на признаците (feature maps)
- Пулсинг слоеве (pooling layers) и намаляване на размерността
- Архитектури на CNN: концепции за LeNet, VGG и ResNet
- Изграждане и трениране на CNN за класификация на изображения
- Визуализиране на научени признаци и междинни активиации
Data Augmentation и подобряване на точността на модела
- Защо data augmentation предотвратява overfitting и подобрява обобщаването
- Трансформации на изображения: завъртане, огледално отражение, мащабиране и изрязване
- Имплементиране на пайплайни за augmentation с предварителна обработка в Keras
- Dropout, batch normalization и други техники за регуляризация
- Мониторинг на тренирането чрез валидационни метрики и ранно спиране (early stopping)
Прехвърляне на обучение с предварително обучени модели
- Разбиране на прехвърлянето на обучение (transfer learning) и защо работи
- Зареждане на предварително обучени модели от Keras Applications (ResNet, EfficientNet, MobileNet)
- Извличане на признаци: замразяване на базовите слоеве и трениране на нови класификатори
- Тонко настройване (fine-tuning): селективно размразяване на слоеве за адаптация към домейна
- Постигане на висока точност с ограничени данни за трениране
Рекурентни мрежи и моделиране на последователности
- Въведение в последователните данни и временните зависимости
- Рекурентни невронни мрежи (RNN) и проблемът с изчезващия градиент
- Клетки LSTM и GRU за дълги зависимости
- Трениране на модел за генериране на текст на ниво символи
- Словесни вградвания (word embeddings) и слой Embedding в Keras
Основи на обработката на естествен език
- Предварителна обработка на текст: токенизация, падаване (padding) и изграждане на речник
- Изграждане на текстов класификатор с RNN и LSTM
- Модели от тип sequence-to-sequence за концепции в машинния превод
- Механизми на внимание (attention mechanisms) и тяхната роля в съвременното NLP
- Практическо NLP с API-тата за обработка на текст в TensorFlow 2.x
Краен проект: Описание на изображения (Image Captioning)
- Комбиниране на компютърно зрение и NLP в мултимодална архитектура
- Извличане на признаци от изображения с предварително обучен CNN кодиращ компонент
- Изграждане на декодер на база LSTM за генериране на описания
- Управление на множество входни слоеве във функционалния API на Keras
- Трениране и оценяване на края до края (end-to-end) пайплайна за генериране на описания
Следващи стъпки и ресурси
- Внедряване на обучени модели с TensorFlow Serving
- Изследване на трансформерните архитектуры и големите езикови модели (LLM)
- Разширени работилници на NVIDIA DLI и пътища за сертифициране
- Ресурси на общността, набори от данни и идеи за проекти
Изисквания
- Основен опит в програмирането на Python (функции, цикли, речници, масиви)
- Запознаване с програмни концепции като променливи, условни оператори и структури от данни
- Не е необходим предходен опит в дълбокото или машинното обучение
Аудитория
- Софтуерни разработчици и инженери, преминаващи към областта на изкуствения интелект и машинното обучение
- Анализатори и учени по данни, които търсят умения в дълбокото обучение
- Технически специалисти, които искат да разберат и прилагат модели на невронни мрежи
- Студенти и изследователи, започващи своето пътешествие в дълбокото обучение
Отзиви от участници (2)
Обучението беше организирано и добре планирано, аз излязох от него с систематизирано знание и добра наглед на темите, които разглеждахме.
Magdalena - Samsung Electronics Polska Sp. z o.o.
Курс - Deep Learning with TensorFlow 2
Машинен превод
Много ми хареса краят, когато прекарахме време, разглеждайки CHAT GPT. Залата не беше най-добре организирана за това – вместо едно голямо стола, няколко по-малки щеше да помогне, за да се разделим на малки групи и да мислим съвместно.
Nola - Laramie County Community College
Курс - Artificial Intelligence (AI) Overview
Машинен превод