План на курса
Въведение
разбиране Big Data
Преглед на Spark
Преглед на Python
Преглед на PySpark
- Разпространение на данни с помощта на устойчива рамка за разпределени набори от данни
- Разпределяне на изчисления с помощта на Spark API оператори
Настройка Python със Spark
Настройка PySpark
Използване на Amazon Web Services (AWS) EC2 инстанции за Spark
Настройка Databricks
Настройване на AWS EMR клъстер
Изучаване на основите на Python Programming
- Първи стъпки с Python
- Използване на тетрадка Jupyter
- Използване на променливи и прости типове данни
- Работа със списъци
- Използване на оператори if
- Използване на потребителски данни
- Работа с цикли while
- Реализиращи функции
- Работа с класове
- Работа с файлове и изключения
- Работа с проекти, данни и API
Изучаване на основите на Spark DataFrame
- Първи стъпки с Spark DataFrames
- Внедряване на основни операции със Spark
- Използване на Groupby и агрегатни операции
- Работа с времеви марки и дати
Работа по проект на Spark DataFrame Упражнение
Разбиране Machine Learning с MLlib
Работа с MLlib, Spark и Python за Machine Learning
Разбиране на регресиите
- Изучаване на теорията на линейната регресия
- Внедряване на код за регресионна оценка
- Работа върху примерно упражнение за линейна регресия
- Изучаване на теорията на логистичната регресия
- Внедряване на код за логистична регресия
- Работа върху примерно упражнение за логистична регресия
Разбиране на Random Forest и дървета на решения
- Теория на методите на дървото на обучение
- Внедряване на дървета за вземане на решения и Random Forest кодове
- Работа върху образец Random Forest Упражнение за класификация
Работа с K-означава групиране
- Разбиране на K-означава теорията на групирането
- Внедряване на код за клъстериране на K-средства
- Работа върху примерно упражнение за групиране
Работа с Recommender Systems
Внедряване на обработка на естествен език
- разбиране Natural Language Processing (NLP)
- Преглед на НЛП инструментите
- Работа върху примерно НЛП упражнение
Поточно предаване с включен Spark Python
- Общ преглед Поточно предаване със Spark
- Пример Spark Streaming Упражнение
Заключителни бележки
Изисквания
- Общи умения за програмиране
Публика
- Разработчици
- ИТ специалисти
- Учени по данни
Oтзиви от потребители (6)
I харесах, че е било практично. Обожавах да прилагам теоретичните знания с практични примеры.
Aurelia-Adriana - Allianz Services Romania
Курс - Python and Spark for Big Data (PySpark)
Машинен превод
Курсът беше посветен на серия от много сложни свързани теми, а Пабло притежава дълбоки познания за всяка една от тях. Понякога нюансите се губили в комуникацията и/или поради временни натиски и възможно е очакванията не бяха напълно изпълнени заради това. Освен това имаше някои проблеми със setup на UHG/Azure Databricks, но Пабло / UHG ги разрешили бързо веднъж, след като станали очевидни - това ми показа високо ниво на разбиране и професионализъм между UHG и Пабло.
Michael Monks - Tech NorthWest Skillnet
Курс - Python and Spark for Big Data (PySpark)
Машинен превод
Отделно внимание.
ARCHANA ANILKUMAR - PPL
Курс - Python and Spark for Big Data (PySpark)
Машинен превод
На практика обучение...
Abraham Thomas - PPL
Курс - Python and Spark for Big Data (PySpark)
Машинен превод
Уроките били провеждани в Jupyter ноутбук. Темите бяха структурирани с логическа последователност и естествено помагаха да се развива сесията от по-леките части към по-сложните. Вече съм напреднал потребител на Python с опит в Machine Learning, така че намирах курса по-лесен за следване от, възможно, някои от моите съученици, които взели обучението. Оценявам, че някои от най-елементарните концепции бяха пропуснати и че той се концентрира върху най-значимите неща.
Angela DeLaMora - ADT, LLC
Курс - Python and Spark for Big Data (PySpark)
Машинен превод
задачи за практика
Pawel Kozikowski - GE Medical Systems Polska Sp. Zoo
Курс - Python and Spark for Big Data (PySpark)
Машинен превод