Apache Spark обучение в Варна

Този курс с инструкторско ръководство, провеждан в онлайн или на място, е предназначен за данни научни специалисти и инженери на средно ниво, които искат да използват Google Colab и Apache Spark за обработка и анализ на големи данни.

До края на този курс участниците ще бъдат способни да:

• Настроят среда за големи данни с Google Colab и Spark.
• Обработват и анализират големи набори данни ефективно с Apache Spark.
• Визуализират големи данни в съвместна среда.
• Интегрират Apache Spark с инструменти базирани на облак.

Stratio е платформа, насочена към данни, която интегрира големи данни, ИИ и управление в едно решение. Нейните модули Rocket и Intelligence подпомагат бързото разглеждане на данни, трансформацията и напредналата аналитика в предприемачски среди.

Това обучение под ръководството на инструктор (онлайн или на място) е насочено към средно ниво специалисти по данни, които искат да използват модулите Rocket и Intelligence в Stratio ефективно с PySpark, като фокусират върху циклични структури, потребителски дефинирани функции (UDFs) и напреднала логика на данни.

По края на обучението участниците ще могат да:

• Навигирам и работя в платформата Stratio, използвайки модулите Rocket и Intelligence.
• Применявам PySpark за ингестинг, трансформация и анализ на данни.
• Използвам цикли и условна логика за контрол на рабочите процеси с данни и задачите по извличане на характеристики (feature engineering).
• Създавам и управлявам потребителски дефинирани функции (UDFs) за повторно използване на операции с данни в PySpark.

Формат на курса

• Интерактивно предаване и дискусия.
• Много упражнения и практика.
• Работа в реална лабораторна среда.

Опции за персонализация на курса

• За да заявите персонализирано обучение за този курс, моля свържете се с нас за организиране.

Това водено от инструктор обучение на живо в Варна (онлайн или на място) е насочено към разработчици, които желаят да използват и интегрират Spark, Hadoop и Python за обработка, анализиране и трансформиране на големи и сложни масиви от данни.

До края на това обучение участниците ще могат:

• Настройте необходимата среда, за да започнете да обработвате големи данни със Spark, Hadoop и Python.
• Разберете характеристиките, основните компоненти и архитектурата на Spark и Hadoop.
• Научете как да интегрирате Spark, Hadoop и Python за обработка на големи данни.
• Разгледайте инструментите в екосистемата на Spark (Spark MlLib, Spark Streaming, Kafka, Sqoop, Kafka и Flume).
• Изградете системи за препоръки за съвместно филтриране, подобни на Netflix, YouTube, Amazon, Spotify и Google.
• Използвайте Apache Mahout за мащабиране на алгоритми за машинно обучение.

Това водено от инструктор обучение на живо в Варна (онлайн или на място) е насочено към начинаещи до системни администратори на средно ниво, които желаят да разположат, поддържат и оптимизират клъстери на Spark.

До края на това обучение участниците ще могат:

• Инсталирайте и конфигурирайте Apache Spark в различни среди.
• Управлявайте ресурсите на клъстера и наблюдавайте приложенията на Spark.
• Оптимизирайте производителността на клъстерите Spark.
• Приложете мерки за сигурност и осигурете висока наличност.
• Отстраняване на грешки и отстраняване на често срещани проблеми със Spark.

В това водено от инструктор обучение на живо в Варна участниците ще се научат как да използват Python и Spark заедно, за да анализират големи данни, докато работят върху практически упражнения.

До края на това обучение участниците ще могат:

• Научете как да използвате Spark с Python за анализ на Big Data.
• Работете върху упражнения, които имитират случаи от реалния свят.
• Използвайте различни инструменти и техники за анализ на големи данни, използвайки PySpark.

Тази тренировка предоставя практическо въведение в изграждането на мащабируеми потоци за обработка на данни и машинно обучение, използвайки PySpark. Участниците научават как работи Apache Spark в съвременните екосистеми за еднотни данни и как ефективно да обработват големи набори от данни, използвайки принципите на разпределените изчисления.

Това обучение, водено от инструктор (в реално време или на място), е насочено към инженери, които искат да конфигурират и внедрят системата Apache Spark за обработка на много големи данни.

По завершването на това обучение участниците ще могат:

• Инсталират и конфигурират Apache Spark.
• Бързо обработват и анализират много големи данни.
• Разберат разликата между Apache Spark и Hadoop MapReduce, както и кога да използват всяка от тях.
• Интегрират Apache Spark с други инструменти за машинно учене.

Кривата на обучение на Apache Spark бавно се увеличава в началото, необходими са много усилия, за да се получи първата възвръщаемост. Този курс има за цел да премине през първата трудна част. След преминаването на този курс участниците ще разберат основите на Apache Spark, ще разграничат ясно RDD от DataFrame, ще научат Python и Scala API, ще разберат изпълнителите и задачите и т.н. Следвайки най-добрите практики, този курс силно се фокусира върху внедряването в облак, Databricks и AWS. Студентите също ще разберат разликите между AWS EMR и AWS Glue, една от най-новите услуги на Spark на AWS.

ПУБЛИКА:

Инженер по данни, DevOps, Учен по данни

Spark SQL е модулът на Apache Spark за работа с структурирани и неструктурирани данни. Spark SQL предоставя информация за структурата на данните, както и за извършваното изчисление. Тази информация може да бъде използвана за оптимизация. Две общи сценария за употреба на Spark SQL са:
- изпълнение на SQL заявки.
- четене на данни от съществуваща инсталация на Hive.

В този воден от инструктор обучаващ курс (на място или онлайн), участниците ще научат как да анализират различни типове набори от данни, използвайки Spark SQL.

По завършването на този курс, участниците ще могат:

• Да инсталират и конфигурират Spark SQL.
• Да анализират данни с използване на Spark SQL.
• Да извършват заявки към набори от данни в различни формати.
• Да визуализират данните и резултатите от заявките.

Формат на курса

• Интерактивно предаване с дискусия.
• Много упражнения и практика.
• Приложение в реална лабораторна среда.

Опции за персонализиране на курса

• За да поискате персонализирано обучение за този курс, моля, свържете се с нас, за да организираме.