План на курса
Основи на NiFi и потока на данни
- Данни в движение спрямо данни в покой: концепции и предизвикателства
- Архитектура на NiFi: ядра, контролер на потока, доказателство за източник и съобщения
- Ключови компоненти: процесори, свързаност, контролери и доказателства за източник
Български контекст и интеграция
- Ролята на NiFi в екосистемите с големи данни (Hadoop, Kafka, облачно съхранение)
- Преглед на HDFS, MapReduce и moderne альтернативи
- Сценарии: изтегляне на потокове, логически транспорти, пайлини за събития
Инсталиране, конфигуриране и настройка на кластера
- Инсталиране на NiFi в односно режим или кластерен режим
- Конфигуриране на кластера: роли на узлите, Zookeeper и балансиране на натоварването
- Оркестриране на разположенията на NiFi: с използване на Ansible, Docker или Helm
Проектиране и управление на потокове
- Маршрутизация, филтриране, разделяне и съединяване на потоци
- Конфигуриране на процесори (InvokeHTTP, QueryRecord, PutDatabaseRecord и др.)
- Обработка на схеми, обогатяване и трансформация на операции
- Обработка на грешки, възстановяване на връзки при грешка и бекпресинг
Сценарии за интеграция
- Свързване с бази данни, системи за съобщения и REST API-та
- Потоци към аналитични системи: Kafka, Elasticsearch или облачно съхранение
- Интеграция с Splunk, Prometheus или логически пайлини
Мониторинг, възстановяване и доказателство за източник
- Използване на потребителския интерфейс на NiFi, метрики и визуализатор на доказателства за източник
- Проектиране на самостоятелно възстановяване и грациозна обработка на грешки
- Резервно копиране, версиониране на потока и управление на промени
Оптимизация и подобрение на производителността
- Подобряване на JVM, heap, нишки и параметри за кластеризация
- Оптимизиране на проектирането на потока за намаляване на бутонални точки
- Изолация на ресурси, приоритизиране на потокове и контрол на преминаването
Лучши практики и управление
- Документация за потока, стандартни имена, модулно проектиране
- Сигурност: TLS, аутентикация, контрол на достъп, криптиране на данни
- Управление на промени, версиониране, роля базиран достъп и аудит на следите
Разследване на проблеми и реакция при инциденти
- Често срещани проблеми: дедлокове, утечки памет, грешки в процесорите
- Анализ на логовете, диагностика на грешки и разследване на коренните причини
- Стратегии за възстановяване и отката на потока
Лабораторна практика: Реално изпълнение на потокова линия за данни
- Изграждане на потока от начало до край: влизане, трансформация и доставка
- Реализиране на обработка на грешки, бекпресинг и масштабиране
- Тест за производителност и оптимизация на потока
Резюме и следващи стъпки
Изисквания
- Опит с Linux команден ред
- Основно разбиране на мрежи и данни
- Запознаност с потоци на данни или концепции за ETL (Extract, Transform, Load)
Публика
- Системни администратори
- Инженери на данните
- Разработчици
- Профессионалисти DevOps
Отзиви от потребители (7)
Практически упражнения. Класът трябваше да бъде на 5 дни, но и 3 дни помогнаха значително за разяснение на много въпроси, които имах от работата с NiFi.
James - BHG Financial
Курс - Apache NiFi for Administrators
Машинен превод
Смятах, че темпото на тренера беше задоволително. Той не остави никой студент назад с подхода си. Беше много поддържащ към нас НОВАЦИТЕ, които може да не са имали ролята на системен администратор или инфраструктурен специалист по време на кariерата си, или възстановиха тези умения от предходен период на кариерата си.
Pamdrea Ivory - BHG Financial
Курс - Apache NiFi for Administrators
Машинен превод
Ми ми хареса практическата част. Тя ми помогна по-ефективно да запаметявам информацията, извършвайки предложените упражнения. Освен това, способността на инструктора да комуникира с целия клас ме направи по-уютно да задавам въпроси за неща, които не разбирах.
Leila - BHG Financial
Курс - Apache NiFi for Administrators
Машинен превод
Сценарии за употреба и примери за създаване на данни потоци с NiFi. Работихме над разрешаването на обикновени проблеми и скрити сложности.
Nelson - BHG Financial
Курс - Apache NiFi for Administrators
Машинен превод
Обичах структурата. На първия ден се запознахме с основите на NiFi, концепции, приложения и т.н. На втория ден приложихме знанията от първия ден, създавайки потоци за изпълнение на конкретни сценарии. На третия ден разгледахме NiFi Registry, версионно управление, многопотребителска поддръжка и проведохме Q&A.
Adam - BHG Financial
Курс - Apache NiFi for Administrators
Машинен превод
Ми ми хареса както той обясни за NiFi и колко е мощен. По същество, можете да го използвате за всяка инфраструктура и да използвате много различни компютърни езици. Бях също радостно удивен, че успяхме да решим проблема с обновяването на сертификата NiFi, който имахме с Truststore.
Joachim Martin - BHG Financial
Курс - Apache NiFi for Administrators
Машинен превод
общи познания и възможностите, които обучението предлага относно инструмента.
Nalfis Tobar - BHG Financial
Курс - Apache NiFi for Administrators
Машинен превод