آموزش خط لوله‌های داده استریمینگ با Kafka و Spark - آخرین آپدیت

دانلود Streaming Data Pipelines with Kafka and Spark

نکته: ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره: تخصص عملی در مهندسی داده‌های بلادرنگ (Real-time) را با استفاده از Apache Kafka، Apache Spark، Spark Structured Streaming، PySpark، پایتون، Docker و Docker Compose کسب کنید. در این دوره خواهید آموخت که مهندسان داده چگونه خط لوله‌های استریمینگ را طراحی، پردازش، مانیتور و نگهداری می‌کنند تا داده‌های رویداد را به‌طور مداوم از سیستم‌های منبع به خروجی‌های قابل اطمینان منتقل کنند. شروع مسیر با بررسی مفاهیم بنیادی استریمینگ رویدادها و معماری Apache Kafka خواهد بود. شما مفاهیمی چون بروکرها، تاپیک‌ها، پارتیشن‌ها، تولیدکنندگان (Producers)، مصرف‌کنندگان (Consumers)، آفست‌ها، گروه‌های مصرف‌کننده، ترتیب پیام‌ها و رفتار تحویل داده را بررسی خواهید کرد. از طریق دموهای عملی، تاپیک‌های کافکا را ایجاد کرده، رویدادها را منتشر می‌کنید و نحوه توزیع و مدیریت داده‌های استریمینگ توسط کافکا را مشاهده خواهید کرد. سپس به سراغ پردازش استریم با Spark Structured Streaming خواهید رفت؛ جایی که با Streaming DataFrames، شماهای داده، اجرای میکرو-بچ (micro-batch)، تبدیل‌ها، تجمیع‌ها و سینک‌های خروجی کار خواهید کرد. همچنین پردازش زمان رویداد (Event-time)، داده‌های دیر رسیده، عملیات Stateful، چک‌پوینتینگ و بازیابی را بررسی می‌کنید تا درک کنید Spark چگونه پیشرفت پردازش را حفظ کرده و رویدادهای ورودی را به‌طور قابل اطمینانی پردازش می‌کند. در نهایت، بر کیفیت داده‌های استریمینگ، مانیتورینگ، مدیریت خطاها و تحویل مطمئن تمرکز خواهید کرد. شما رکوردهای استریمینگ را اعتبارسنجی کرده، رویدادهای معیوب را شناسایی می‌کنید و روش‌های بازیابی را برای ورک‌لودهای مداوم به کار می‌گیرید. این دوره با یک پروژه نهایی ساخت خط لوله استریمینگ متن‌باز و قابل اطمینان به پایان می‌رسد که شامل دریافت رویدادها با Kafka، پردازش با Spark، اعتبارسنجی کیفیت، مانیتورینگ، بازیابی و تحویل خروجی است. در پایان این دوره شما قادر خواهید بود: - مفاهیم بنیادی استریمینگ رویدادها و معماری Apache Kafka را توضیح دهید. - با بروکرها، تاپیک‌ها، پارتیشن‌ها، تولیدکنندگان، مصرف‌کنندگان، آفست‌ها و گروه‌های مصرف‌کننده کافکا کار کنید. - تاثیر پارتیشن‌بندی، ترتیب پیام‌ها و رفتار تحویل را بر خط لوله‌های استریمینگ تحلیل کنید. - ورک‌فلوهای تولید و مصرف داده بر پایه کافکا را ایجاد و مدیریت کنید. - رویدادهای ورودی مداوم را با استفاده از Spark Structured Streaming پردازش کنید. - شماهای داده و تبدیل‌ها را روی Streaming DataFrames اعمال کنید. - تجمیع‌های استریمینگ را انجام داده و نتایج پردازش شده را به سینک‌های خروجی ارسال کنید. - با پردازش زمان رویداد، داده‌های دیر رسیده و عملیات Stateful کار کنید. - تکنیک‌های چک‌پوینتینگ و بازیابی را برای حفظ تداوم پردازش به کار ببرید. - رویدادهای استریمینگ را اعتبارسنجی کرده و رکوردهای معیوب یا غیرقابل اطمینان را مدیریت کنید. - ورک‌فلوهای استریمینگ کافکا و اسپارک را مانیتور کرده و مشکلات عملیاتی را شناسایی کنید. - خطاهای رایج در خط لوله‌های داده استریمینگ را عیب‌یابی کنید. - متدهای قابلیت اطمینان (Reliability) را برای پردازش و تحویل مداوم اعمال کنید. - یک خط لوله داده استریمینگ End-to-End با استفاده از Kafka و Spark بسازید. این دوره برای مهندسان داده، متقاضیان مهندسی داده‌های استریمینگ، توسعه‌دهندگان نرم‌افزار و متخصصان پلتفرم داده طراحی شده است تا آن‌ها را برای ساخت خط لوله‌های مقیاس‌پذیر، قابل اطمینان و قابل نگهداری با استفاده از تکنولوژی‌های مدرن متن‌باز آماده کند.

سرفصل ها و درس ها

استریمینگ رویدادها با Apache Kafka Event Streaming with Apache Kafka

  • معرفی تخصص Specialization Introduction

  • معرفی دوره Course Introduction

  • داده‌های استریمینگ و معماری رویداد-محور Streaming Data and Event-Driven Architecture

  • مفاهیم اصلی Apache Kafka Apache Kafka Core Concepts

  • اجرای محلی Apache Kafka Running Apache Kafka Locally

  • تولید رویدادها با پایتون Producing Events with Python

  • مصرف رویدادها با پایتون Consuming Events with Python

  • کار با پارتیشن‌های کافکا و گروه‌های مصرف‌کننده Working with Kafka Partitions and Consumer Groups

پردازش استریمینگ با PySpark Streaming Processing with PySpark

  • مبانی Spark Structured Streaming Spark Structured Streaming Fundamentals

  • زمان رویداد، پنجره‌ها و داده‌های دیر رسیده Event Time, Windows, and Late Data

  • خواندن رویدادهای کافکا با Structured Streaming Reading Kafka Events with Structured Streaming

  • فیلتر کردن و غنی‌سازی داده‌های استریمینگ Filtering and Enriching Streaming Data

  • ایجاد تجمیع‌های استریمینگ پنجره‌ای Creating Windowed Streaming Aggregations

  • استفاده از چک‌پوینت‌ها برای بازیابی استریم Using Checkpoints for Stream Recovery

  • خروجی‌های استریمینگ، چک‌پوینت‌ها و بازیابی Streaming Outputs, Checkpoints, and Recovery

کیفیت، مانیتورینگ و تحویل داده Quality, Monitoring, and Delivery

  • کیفیت داده برای خط لوله‌های دسته‌ای و استریمینگ Data Quality for Batch and Streaming Pipelines

  • مانیتورینگ خط لوله و آمادگی عملیاتی Pipeline Monitoring and Operational Readiness

  • اعتبارسنجی رویدادهای استریمینگ با پایتون Validating Streaming Events with Python

  • مانیتورینگ کافکا و جاب‌های استریمینگ Monitoring Kafka and Streaming Jobs

  • مدیریت خطاها و راه‌اندازی مجدد خط لوله Handling Failures and Restarting the Pipeline

  • ساخت یک خط لوله استریمینگ متن‌باز و قابل اطمینان Building a Reliable Open-Source Streaming Pipeline

  • جمع‌بندی دوره Course Summary

نمایش نظرات

آموزش خط لوله‌های داده استریمینگ با Kafka و Spark
جزییات دوره
5h 10m
22
(آخرین آپدیت)
13
- از 5
دارد
دارد
دارد
Chris Croft
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Chris Croft Chris Croft

مربی مدیریت، سخنران، نویسنده