به دلیل اختلال و افت سرعت در زیرساخت شبکه، ممکن است با کندی در بارگذاری سایت و سرعت دانلود مواجه شوید. همچنین فعالسازی دورهها با کمی تأخیر انجام خواهد شد. از صبوری و شکیبایی شما سپاسگزاریم.
لطفا جهت اطلاع از آخرین دوره ها و اخبار سایت در
کانال تلگرام
عضو شوید.
آموزش خط لولههای داده استریمینگ با Kafka و Spark
- آخرین آپدیت
دانلود Streaming Data Pipelines with Kafka and Spark
نکته:
ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره:
تخصص عملی در مهندسی دادههای بلادرنگ (Real-time) را با استفاده از Apache Kafka، Apache Spark، Spark Structured Streaming، PySpark، پایتون، Docker و Docker Compose کسب کنید. در این دوره خواهید آموخت که مهندسان داده چگونه خط لولههای استریمینگ را طراحی، پردازش، مانیتور و نگهداری میکنند تا دادههای رویداد را بهطور مداوم از سیستمهای منبع به خروجیهای قابل اطمینان منتقل کنند.
شروع مسیر با بررسی مفاهیم بنیادی استریمینگ رویدادها و معماری Apache Kafka خواهد بود. شما مفاهیمی چون بروکرها، تاپیکها، پارتیشنها، تولیدکنندگان (Producers)، مصرفکنندگان (Consumers)، آفستها، گروههای مصرفکننده، ترتیب پیامها و رفتار تحویل داده را بررسی خواهید کرد. از طریق دموهای عملی، تاپیکهای کافکا را ایجاد کرده، رویدادها را منتشر میکنید و نحوه توزیع و مدیریت دادههای استریمینگ توسط کافکا را مشاهده خواهید کرد.
سپس به سراغ پردازش استریم با Spark Structured Streaming خواهید رفت؛ جایی که با Streaming DataFrames، شماهای داده، اجرای میکرو-بچ (micro-batch)، تبدیلها، تجمیعها و سینکهای خروجی کار خواهید کرد. همچنین پردازش زمان رویداد (Event-time)، دادههای دیر رسیده، عملیات Stateful، چکپوینتینگ و بازیابی را بررسی میکنید تا درک کنید Spark چگونه پیشرفت پردازش را حفظ کرده و رویدادهای ورودی را بهطور قابل اطمینانی پردازش میکند.
در نهایت، بر کیفیت دادههای استریمینگ، مانیتورینگ، مدیریت خطاها و تحویل مطمئن تمرکز خواهید کرد. شما رکوردهای استریمینگ را اعتبارسنجی کرده، رویدادهای معیوب را شناسایی میکنید و روشهای بازیابی را برای ورکلودهای مداوم به کار میگیرید. این دوره با یک پروژه نهایی ساخت خط لوله استریمینگ متنباز و قابل اطمینان به پایان میرسد که شامل دریافت رویدادها با Kafka، پردازش با Spark، اعتبارسنجی کیفیت، مانیتورینگ، بازیابی و تحویل خروجی است.
در پایان این دوره شما قادر خواهید بود:
- مفاهیم بنیادی استریمینگ رویدادها و معماری Apache Kafka را توضیح دهید.
- با بروکرها، تاپیکها، پارتیشنها، تولیدکنندگان، مصرفکنندگان، آفستها و گروههای مصرفکننده کافکا کار کنید.
- تاثیر پارتیشنبندی، ترتیب پیامها و رفتار تحویل را بر خط لولههای استریمینگ تحلیل کنید.
- ورکفلوهای تولید و مصرف داده بر پایه کافکا را ایجاد و مدیریت کنید.
- رویدادهای ورودی مداوم را با استفاده از Spark Structured Streaming پردازش کنید.
- شماهای داده و تبدیلها را روی Streaming DataFrames اعمال کنید.
- تجمیعهای استریمینگ را انجام داده و نتایج پردازش شده را به سینکهای خروجی ارسال کنید.
- با پردازش زمان رویداد، دادههای دیر رسیده و عملیات Stateful کار کنید.
- تکنیکهای چکپوینتینگ و بازیابی را برای حفظ تداوم پردازش به کار ببرید.
- رویدادهای استریمینگ را اعتبارسنجی کرده و رکوردهای معیوب یا غیرقابل اطمینان را مدیریت کنید.
- ورکفلوهای استریمینگ کافکا و اسپارک را مانیتور کرده و مشکلات عملیاتی را شناسایی کنید.
- خطاهای رایج در خط لولههای داده استریمینگ را عیبیابی کنید.
- متدهای قابلیت اطمینان (Reliability) را برای پردازش و تحویل مداوم اعمال کنید.
- یک خط لوله داده استریمینگ End-to-End با استفاده از Kafka و Spark بسازید.
این دوره برای مهندسان داده، متقاضیان مهندسی دادههای استریمینگ، توسعهدهندگان نرمافزار و متخصصان پلتفرم داده طراحی شده است تا آنها را برای ساخت خط لولههای مقیاسپذیر، قابل اطمینان و قابل نگهداری با استفاده از تکنولوژیهای مدرن متنباز آماده کند.
سرفصل ها و درس ها
استریمینگ رویدادها با Apache Kafka
Event Streaming with Apache Kafka
معرفی تخصص
Specialization Introduction
معرفی دوره
Course Introduction
دادههای استریمینگ و معماری رویداد-محور
Streaming Data and Event-Driven Architecture
مفاهیم اصلی Apache Kafka
Apache Kafka Core Concepts
نمایش نظرات