آموزش تضمین یکپارچگی در خط لوله‌های داده استریمینگ - آخرین آپدیت

دانلود Ensure Consistency in Streaming Pipelines

نکته: ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره: در این دوره عملی، طراحی و پیاده‌سازی خط لوله‌های داده استریمینگ (Streaming Data Pipelines) یکپارچه را با استفاده از Apache Kafka، Spark و Flink فرابگیرید. شما با استفاده از چارچوب‌های تصمیم‌گیری سیستماتیک، یاد می‌گیرید که بر اساس نیازهای کسب‌وکار و تحلیل سناریوهای شکست، تضمین‌های ارسال مناسب (at-most-once، at-least-once و exactly-once) را انتخاب کنید. شما پیاده‌سازی پردازش دقیق (exactly-once) از ابتدا تا انتها را از طریق پیکربندی تراکنش‌های Kafka Producer، چک‌پوینت‌های Spark Structured Streaming و جداول تراکنشی Hudi اجرا خواهید کرد و سپس پیاده‌سازی خود را از طریق تست‌های یکپارچه‌سازی با تزریق خطا (Failure Injection) اعتبارسنجی می‌کنید. در نهایت، استراتژی‌های Watermarking را با تحلیل الگوهای ورود رویدادها برای بهینه‌سازی توازن بین تأخیر و کامل بودن داده‌ها (Latency-Completeness Tradeoff) و برآورده کردن الزامات SLA بررسی خواهید کرد. از طریق سناریوهای واقعی — از جلوگیری از صورت‌حساب‌های تکراری در پردازش سفارش‌ها تا بهینه‌سازی خط لوله‌های رویدادهای IoT برای تأخیر P95 زیر ۱۰ ثانیه — مهارت‌های لازم برای معماری سیستم‌های استریمینگ تولیدی که بین دقت، عملکرد و سادگی عملیاتی تعادل برقرار می‌کنند را توسعه خواهید داد. این دوره برای مهندسان داده و پلتفرم سطح متوسط که از Kafka، Spark یا Flink استفاده می‌کنند و قصد دارند خط لوله‌های استریمینگ تولیدی با تضمین‌های ارسال صحیح، معناشناسی exactly-once و پردازش با تأخیر کم طراحی کنند، مناسب است. پیش‌نیازها: دانش پایه در سیستم‌های توزیع‌شده؛ تجربه مقدماتی با Apache Kafka یا سیستم‌های پیام‌رسان مشابه؛ آشنایی با SQL؛ و تجربه اولیه با مفاهیم پردازش داده‌های استریم یا دسته‌ای (Batch). در پایان این دوره، شما قادر خواهید بود خط لوله‌های استریمینگ آماده تولید را با تضمین‌های ارسال صحیح، معناشناسی exactly-once و پردازش زمان-رویداد (Event-time) با تأخیر کم، طراحی و اعتبارسنجی کنید.

سرفصل ها و درس ها

Apply Delivery Guarantees to Pipeline Design Apply Delivery Guarantees to Pipeline Design

  • Building Consistent Streaming Pipelines: Course Overview Building Consistent Streaming Pipelines: Course Overview

  • Analyzing Failure Modes and Delivery Guarantees Analyzing Failure Modes and Delivery Guarantees

  • Delivery Guarantee Selection Framework Delivery Guarantee Selection Framework

  • Applying Guarantees to Multi Tier Pipeline Design Applying Guarantees to Multi-Tier Pipeline Design

Implement Exactly Once Processing Semantics Implement Exactly-Once Processing Semantics

  • Exactly Once Mechanisms in Kafka Producers Exactly-Once Mechanisms in Kafka Producers

  • Exactly Once Mechanisms in Spark Structured Streaming Exactly-Once Mechanisms in Spark Structured Streaming

  • Implementing End to End Exactly Once with Hudi Implementing End-to-End Exactly-Once with Hudi

Evaluate Watermarking Strategies for Latency Completeness Tradeoffs Evaluate Watermarking Strategies for Latency-Completeness Tradeoffs

  • Event Time Processing and Watermark Fundamentals Event-Time Processing and Watermark Fundamentals

  • Window Types and Latency Calculations Window Types and Latency Calculations

  • Evaluating Watermarks Through Arrival Pattern Analysis Evaluating Watermarks Through Arrival Pattern Analysis

  • Integrating Consistency Patterns in Production Pipelines Integrating Consistency Patterns in Production Pipelines

نمایش نظرات

آموزش تضمین یکپارچگی در خط لوله‌های داده استریمینگ
جزییات دوره
3h 49m
11
(آخرین آپدیت)
47
- از 5
دارد
دارد
دارد
Chris Croft
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Chris Croft Chris Croft

مربی مدیریت، سخنران، نویسنده