لطفا جهت اطلاع از آخرین دوره ها و اخبار سایت در
کانال تلگرام
عضو شوید.
آموزش تضمین یکپارچگی در خط لولههای داده استریمینگ
- آخرین آپدیت
دانلود Ensure Consistency in Streaming Pipelines
نکته:
ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره:
در این دوره عملی، طراحی و پیادهسازی خط لولههای داده استریمینگ (Streaming Data Pipelines) یکپارچه را با استفاده از Apache Kafka، Spark و Flink فرابگیرید. شما با استفاده از چارچوبهای تصمیمگیری سیستماتیک، یاد میگیرید که بر اساس نیازهای کسبوکار و تحلیل سناریوهای شکست، تضمینهای ارسال مناسب (at-most-once، at-least-once و exactly-once) را انتخاب کنید. شما پیادهسازی پردازش دقیق (exactly-once) از ابتدا تا انتها را از طریق پیکربندی تراکنشهای Kafka Producer، چکپوینتهای Spark Structured Streaming و جداول تراکنشی Hudi اجرا خواهید کرد و سپس پیادهسازی خود را از طریق تستهای یکپارچهسازی با تزریق خطا (Failure Injection) اعتبارسنجی میکنید. در نهایت، استراتژیهای Watermarking را با تحلیل الگوهای ورود رویدادها برای بهینهسازی توازن بین تأخیر و کامل بودن دادهها (Latency-Completeness Tradeoff) و برآورده کردن الزامات SLA بررسی خواهید کرد. از طریق سناریوهای واقعی — از جلوگیری از صورتحسابهای تکراری در پردازش سفارشها تا بهینهسازی خط لولههای رویدادهای IoT برای تأخیر P95 زیر ۱۰ ثانیه — مهارتهای لازم برای معماری سیستمهای استریمینگ تولیدی که بین دقت، عملکرد و سادگی عملیاتی تعادل برقرار میکنند را توسعه خواهید داد.
این دوره برای مهندسان داده و پلتفرم سطح متوسط که از Kafka، Spark یا Flink استفاده میکنند و قصد دارند خط لولههای استریمینگ تولیدی با تضمینهای ارسال صحیح، معناشناسی exactly-once و پردازش با تأخیر کم طراحی کنند، مناسب است.
پیشنیازها: دانش پایه در سیستمهای توزیعشده؛ تجربه مقدماتی با Apache Kafka یا سیستمهای پیامرسان مشابه؛ آشنایی با SQL؛ و تجربه اولیه با مفاهیم پردازش دادههای استریم یا دستهای (Batch).
در پایان این دوره، شما قادر خواهید بود خط لولههای استریمینگ آماده تولید را با تضمینهای ارسال صحیح، معناشناسی exactly-once و پردازش زمان-رویداد (Event-time) با تأخیر کم، طراحی و اعتبارسنجی کنید.
سرفصل ها و درس ها
Apply Delivery Guarantees to Pipeline Design
Apply Delivery Guarantees to Pipeline Design
Building Consistent Streaming Pipelines: Course Overview
Building Consistent Streaming Pipelines: Course Overview
Analyzing Failure Modes and Delivery Guarantees
Analyzing Failure Modes and Delivery Guarantees
نمایش نظرات