آموزش تصور مدل پردازش برای Apache Flink

Conceptualizing the Processing Model for Apache Flink

نکته: آخرین آپدیت رو دریافت میکنید حتی اگر این محتوا بروز نباشد.
نمونه ویدیویی برای نمایش وجود ندارد.
توضیحات دوره: Flink سیستمی مناسب ، قابل تحمل و در مقیاس بزرگ است که دارای ویژگی های تأخیر و توان عملیاتی عالی است. این با مجموعه داده های محدود و غیرمجاز با استفاده از همان معماری زمینه ای جریان اول ، تمرکز بر جریان یا داده های بی حد و مرز کار می کند. Apache Flink بر اساس مفهوم معماری جریان اول ساخته شده است ، جایی که جریان منبع حقیقت است. Flink API های گسترده ای را برای پردازش دسته ای و همچنین جریان داده ها به روشی آسان و شهودی ارائه می دهد. در این دوره ، با تصور کردن مدل پردازش برای Apache Flink ، شما برای شروع کار در تجزیه و تحلیل داده ها ، با API های پردازش و پردازش Flink آشنا می شوید. ابتدا تفاوت های پردازش داده های دسته ای و پخش جریانی را کشف خواهید کرد و نحوه کار معماری جریان اول را درک خواهید کرد. شما اولین مدل پردازش جریان را که Flink برای پردازش داده ها در مقیاس استفاده می کند ، و معماری Flink را که از JobManager ، TaskManagers و اسلات وظایف برای اجرای اپراتورها و جریان ها در یک برنامه Flink به صورت موازی داده استفاده می کند ، مطالعه خواهید کرد. در مرحله بعدی ، شما تفاوت بین تبدیل جریان بدون حالت و حالت را درک خواهید کرد و این مفاهیم را به صورت عملی در پردازش جریان Flink خود اعمال خواهید کرد. با استفاده از نقشه () ، flatMap () و فیلتر () داده ها را به صورت بدون حالت پردازش خواهید کرد و از جریان های کلید دار و توابع غنی برای کار با حالت Flink استفاده خواهید کرد. سرانجام ، شما با کاوش در معماری ایست بازرسی در Flink ، درک خود را از سازگاری وضعیت پایداری و تحمل عیب که Flink از آن استفاده می کند ، جمع می کنید. شما می توانید ایستگاه های بازرسی و نقاط ذخیره را در برنامه پخش جریانی خود فعال کنید ، ببینید در صورت خرابی چگونه می توان حالت عکس را از عکس فوری بازیابی کرد و برنامه Flink خود را برای پشتیبانی از استراتژی های مختلف راه اندازی مجدد پیکربندی می کنید. پس از اتمام این دوره ، مهارت و دانش لازم برای طراحی خطوط لوله Flink را که انجام تبدیل بدون حالت و حالت را دارند ، خواهید داشت و قادر خواهید بود با استفاده از ایست های بازرسی و نقاط ذخیره برنامه های مقاوم در برابر خطا ایجاد کنید.

سرفصل ها و درس ها

بررسی اجمالی دوره Course Overview

  • بررسی اجمالی دوره Course Overview

شروع کار با Apache Flink Getting Started with Apache Flink

  • پیش نیازها و طرح کلی دوره Prerequisites and Course Outline

  • پردازش دسته ای و پردازش جریان Batch Processing and Stream Processing

  • پردازش دسته ای در مقابل پردازش جریان Batch Processing vs. Stream Processing

  • جریان اول معماری Stream-first Architecture

  • پردازش جریان در Flink Stream Processing in Flink

  • کارهای فرعی و پارتیشن های جریان اپراتور Operator Subtasks and Stream Partitions

  • نسخه ی نمایشی: Flink را بارگیری و نصب کنید Demo: Download and Install Flink

  • تحولات بدون دولت و دولت Stateless and Stateful Transformations

  • Flink Architecture: مدیر شغلی و مدیران وظایف Flink Architecture: Job Manager and Task Managers

  • چرخه عملیاتی و وظیفه Operator and Task Lifecycle

اجرا و مانیتور کردن س Quالات پخش جریانی Executing and Monitoring Streaming Queries

  • نسخه ی نمایشی: شروع یک Clink Cluster و ارسال برنامه های پخش جریانی Demo: Starting a Flink Cluster and Submitting Streaming Applications

  • نسخه ی نمایشی: خطاهای اشکال زدایی با استفاده از داشبورد Flink Demo: Debugging Errors Using the Flink Dashboard

  • نسخه ی نمایشی: بررسی تنظیمات پیش فرض پیکربندی Demo: Exploring Default Configuration Settings

  • نسخه ی نمایشی: تنظیمات خاص پیکربندی خوشه و شغل Demo: Cluster and Job Specific Configuration Settings

  • نسخه ی نمایشی: راه اندازی یک پروژه Maven Flink Demo: Setting up a Maven Flink Project

  • نسخه ی نمایشی: اجرای اولین برنامه جریانی شما Demo: Implementing Your First Streaming Application

  • نسخه ی نمایشی: پیکربندی خصوصیات خاص شغل Demo: Configuring Job Specific Properties

  • نسخه ی نمایشی: UID ها را به طور صریح مشخص می کند Demo: Explicitly Specifying UIDs

  • خوشه ها و استقرار Flink Clusters and Deployment

  • در دسترس بودن بالا با Flink High Availability with Flink

  • نسخه ی نمایشی: خواندن جریان داده ها از یک فایل متنی Demo: Reading Streaming Data from a Text File

  • نسخه ی نمایشی: بسته بندی و ارسال یک کار جریانی به Clink Cluster Demo: Packaging and Submitting a Streaming Job to the Flink Cluster

انجام تحولات بدون حالت در جریان ها Performing Stateless Transformations on Streams

  • تحولات بدون کشور Stateless Transformations

  • نسخه ی نمایشی: انجام عملیات فیلتر در جریان های ورودی Demo: Performing Filter Operations on Input Streams

  • نسخه ی نمایشی: انجام عملیات نقشه در جریان ورودی Demo: Performing Map Operations on Input Streams

  • نسخه ی نمایشی: انجام عملیات Flatmap در جریان های ورودی Demo: Performing Flatmap Operations on Input Streams

  • نسخه ی نمایشی: عملیات Flatmap بیشتر در جریان های ورودی Demo: More Flatmap Operations on Input Streams

  • Flink API ها Flink APIs

  • نسخه ی نمایشی: معرفی Dataset API Demo: Introducing the Dataset API

  • نسخه ی نمایشی: با استفاده از مجموعه داده ها ، نقشه و فیلتر کنید Demo: Map and Filter Using Datasets

  • نسخه ی نمایشی: معرفی Table API Demo: Introducing the Table API

  • نسخه ی نمایشی: در حال اجرای نمایش داده های SQL در جریان دادن داده ها Demo: Running SQL Queries on Streaming Data

  • نسخه ی نمایشی: خواندن به طور مداوم از یک منبع فایل Demo: Reading Continuously from a File Source

  • نسخه ی نمایشی: نوشتن در یک سینک پرونده پخش جریانی Demo: Writing out to a Streaming File Sink

  • نسخه ی نمایشی: پخش جریانی سینک با سیاست Rollover Demo: Streaming Sink with Rollover Policy

  • نسخه ی نمایشی: پردازش دقیقاً یکبار پرونده Demo: Processing a File Exactly Once

  • ضمانت های تحمل خطا Fault Tolerance Guarantees

انجام تحولات حالت مند در جریان ها Performing Stateful Transformations on Streams

  • تحولات دولتی Stateful Transformations

  • جریانهای کلید دار Keyed Streams

  • نسخه ی نمایشی: جریان های کلید دار Demo: Keyed Streams

  • ایالات در فلینک States in Flink

  • رابط حالت کلید دار و توابع غنی Keyed State Interfaces and Rich Functions

  • نسخه ی نمایشی: حالت ارزش - حداکثر قیمت بسته شده Demo: Value State - Max Closing Price

  • نسخه ی نمایشی: حالت ارزش - میانگین نورد Demo: Value State - Rolling Average

  • نسخه ی نمایشی: حالت مقدار - میانگین نورد در هر کلید Demo: Value State - Rolling Average per Key

  • نسخه ی نمایشی: وضعیت لیست - روزها از زمان شکست آستانه قیمت Demo: List State - Days since Price Threshold Breach

  • نسخه ی نمایشی: کاهش وضعیت - میانگین نورد Demo: Reducing State - Rolling Average

  • دولت باطن State Backends

بررسی معماری Checkpointing در Flink Exploring the Checkpointing Architecture in Flink

  • ایست های بازرسی Checkpoints

  • موانع جریان و ایست های بازرسی تراز شده Stream Barriers and Aligned Checkpoints

  • ایست های بازرسی غیر همسطح Unaligned Checkpoints

  • نسخه ی نمایشی: فعال کردن و پیکربندی ایست های بازرسی Demo: Enabling and Configuring Checkpoints

  • نسخه ی نمایشی: پیش فرض در بازرسی های حافظه Demo: Default in Memory Checkpoints

  • نسخه ی نمایشی: ایست های بازرسی مداوم با استفاده از حالت Backs Fs Demo: Persistent Checkpoints Using the Fs State Backend

  • نسخه ی نمایشی: پیکربندی Backend State برای خوشه Demo: Configuring the State Backend for the Cluster

  • نقاط ذخیره Savepoints

  • نسخه ی نمایشی: راه اندازی دستی ذخیره نقاط Demo: Manually Triggering Savepoints

  • نسخه ی نمایشی: بازیابی برنامه ها از Savepoints Demo: Restoring Applications from Savepoints

  • راهکارهای راه اندازی مجدد Restart Strategies

  • نسخه ی نمایشی: استراتژی راه اندازی مجدد - تاخیر ثابت Demo: Restart Strategy - Fixed Delay

  • نسخه ی نمایشی: استراتژی راه اندازی مجدد - بدون شروع مجدد Demo: Restart Strategy - No Restart

  • نسخه ی نمایشی: استراتژی راه اندازی مجدد - نرخ شکست Demo: Restart Strategy - Failure Rate

  • خلاصه و مطالعه بیشتر Summary and Further Study

نمایش نظرات

آموزش تصور مدل پردازش برای Apache Flink
جزییات دوره
4h 0m
64
Pluralsight (پلورال سایت) Pluralsight (پلورال سایت)
(آخرین آپدیت)
-
از 5
دارد
دارد
دارد
Janani Ravi
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Janani Ravi Janani Ravi

معمار و مهندس داده خبره Google Cloud

Janani Ravi یک معمار و مهندس داده خبره Google cloud است.

جنانی مدرک کارشناسی ارشد خود را در رشته مهندسی برق از دانشگاه استنفورد دریافت کرد و برای مایکروسافت، گوگل و فلیپ کارت کار کرده است. او یکی از بنیانگذاران Loonycorn است، یک استودیوی محتوا که بر ارائه محتوای با کیفیت بالا برای توسعه مهارت های فنی متمرکز است، جایی که او عشق خود را به فناوری با اشتیاق خود به تدریس ترکیب می کند.