آموزش مدیریت و بازیابی خط لوله‌های داده‌های بلادرنگ (Real-Time Data Pipelines) - آخرین آپدیت

دانلود Orchestrate & Recover Real-Time Data Pipelines

نکته: ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره: ساخت یک خط لوله داده (Data Pipeline) ساده است، اما ساخت سیستمی که به طور خودکار از خطاها بازیابی شود، یکپارچگی داده‌ها را در زمان قطعی حفظ کند و در محیط عملیاتی به طور پایدار اجرا شود، همان چیزی است که مهندسان جونیور را از معماران پلتفرم متمایز می‌کند. در این دوره، شما یاد می‌گیرید که خط لوله‌های خودترمیم‌شونده را با قابلیت‌های بازیابی خودکار، تحمل خطا (Fault Tolerance) و بازیابی پس از فاجعه (Disaster Recovery) طراحی کنید. شما یاد خواهید گرفت که جریان‌های کاری استریمینگ را با استفاده از ارکستراتورهای مدرنی مانند Airflow و Prefect پیاده‌سازی و زمان‌بندی کنید، الگوهای قابلیت اطمینان شامل Idempotence، Checkpointing و صف‌های Dead-letter را برای پردازش دقیق (Exactly-once) اجرا کنید و استراتژی‌های بازیابی چندمنطقه‌ای را برای تداوم جریان داده‌ها در هنگام خرابی‌های منطقه‌ای طراحی نمایید. از طریق آزمایشگاه‌های عملی و مثال‌های واقعی از شرکت‌های Airbnb، LinkedIn، Netflix و Uber، تکنیک‌های ارکستراسیون و بازیابی را فرا خواهید گرفت که اسکریپت‌های شکننده را به زیرساخت‌های سطح تولید (Production-grade) تبدیل می‌کند. یاد بگیرید چگونه تلاش‌های مجدد خودکار (Automated Retries) را مدیریت کنید، Backfillهای ایمن اجرا کنید، بازیابی مبتنی بر Checkpoint را پیاده‌سازی کرده و دستورالعمل‌های بازیابی پس از فاجعه را برای بازگردانی خط لوله‌ها پس از قطعی اجرا نمایید. این دوره برای مهندسانی است که خط لوله‌های داده بلادرنگ را می‌سازند یا نگهداری می‌کنند و به مهارت‌های پیشرفته‌تر در ارکستراسیون، قابلیت اطمینان و بازیابی نیاز دارند. پیش‌نیازها: آشنایی با مبانی Python و SQL، خط فرمان لینوکس (Linux CLI) و مفاهیم پایه Kafka. داشتن حساب کاربری ابری مفید است اما ضروری نیست. در پایان این دوره، فراگیران قادر خواهند بود خط لوله‌های داده بلادرنگی را طراحی، مدیریت و بازیابی کنند که در مقیاس عملیاتی به طور پایدار اجرا شوند.

سرفصل ها و درس ها

مبانی ارکستراسیون خط لوله‌های بلادرنگ Foundations of Orchestrating Real-Time Pipelines

  • چرا ارکستراسیون مهم است: از Cron تا DAGها Why Orchestration Matters: From Cron to DAGs

  • ساخت اولین DAG (Airflow) Build Your First DAG (Airflow)

  • طراحی جریان‌ها به روش پایتونیک (Prefect) Flows the Pythonic Way (Prefect)

  • دمو: زمان‌بندی، تلاش مجدد و هشداردهی جامع Demo: Scheduling, Retries, and Alerting End-to-End

الگوهای قابلیت اطمینان برای استریمینگ: Idempotence، Checkpoints و DLQs Reliability Patterns for Streaming: Idempotence, Checkpoints, and DLQs

  • پردازش Exactly Once با Kafka: واقعیت چیست؟ Exactly-Once with Kafka: What You Really Get

  • چک‌پوینت و وضعیت: بازپخش بدون داده‌های تکراری Checkpointing & State: Replaying Without Duplicates

  • کاربرد عملی DLQها: از مدیریت خطا تا اولویت‌بندی DLQs in Practice: From Error Handling to Triaging

بازیابی و DR: بک‌فیل‌ها، سفر در زمان و تکثیر بین‌منطقه‌ای Recovery & DR: Backfills, Time Travel, and Cross-Region Replication

  • بک‌فیل‌ها و پردازش مجدد بدون نقض SLA Backfills & Reprocessing Without Breaking SLAs

  • سفر در زمان و حسابرسی با Delta Tables Time Travel & Audits with Delta Tables

  • تکثیر Kafka بین منطقه‌ای (MM2/uReplicator) Cross-Region Kafka Replication (MM2/uReplicator)

  • خلاصه‌ای از استراتژی بازیابی شما Your Recovery Posture, Summarized

نمایش نظرات

آموزش مدیریت و بازیابی خط لوله‌های داده‌های بلادرنگ (Real-Time Data Pipelines)
جزییات دوره
4h 22m
11
(آخرین آپدیت)
71
- از 5
دارد
دارد
دارد
Chris Croft
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Chris Croft Chris Croft

مربی مدیریت، سخنران، نویسنده