لطفا جهت اطلاع از آخرین دوره ها و اخبار سایت در
کانال تلگرام
عضو شوید.
آموزش مدیریت و بازیابی خط لولههای دادههای بلادرنگ (Real-Time Data Pipelines)
- آخرین آپدیت
دانلود Orchestrate & Recover Real-Time Data Pipelines
نکته:
ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره:
ساخت یک خط لوله داده (Data Pipeline) ساده است، اما ساخت سیستمی که به طور خودکار از خطاها بازیابی شود، یکپارچگی دادهها را در زمان قطعی حفظ کند و در محیط عملیاتی به طور پایدار اجرا شود، همان چیزی است که مهندسان جونیور را از معماران پلتفرم متمایز میکند.
در این دوره، شما یاد میگیرید که خط لولههای خودترمیمشونده را با قابلیتهای بازیابی خودکار، تحمل خطا (Fault Tolerance) و بازیابی پس از فاجعه (Disaster Recovery) طراحی کنید. شما یاد خواهید گرفت که جریانهای کاری استریمینگ را با استفاده از ارکستراتورهای مدرنی مانند Airflow و Prefect پیادهسازی و زمانبندی کنید، الگوهای قابلیت اطمینان شامل Idempotence، Checkpointing و صفهای Dead-letter را برای پردازش دقیق (Exactly-once) اجرا کنید و استراتژیهای بازیابی چندمنطقهای را برای تداوم جریان دادهها در هنگام خرابیهای منطقهای طراحی نمایید.
از طریق آزمایشگاههای عملی و مثالهای واقعی از شرکتهای Airbnb، LinkedIn، Netflix و Uber، تکنیکهای ارکستراسیون و بازیابی را فرا خواهید گرفت که اسکریپتهای شکننده را به زیرساختهای سطح تولید (Production-grade) تبدیل میکند. یاد بگیرید چگونه تلاشهای مجدد خودکار (Automated Retries) را مدیریت کنید، Backfillهای ایمن اجرا کنید، بازیابی مبتنی بر Checkpoint را پیادهسازی کرده و دستورالعملهای بازیابی پس از فاجعه را برای بازگردانی خط لولهها پس از قطعی اجرا نمایید.
این دوره برای مهندسانی است که خط لولههای داده بلادرنگ را میسازند یا نگهداری میکنند و به مهارتهای پیشرفتهتر در ارکستراسیون، قابلیت اطمینان و بازیابی نیاز دارند.
پیشنیازها: آشنایی با مبانی Python و SQL، خط فرمان لینوکس (Linux CLI) و مفاهیم پایه Kafka. داشتن حساب کاربری ابری مفید است اما ضروری نیست.
در پایان این دوره، فراگیران قادر خواهند بود خط لولههای داده بلادرنگی را طراحی، مدیریت و بازیابی کنند که در مقیاس عملیاتی به طور پایدار اجرا شوند.
سرفصل ها و درس ها
مبانی ارکستراسیون خط لولههای بلادرنگ
Foundations of Orchestrating Real-Time Pipelines
چرا ارکستراسیون مهم است: از Cron تا DAGها
Why Orchestration Matters: From Cron to DAGs
ساخت اولین DAG (Airflow)
Build Your First DAG (Airflow)
طراحی جریانها به روش پایتونیک (Prefect)
Flows the Pythonic Way (Prefect)
دمو: زمانبندی، تلاش مجدد و هشداردهی جامع
Demo: Scheduling, Retries, and Alerting End-to-End
الگوهای قابلیت اطمینان برای استریمینگ: Idempotence، Checkpoints و DLQs
Reliability Patterns for Streaming: Idempotence, Checkpoints, and DLQs
پردازش Exactly Once با Kafka: واقعیت چیست؟
Exactly-Once with Kafka: What You Really Get
چکپوینت و وضعیت: بازپخش بدون دادههای تکراری
Checkpointing & State: Replaying Without Duplicates
کاربرد عملی DLQها: از مدیریت خطا تا اولویتبندی
DLQs in Practice: From Error Handling to Triaging
بازیابی و DR: بکفیلها، سفر در زمان و تکثیر بینمنطقهای
Recovery & DR: Backfills, Time Travel, and Cross-Region Replication
بکفیلها و پردازش مجدد بدون نقض SLA
Backfills & Reprocessing Without Breaking SLAs
سفر در زمان و حسابرسی با Delta Tables
Time Travel & Audits with Delta Tables
تکثیر Kafka بین منطقهای (MM2/uReplicator)
Cross-Region Kafka Replication (MM2/uReplicator)
خلاصهای از استراتژی بازیابی شما
Your Recovery Posture, Summarized
نمایش نظرات