آموزش جریان هوای آپاچی: راهنمای اپراتورها

Apache Airflow: The Operators Guide

نکته: آخرین آپدیت رو دریافت میکنید حتی اگر این محتوا بروز نباشد.
نمونه ویدیوها:
توضیحات دوره: با Apache Airflow قدم بردارید! بر اپراتورهای جریان هوا مسلط شوید و خطوط لوله داده باورنکردنی ایجاد کنید! اپراتورهای Master Apache Airflow چگونه DAG های خود را نسخه کنند چگونه وابستگی های DAG را به طور موثر ایجاد کنیم چگونه DAG های خود را در روزهای خاص فعال کنیم با درک واقعی اپراتورهای جریان هوا خطوط انتقال داده های باورنکردنی ایجاد کنید نوشتن نصب شده است

Apache Airflow بیش از 700 اپراتور و 70 ابزار دارد که می تواند با آنها تعامل داشته باشد.

بزرگ است! ?

اپراتورها وظایفی در خط لوله داده شما هستند. آنها مهم هستند زیرا با اقدامات خط لوله داده شما، با مراحل مختلف تولید خروجی مورد نظر شما مطابقت دارند.

اکنون،

آیا اپراتورهای Airflow را به خوبی می شناسید؟

آیا می خواهید خطوط لوله داده قابل اعتماد ایجاد کنید؟

آیا به دنبال بهترین روش‌ها در مورد اپراتورها هستید؟

اگر بله، به جای درستی آمده اید!

با دوره Apache Airflow: The Operators Guide، قادر خواهد بود

  • DAG های خود را نسخه کنید

  • کارهای خود را به درستی دوباره امتحان کنید

  • بین وظایف خود و حتی اجرای DAG خود وابستگی ایجاد کنید

  • پارامتر مالک را ابهام می کند

  • اگر کاری با شکست مواجه شد اقداماتی انجام دهید

  • روش درست ایجاد وابستگی های DAG را انتخاب کنید

  • یک کار را فقط در یک بازه زمانی مشخص اجرا کنید

  • کارهای خود را گروه بندی کنید تا DAG خود را تمیزتر کنید (نه با SubDAG)

  • DAG خود را بر اساس تقویم فعال کنید

و خیلی بیشتر!

هشدار! شما باید از قبل Airflow را بشناسید! این دوره را به عنوان مرجع اپراتورهای جریان هوا در نظر بگیرید.

اپراتور مورد نظر شما وجود دارد؟

هنوز نه!

به آن رای دهید، و من در ماه ویدیو خواهم ساخت. شما تصمیم بگیرید!

پس،

اگر از قبل Airflow را می‌شناسید و آماده هستید که پیشرفت کنید! اکنون ثبت نام کنید و واقعا خطوط لوله داده خود را به سطح دیگری ببرید. ?


سرفصل ها و درس ها

معرفی Introduction

  • پیش نیازهای مهم Important Prerequisites

  • Docker را نصب کنید Install Docker

  • اهداف دوره Course Objectives

  • من کی هستم؟ Who am I?

  • محیط توسعه Development Environment

BaseOperator افشا شد The BaseOperator Exposed

  • معرفی Introduction

  • چه چیزی میخواهید بدانید What you need to know

  • جزئیات مهم Important details

  • شناسه وظیفه افشا شد! The task id exposed!

  • نسخه سازی داگ Dag versioning

  • چه کسی صاحب وظیفه است؟ Who owns the task?

  • start_date بیشتر از چیزی است که فکر می کنید The start_date is more than you think

  • کار خود را دوباره امتحان کنید! Retry your task!

  • به درستی از طریق ایمیل مطلع شوید Be PROPERLY notified by emails

  • وظایف خود را بین DAGRun ها وابسته کنید Make your tasks dependent between DAGRuns

  • منتظر کارهای پایین دستی باشید Wait for downstream tasks

  • مهمانی استخر! Pool party!

  • اولویت کار Task priority

  • اولویت را مشخص کنید! Define the priority!

  • اجرای کار را با trigger_rules تغییر دهید Change task execution with trigger_rules

  • کارهای تمیز کردن را با trigger_rules اجرا کنید Execute cleaning tasks with trigger_rules

  • با SLA انتظارات را برای وظایف خود تنظیم کنید Set expectations to your tasks with SLAs

  • تایم اوت Timeout

  • تایم اوت را تعریف کنید Define a timeout

  • یک تماس برای واکنش A callback to react

  • با پاسخ به تماس با شکست مواجه شوید Catch a timeout with the failure callback

  • داده ها را با XCOM های معروف به اشتراک بگذارید Share data with the famous XCOMs

  • همزمانی را محدود کنید Limit the concurrency

  • کمک های وابستگی زنجیره ای و متقاطع Chain and Cross dependency helpers

  • بیایید با کمک زنجیر و صلیب بازی کنیم Let's play with chain and cross helpers

  • وظیفه خود را مطابق با مجری سفارشی کنید Customize your task according to the executor

رایج ترین اپراتورها The Most Common Operators

  • معرفی ارائه دهندگان Introduction to Providers

  • PythonOperator The PythonOperator

  • PythonOperator با TaskFlow API The PythonOperator with the TaskFlow API

  • BashOperator The BashOperator

  • یادداشت سریع در مورد زمینه های قالب Quick note about templated fields

  • PostgresOperator The PostgresOperator

  • ارسال پارامترهای دینامیک به PostgresOperator Passing Dynamic Parameters to the PostgresOperator

مسیر خود را انتخاب کنید Choose your path

  • معرفی Introduction

  • BranchPython Operator The BranchPythonOperator

  • برنامه ریزی DAG بر اساس تقویم! DAG scheduling based on Calendar!

  • BranchSQLOoperator The BranchSQLOperator

  • BranchDateTimeOperator The BranchDateTimeOperator

  • The BranchDayOfWeek Operator The BranchDayOfWeekOperator

وابستگی های DAG DAG dependencies

  • معرفی Introduction

  • SubDagOperator SubDagOperator

  • فرو رفتن عمیق در SubDagOperator Deep dive into the SubDagOperator

  • TaskGroups را کشف کنید Discover the TaskGroups

  • TriggerDagRunOperator TriggerDagRunOperator

  • ExternalTaskSensor معروف The famous ExternalTaskSensor

  • نمای وابستگی های DAG DAG dependencies view

آنهایی که عجیب و غریب The Exotic Ones

  • یک DAG برنامه های مختلف با ShortCircuitOperator One DAG different schedules with the ShortCircuitOperator

  • از اجرای وظایف گذشته با LatestOnlyOperator جلوگیری کنید Prevent from running past tasks with the LatestOnlyOperator

  • یادداشت های جانبی با LatestOnlyOperator Side Notes with the LatestOnlyOperator

  • فکر می کنید DummyOperator را می شناسید؟ You think you know the DummyOperator?

کلمات اخر! Last Words!

  • سخنرانی پاداش Bonus Lecture

نمایش نظرات

آموزش جریان هوای آپاچی: راهنمای اپراتورها
جزییات دوره
7 hours
56
Udemy (یودمی) Udemy (یودمی)
(آخرین آپدیت)
3,209
4.9 از 5
دارد
دارد
دارد
Marc Lamberti
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Marc Lamberti Marc Lamberti

کارشناس جریان هوای آپاچی، مهندس کلان داده