لطفا جهت اطلاع از آخرین دوره ها و اخبار سایت در
کانال تلگرام
عضو شوید.
آموزش جریان هوای آپاچی: راهنمای اپراتورها
Apache Airflow: The Operators Guide
نکته:
آخرین آپدیت رو دریافت میکنید حتی اگر این محتوا بروز نباشد.
نمونه ویدیوها:
توضیحات دوره:
با Apache Airflow قدم بردارید! بر اپراتورهای جریان هوا مسلط شوید و خطوط لوله داده باورنکردنی ایجاد کنید! اپراتورهای Master Apache Airflow چگونه DAG های خود را نسخه کنند چگونه وابستگی های DAG را به طور موثر ایجاد کنیم چگونه DAG های خود را در روزهای خاص فعال کنیم با درک واقعی اپراتورهای جریان هوا خطوط انتقال داده های باورنکردنی ایجاد کنید نوشتن نصب شده است
Apache Airflow بیش از 700 اپراتور و 70 ابزار دارد که می تواند با آنها تعامل داشته باشد.
بزرگ است! ?
اپراتورها وظایفی در خط لوله داده شما هستند. آنها مهم هستند زیرا با اقدامات خط لوله داده شما، با مراحل مختلف تولید خروجی مورد نظر شما مطابقت دارند.
اکنون،
آیا اپراتورهای Airflow را به خوبی می شناسید؟
آیا می خواهید خطوط لوله داده قابل اعتماد ایجاد کنید؟
آیا به دنبال بهترین روشها در مورد اپراتورها هستید؟
اگر بله، به جای درستی آمده اید!
با دوره Apache Airflow: The Operators Guide، قادر خواهد بود
DAG های خود را نسخه کنید
کارهای خود را به درستی دوباره امتحان کنید
بین وظایف خود و حتی اجرای DAG خود وابستگی ایجاد کنید
پارامتر مالک را ابهام می کند
اگر کاری با شکست مواجه شد اقداماتی انجام دهید
روش درست ایجاد وابستگی های DAG را انتخاب کنید
یک کار را فقط در یک بازه زمانی مشخص اجرا کنید
کارهای خود را گروه بندی کنید تا DAG خود را تمیزتر کنید (نه با SubDAG)
DAG خود را بر اساس تقویم فعال کنید
و خیلی بیشتر!
هشدار! شما باید از قبل Airflow را بشناسید! این دوره را به عنوان مرجع اپراتورهای جریان هوا در نظر بگیرید.
اپراتور مورد نظر شما وجود دارد؟
هنوز نه!
به آن رای دهید، و من در ماه ویدیو خواهم ساخت. شما تصمیم بگیرید!
پس،
اگر از قبل Airflow را میشناسید و آماده هستید که پیشرفت کنید! اکنون ثبت نام کنید و واقعا خطوط لوله داده خود را به سطح دیگری ببرید. ?
سرفصل ها و درس ها
معرفی
Introduction
پیش نیازهای مهم
Important Prerequisites
Docker را نصب کنید
Install Docker
اهداف دوره
Course Objectives
من کی هستم؟
Who am I?
محیط توسعه
Development Environment
BaseOperator افشا شد
The BaseOperator Exposed
معرفی
Introduction
چه چیزی میخواهید بدانید
What you need to know
جزئیات مهم
Important details
شناسه وظیفه افشا شد!
The task id exposed!
نسخه سازی داگ
Dag versioning
چه کسی صاحب وظیفه است؟
Who owns the task?
start_date بیشتر از چیزی است که فکر می کنید
The start_date is more than you think
کار خود را دوباره امتحان کنید!
Retry your task!
به درستی از طریق ایمیل مطلع شوید
Be PROPERLY notified by emails
وظایف خود را بین DAGRun ها وابسته کنید
Make your tasks dependent between DAGRuns
منتظر کارهای پایین دستی باشید
Wait for downstream tasks
مهمانی استخر!
Pool party!
اولویت کار
Task priority
اولویت را مشخص کنید!
Define the priority!
اجرای کار را با trigger_rules تغییر دهید
Change task execution with trigger_rules
کارهای تمیز کردن را با trigger_rules اجرا کنید
Execute cleaning tasks with trigger_rules
با SLA انتظارات را برای وظایف خود تنظیم کنید
Set expectations to your tasks with SLAs
تایم اوت
Timeout
تایم اوت را تعریف کنید
Define a timeout
یک تماس برای واکنش
A callback to react
با پاسخ به تماس با شکست مواجه شوید
Catch a timeout with the failure callback
داده ها را با XCOM های معروف به اشتراک بگذارید
Share data with the famous XCOMs
همزمانی را محدود کنید
Limit the concurrency
کمک های وابستگی زنجیره ای و متقاطع
Chain and Cross dependency helpers
بیایید با کمک زنجیر و صلیب بازی کنیم
Let's play with chain and cross helpers
وظیفه خود را مطابق با مجری سفارشی کنید
Customize your task according to the executor
رایج ترین اپراتورها
The Most Common Operators
معرفی ارائه دهندگان
Introduction to Providers
PythonOperator
The PythonOperator
PythonOperator با TaskFlow API
The PythonOperator with the TaskFlow API
BashOperator
The BashOperator
یادداشت سریع در مورد زمینه های قالب
Quick note about templated fields
PostgresOperator
The PostgresOperator
ارسال پارامترهای دینامیک به PostgresOperator
Passing Dynamic Parameters to the PostgresOperator
مسیر خود را انتخاب کنید
Choose your path
معرفی
Introduction
BranchPython Operator
The BranchPythonOperator
برنامه ریزی DAG بر اساس تقویم!
DAG scheduling based on Calendar!
BranchSQLOoperator
The BranchSQLOperator
BranchDateTimeOperator
The BranchDateTimeOperator
The BranchDayOfWeek Operator
The BranchDayOfWeekOperator
وابستگی های DAG
DAG dependencies
معرفی
Introduction
SubDagOperator
SubDagOperator
فرو رفتن عمیق در SubDagOperator
Deep dive into the SubDagOperator
TaskGroups را کشف کنید
Discover the TaskGroups
TriggerDagRunOperator
TriggerDagRunOperator
ExternalTaskSensor معروف
The famous ExternalTaskSensor
نمای وابستگی های DAG
DAG dependencies view
آنهایی که عجیب و غریب
The Exotic Ones
یک DAG برنامه های مختلف با ShortCircuitOperator
One DAG different schedules with the ShortCircuitOperator
از اجرای وظایف گذشته با LatestOnlyOperator جلوگیری کنید
Prevent from running past tasks with the LatestOnlyOperator
یادداشت های جانبی با LatestOnlyOperator
Side Notes with the LatestOnlyOperator
فکر می کنید DummyOperator را می شناسید؟
You think you know the DummyOperator?
نمایش نظرات