آموزش ایرفلو: تسلط بر مفاهیم کلیدی و غلبه بر چالش‌ها - آخرین آپدیت

دانلود Airflow: Mastering Key Concepts and Conquer Challenges

نکته: ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره:

آموزش جامع Apache Airflow: ساخت پایپ‌لاین‌های داده قدرتمند و حل چالش‌ها

این دوره به شما کمک می‌کند تا با Apache Airflow، از مفاهیم پایه تا پیشرفته، آشنا شوید و پایپ‌لاین‌های داده‌ی کارآمدتری بسازید.

مزایای شرکت در این دوره:

  • درک عمیق از Apache Airflow: از معماری و اجزای Airflow تا نحوه استفاده از آن برای مدیریت جریان‌های کاری (Workflow).
  • مهارت در طراحی DAG: تسلط بر نحوه مدیریت وابستگی‌ها و موازی‌سازی در طراحی DAG (Directed Acyclic Graph).
  • پیاده‌سازی اپراتورها و سنسورهای سفارشی: یادگیری نحوه ایجاد اپراتورها و سنسورهای سفارشی برای یکپارچه‌سازی با سیستم‌ها و APIهای خاص.
  • بهره‌گیری از XCom: استفاده از XCom برای انتقال بهینه داده‌ها بین وظایف.
  • طراحی SubDAGهای پیچیده: کسب مهارت در طراحی SubDAGهای پیچیده و مدیریت ساختارهای جریان کاری پویا.
  • پردازش افزایشی داده‌ها: پیاده‌سازی پردازش افزایشی داده‌ها با اپراتور سفارشی Airflow.
  • عیب‌یابی و حل مشکلات: کسب مهارت‌های عیب‌یابی برای رفع مشکلات رایج نصب و راه‌اندازی.

پیش‌نیازها:

  • Python 3.7 یا بالاتر (ترجیحاً با Pycharm)
  • آخرین نسخه Visual Studio Code
  • دانش پایه پایتون

سرفصل‌های دوره:

بخش اول: مقدمه و نصب

آغاز کار با Airflow: درک ویژگی‌ها و مزایای Airflow، نصب و پیکربندی در محیط‌های مختلف، و حل مشکلات رایج نصب و راه‌اندازی.

بخش دوم: طراحی و مدیریت جریان کاری

معماری و اجزای Airflow، تعریف و ساختاربندی جریان‌های کاری با استفاده از DAGها، مدیریت وابستگی وظایف، تکنیک‌های زمان‌بندی، و مدیریت اجرای جریان کاری، تلاش‌های مجدد، و توافق‌نامه‌های سطح خدمات (SLA). همچنین، حل چالش‌های مربوط به وابستگی‌های پیچیده و موازی‌سازی در طراحی DAG.

بخش سوم: اپراتورها و سنسورها

آشنایی با انواع اپراتورها (BashOperator, PythonOperator, SQLOperator) و سنسورها. استفاده از سنسورها برای فعال‌سازی وظایف بر اساس رویدادهای خارجی. پیاده‌سازی اپراتورها و سنسورهای سفارشی برای یکپارچه‌سازی با سیستم‌ها و APIهای خاص.

بخش چهارم: مفاهیم پیشرفته و مقیاس‌پذیری

مفاهیم پیشرفته جریان کاری مانند SubDAGها و جریان‌های کاری شاخه‌ای. استفاده از XCom برای انتقال بهینه داده‌ها بین وظایف. کار با اتصالات و متغیرها در Airflow، و مقیاس‌بندی Airflow برای مدیریت حجم کاری بالا و بهینه‌سازی عملکرد. ایجاد یک چارچوب یادگیری ماشین برای اجرای وظایف خاص در جریان کاری. طراحی SubDAGهای پیچیده و مدیریت ساختارهای جریان کاری پویا.

بخش پنجم: بارگذاری افزایشی داده‌ها

پردازش افزایشی داده‌ها و استراتژی‌های کارآمد. پیاده‌سازی پردازش افزایشی داده‌ها با یک اپراتور سفارشی Airflow. تکنیک‌های تبدیل و بارگذاری کارآمد برای بهینه‌سازی استراتژی‌های پردازش داده‌ها.

همین حالا ثبت‌نام کنید و پتانسیل کامل Apache Airflow را آزاد کنید، بر چالش‌ها غلبه کنید و به یک متخصص در مدیریت جریان‌های کاری داده تبدیل شوید!


سرفصل ها و درس ها

Introduction and Installation

  • معرفی Airflow Introduction to Airflow

  • مروری بر ویژگی‌ها و مزایای Airflow Overview of Airflow features and benefits

  • مفاهیم مهم DAG DAG Important Concepts

  • نصب و پیکربندی Airflow در محیط‌های محلی Installing and configuring Airflow on local environments

  • چالش‌های نصب Installation Challenges

طراحی و مدیریت گردش کار Workflow Design and Management

  • درک معماری و اجزای Apache Airflow Understanding Apache Airflow architecture and components

  • اجراکننده‌های Apache Airflow: یک راهنمای جامع Apache Airflow Executors : A comprehensive guide

  • بررسی DAG نمونه و راهنمای ایجاد یک DAG Examining the example DAG and guide to create a DAG

  • قسمت 1: ایجاد یک DAG ساده در Apache Airflow Part 1: Creating a simple DAG in Apache Airflow

  • قسمت 2: ایجاد DAG های پیچیده در Apache Airflow Part 2: Creating a complex DAGs in Apache Airflow

  • وابستگی‌های Task و زمان‌بندی Task dependencies and Scheduling

  • مدیریت اجرای گردش کار، تلاش‌های مجدد و SLAها Managing Workflow Execution, Retries and SLAs

  • مدیریت وابستگی‌های پیچیده و موازی‌سازی در DAGها Handling Complex Dependencies and Parallelism in DAGs

اپراتورها و سنسورها Operators and Sensors

  • معرفی اپراتورها در Apache Airflow Introduction to Operators in Apache Airflow

  • بررسی عمیق اپراتورهای رایج Deep dive into common Operators

  • معرفی سنسورها در Apache Airflow Introduction to Sensors in Apache Airflow

  • اپراتورها و سنسورهای سفارشی Custom Operators and Sensors

  • موارد استفاده از اپراتورها و سنسورهای سفارشی در Apache Airflow Use cases of custom Operators and Sensors in Apache Airflow

  • اپراتور سفارشی - قالب Jinja Custom Operator - Jinja template

مفاهیم پیشرفته و مقیاس‌پذیری Advanced Concepts and Scaling

  • معرفی SubDAGها و انشعاب Introduction to SubDAGs and Branching

  • تبادل داده در Airflow با XCom Data Exchange in Airflow with XCom

  • تسلط بر Connectionها و Variableها در Airflow Mastering Connections and Variables in Airflow

  • مقیاس‌بندی و بهینه‌سازی Apache Airflow Scaling and Optimizing Apache Airflow

  • درک Machine Learning Understanding of Machine Learning

  • ادغام گردش‌های کار ML در Apache Airflow Integrating ML workflows in Apache Airflow

  • چالش‌ها در گردش‌های کار پیشرفته Airflow و راهکارهای آن‌ها Challenges in Advanced Airflow Workflows and their Resolutions

بارگذاری افزایشی داده Incremental Data Load

  • درک پردازش افزایشی داده Understanding Incremental Data Processing

  • پردازش افزایشی داده با اپراتور سفارشی Airflow Incremental Data Processing with Custom Airflow Operator

  • استراتژی‌های کارآمد تبدیل و بارگذاری Efficient Transformation and Loading Strategies

نمایش نظرات

آموزش ایرفلو: تسلط بر مفاهیم کلیدی و غلبه بر چالش‌ها
جزییات دوره
2.5 hours
29
Udemy (یودمی) Udemy (یودمی)
(آخرین آپدیت)
94
4.7 از 5
دارد
دارد
دارد
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Intelligence Guru Intelligence Guru

آموزش BI