لطفا جهت اطلاع از آخرین دوره ها و اخبار سایت در
کانال تلگرام
عضو شوید.
آموزش Master Airflow: مبتدی تا پیشرفت با پروژه
Master Airflow: Beginner to Advance with Project
نکته:
آخرین آپدیت رو دریافت میکنید حتی اگر این محتوا بروز نباشد.
نمونه ویدیوها:
توضیحات دوره:
راهنمای جامع Apache Airflow: یادگیری مدیریت گردش کار از مبتدی تا متخصص یاد بگیرید هماهنگی و مدیریت گردش کار نحوه ایجاد خطوط لوله داده ادغام ابری و انتقال داده از پایان به انتها خط لوله داده با استفاده واقعی پیش نیازها: دانش پایه پایتون
Apache Airflow یک پلت فرم منبع باز است که برای اتوماسیون جریان کار، زمانبندی و هماهنگی خطوط لوله داده پیچیده استفاده میشود. از آنجایی که حجم و پیچیدگی داده ها همچنان در حال رشد است، نیاز به پردازش و مدیریت داده کارآمد و مقیاس پذیر حیاتی است. در این دوره جامع، نحوه تسلط بر Apache Airflow را یاد خواهید گرفت، از اصول اولیه و پیشرفت به مفاهیم پیشرفته.
این دوره برای مهندسان داده، دانشمندان داده، توسعه دهندگان پایتون، مهندسان نرم افزار و هر کسی که علاقه مند به یادگیری نحوه خودکارسازی و مدیریت گردش کار داده است طراحی شده است.
شما یاد خواهید گرفت که چگونه از Apache Airflow برای ایجاد و مدیریت خطوط لوله داده، زمانبندی و راهاندازی وظایف، نظارت و عیبیابی جریانهای کاری، و ادغام با منابع و سرویسهای مختلف داده استفاده کنید.
این دوره موضوعات زیر را پوشش خواهد داد:
مقدمه ای بر جریان هوا و مدیریت گردش کار آپاچی
مقدمه ای بر دستورات Docker و Docker
نصب و پیکربندی Apache Airflow
ساخت و مدیریت گردش کار با Apache Airflow
زمانبندی و راهاندازی وظایف در Apache Airflow
اپراتورها در Apache Airflow
واکشی دادهها از Web API یا HTTP
سنسورهای فایل در جریان هوای آپاچی
اتصال با Azure یا AWS
استفاده از AWS S3 Bucket و Azure Blob Storage برای ذخیره و بازیابی داده ها
ایجاد اپراتورها و حسگرهای سفارشی
بررسی وابستگی ها و تلاش های مجدد
نظارت و عیب یابی گردش کار
یکپارچه سازی با منابع و سرویس های داده
مقیاسسازی و بهینهسازی جریان هوای آپاچی برای پردازش داده در مقیاس بزرگ با استفاده از Celery Executors
ایمن کردن اتصالات Dags با استفاده از کلیدهای Fernet
در طول دوره، روی تمرینها و پروژههای عملی برای به کارگیری مفاهیمی که یاد میگیرید کار خواهید کرد. در پایان دوره، درک قوی از Apache Airflow و مهارتهای ساخت و مدیریت گردشهای کاری پیچیده داده خواهید داشت.
سرفصل ها و درس ها
معرفی
Introduction
ارکستراسیون، گردش کار، جریان هوا و مزایای جریان هوا
Orchestration, Workflow, Airflow and Airflow Benefits
داکر
Docker
داکر
Docker
نصب جریان هوا
Airflow Installation
نصب و راه اندازی
Installation
آزمون 2
Quiz 2
وب سرور جریان هوا/رابط کاربری وب
Airflow Web Server / Web UI
مروری بر رابط کاربری وب
Web UI Walkthrough
Dags، وظایف، اپراتورها
Dags, Tasks, Operators
Dags، Tasks و Operators
Dags, Tasks and Operators
دانلود داده ها از وب API و پایگاه داده
Download data from Web APIs & Database
HttpSensor، HttpOperator و پایگاه های داده
HttpSensor, HttpOperator and Databases
FileSensors و اتصالات AWS
FileSensors & AWS Connections
FileSensor و S3 Bucket
FileSensor and S3 Bucket
ارتباط بین وظایف
Communication between tasks
XComm
XComm
اپراتور شعبه، BackFill و EmailOperator
Branch Operator, BackFill & EmailOperator
BranchOperator، BackFill و Email Operator
BranchOperator, BackFill and Email Operator
CustomOperators و Airflow MetaData
CustomOperators and Airflow MetaData
داده های متا جریان هوا در Postgres با استفاده از Dockerfile
Airflow Meta Data in Postgres Using Dockerfile
نمایش نظرات