آموزش ساخت خط لوله‌های داده (Data Pipelines) خودکار با Spark، dbt و Airflow - آخرین آپدیت

دانلود Building Automated Data Pipelines with Spark,dbt,and Airflow

نکته: ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره: در این دوره جامع، شما هنر ساخت خط لوله‌های داده آماده برای محیط عملیاتی (Production-ready) را فرا می‌گیرید که قادر به پردازش خودکار میلیون‌ها رکورد هستند. در این دوره عملی، جریان‌های کاری (Workflows) سرتاسری را طراحی خواهید کرد که منابع متنوع داده‌ها — از پایگاه‌های داده و APIها گرفته تا جریان‌های داده آنی (Real-time) — را با استفاده از ابزارهای استاندارد صنعت مانند Apache Spark، dbt و Apache Airflow یکپارچه می‌کنند. شما یاد می‌گیرید مدل‌های داده‌ای مستحکمی بسازید که تغییرات تاریخی را حفظ کنند، بهینه‌سازی‌های عملکردی را پیاده‌سازی کنید که زمان پردازش را تا ۳۰٪ یا بیشتر کاهش می‌دهد و جریان‌های کاری خودکاری با منطق تلاش مجدد (Retry Logic) هوشمند و هشدارهای نظارتی ایجاد کنید. در پایان، شما یک سیستم کامل خط لوله داده ایجاد خواهید کرد که مهارت‌های فنی مورد نیاز تیم‌های مهندسی داده را به نمایش می‌گذارد. شما خواهید آموخت که چگونه منابع داده پراکنده را یکپارچه کنید، تکنیک‌های پیشرفته تبدیل داده‌ها را اعمال کنید و اطمینان حاصل کنید که خط لوله‌های شما در مقیاس بزرگ به‌طور قابل اعتمادی اجرا می‌شوند. این تجربه عملی مستقیماً با چالش‌هایی که به عنوان مهندس داده، تحلیلگر داده یا هر کسی که با سیستم‌های داده در مقیاس بزرگ در سازمان‌های مدرن کار می‌کند با آن مواجه می‌شود، همسو است.

سرفصل ها و درس ها

درک مبانی نمودار جریان داده (DFD) Understanding Data Flow Diagram Fundamentals

  • چرا تجسم جریان داده باعث موفقیت مهندسی می‌شود Why Data Flow Visualization Drives Engineering Success

  • رویکرد سیستماتیک برای شناسایی منابع و مقاصد Systematic Approach to Identifying Sources and Destinations

  • ایجاد اولین نمودار جریان داده شما Creating Your First Data Flow Diagram

ایجاد نمودارهای جامع جریان داده Creating Comprehensive Data Flow Diagrams

  • تکنیک‌های پیشرفته نمودارکشی برای سیستم‌های پیچیده داده Advanced Diagramming Techniques for Complex Data Systems

  • نگاشت خط لوله‌های داده پیچیده در سیستم‌های چندگانه Mapping Complex Multi-System Data Pipelines

مبانی و هسته توسعه ماژولار خط لوله Modular Pipeline Development - Foundation & Core

  • اکوسیستم ابزارهای متن‌باز: یکپارچه‌سازی Spark، dbt و Airflow Open Source Tool Ecosystem: Spark, dbt, and Airflow Integration

پیاده‌سازی و یکپارچه‌سازی خط لوله: کاربرد و ارزیابی Pipeline Implementation & Integration - Application & Assessment

مبانی پیکربندی کانکتورها Connector Configuration Foundations

  • چرا یکپارچه‌سازی منابع داده برای موفقیت سازمانی مهم است Why Data Source Unification Matters for Enterprise Success

  • مبانی کانکتور Airbyte: زیربنای یکپارچه‌سازی شما Airbyte Connector Fundamentals - Your Integration Foundation

پیاده‌سازی یکپارچه‌سازی یکپارچه داده‌ها Unified Data Integration Implementation

  • داستان‌های موفقیت یکپارچه‌سازی سازمانی: اهمیت اتحاد منابع چندگانه Enterprise Integration Success Stories - Why Multi-Source Unity Matters

  • تسلط بر پیکربندی کانکتورهای استریمینگ و API Streaming and API Connector Configuration Mastery

مبانی ردیابی تاریخی SCD2 SCD2 Historical Tracking Fundamentals

  • چرا SCD2 در انبارهای داده سازمانی اهمیت دارد Why SCD2 Matters in Enterprise Data Warehouses

  • درک اجزای اصلی و منطق تجاری SCD2 Understanding SCD2 Core Components and Business Logic

  • ساخت اولین ساختار جدول SCD2 در SQL Building Your First SCD2 Table Structure in SQL

پیاده‌سازی مدل SCD2 در dbt dbt SCD2 Model Implementation

  • استفاده از Snapshots در dbt برای شناسایی خودکار تغییرات SCD2 dbt Snapshots for Automated SCD2 Change Detection

  • ساخت مدل کامل SCD2 در dbt با دوره‌های اعتبار Building Complete dbt SCD2 Model with Validity Periods

اصول طراحی جریان کاری (Workflow) Workflow Design Principles - Foundation

  • هزینه خط لوله‌های داده شکننده The Cost of Fragile Data Pipelines

  • مبانی Apache Airflow برای جریان‌های کاری عملیاتی Apache Airflow Fundamentals for Production Workflows

  • ساخت اولین ساختار DAG آماده برای محیط عملیاتی Building Your First Production-Ready DAG Structure

پیاده‌سازی در محیط عملیاتی: کاربرد هسته و ارزیابی Production Implementation - Core Application & Assessment

  • زمانی که جریان‌های کاری عملیاتی، عملیات تجاری را نجات می‌دهند When Production Workflows Save Business Operations

  • پیاده‌سازی الگوهای پیشرفته عملیاتی در Airflow Implementing Advanced Production Patterns in Airflow

پروژه: ساخت خط لوله‌های داده خودکار با Spark، dbt و Airflow Project: Building Automated Data Pipelines with Spark, dbt, and Airflow

نمایش نظرات

آموزش ساخت خط لوله‌های داده (Data Pipelines) خودکار با Spark، dbt و Airflow
جزییات دوره
8h 32m
20
(آخرین آپدیت)
1,305
- از 5
دارد
دارد
دارد
Chris Croft
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Chris Croft Chris Croft

مربی مدیریت، سخنران، نویسنده