آموزش دلتا لیک و معماری مدالین برای هوش مصنوعی و یادگیری ماشین - آخرین آپدیت

دانلود Delta Lake and Medallion Architecture for AI and ML

نکته: ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره: این دوره مهارت‌های مهندسی داده شما را با تمرکز بر Delta Lake و معماری Medallion برای ساخت پلتفرم‌های داده‌ای قابل اعتماد، مقیاس‌پذیر و آماده برای تحلیل گسترش می‌دهد. شما خواهید آموخت که چگونه خط‌لوله‌های (Pipelines) مدرن، کیفیت داده‌ها را حفظ کرده، از کنترل نسخه پشتیبانی می‌کنند و مجموعه‌داده‌های قابل اعتمادی را برای بارهای کاری AI/ML آماده می‌سازند. شما با مبانی Delta Lake، از جمله تراکنش‌های ACID، اجبار طرح‌واره (Schema Enforcement)، تکامل طرح‌واره (Schema Evolution)، لاگ‌های تراکنش و قابلیت سفر در زمان (Time Travel) شروع خواهید کرد. از طریق نمایش‌های عملی، جداول دلتا را ایجاد کرده، به‌روزرسانی‌ها و حذف‌ها را مدیریت می‌کنید، عملیات MERGE را اعمال کرده و در صورت نیاز، نسخه‌های قبلی داده‌ها را بازیابی خواهید کرد. سپس تکنیک‌های تبدیل PySpark را برای پاک‌سازی، تغییر شکل، پیوند (Join) و اعتبارسنجی مجموعه‌داده‌ها به کار می‌گیرید. همچنین روش‌های متمرکز بر عملکرد مانند OPTIMIZE، VACUUM و Z-Ordering را برای بهینه کردن جداول دلتا در پردازش‌های مقیاس بزرگ بررسی خواهید کرد. در ادامه، خط‌لوله‌های معماری مدالین را با استفاده از لایه‌های برنزی (Bronze)، نقره‌ای (Silver) و طلایی (Gold) طراحی خواهید کرد. این روش به تبدیل داده‌های خام به مجموعه‌داده‌های پاک، اعتبارسنجی شده و آماده برای کسب‌وکار جهت گزارش‌دهی، تحلیل و یادگیری ماشین کمک می‌کند. این دوره همچنین مفاهیمی چون Structured Streaming، فید تغییرات داده (Change Data Feed) و محدودیت‌های دلتا (Delta Constraints) را برای بهبود قابلیت اطمینان خط‌لوله معرفی می‌کند. در پایان این دوره، شما قادر خواهید بود: - از Delta Lake برای مدیریت داده‌های قابل اعتماد و نسخه‌بندی شده استفاده کنید. - مجموعه‌داده‌ها را با استفاده از PySpark تبدیل و اعتبارسنجی کنید. - جداول دلتا را برای عملکرد بهتر و بهره‌وری در ذخیره‌سازی بهینه کنید. - لایه‌های داده برنزی، نقره‌ای و طلایی را بسازید. - خط‌لوله‌های دسته‌ای (Batch) و جریانی (Streaming) قابل اطمینان برای موارد استفاده AI/ML توسعه دهید. این دوره که برای مهندسان داده، مهندسان تحلیل، توسعه‌دهندگان نرم‌افزار و متخصصان AI/ML طراحی شده است، شما را برای ساخت خط‌لوله‌های داده مدرن، قابل اعتماد، مقیاس‌پذیر و آماده برای محیط عملیاتی آماده می‌کند.

سرفصل ها و درس ها

مبانی دلتا لیک (Delta Lake) Delta Lake Fundamentals

  • معرفی تخصص Specialization Introduction

  • معرفی دوره Course Introduction

  • آشنایی با Delta Lake در Databricks Introduction to Delta Lake on Databricks

  • تراکنش‌های ACID در Delta Lake ACID Transactions in Delta Lake

  • ایجاد و بررسی جداول دلتا Creating and Exploring Delta Tables

  • ردیابی تغییرات با لاگ تراکنش دلتا Tracking Changes with the Delta Transaction Log

  • اجبار و تکامل طرح‌واره در Delta Lake Schema Enforcement and Schema Evolution in Delta Lake

  • انجام عملیات CRUD روی جداول دلتا Performing CRUD Operations on Delta Tables

  • مدیریت درج و به‌روزرسانی با MERGE INTO Managing Inserts and Updates with MERGE INTO

  • سفر در زمان و دسترسی به داده‌های نسخه‌بندی شده Time Travel and Versioned Data Access

  • استفاده از قابلیت Time Travel برای بازیابی داده‌ها Using Delta Lake Time Travel for Data Recovery

تبدیل داده‌ها با PySpark Data Transformation with Pyspark

  • تبدیلات PySpark برای مهندسی داده PySpark Transformations for Data Engineering

  • فیلتر کردن، انتخاب و تغییر نام ستون‌ها Filtering, Selecting, and Renaming Columns

  • عملیات تجمیع (Aggregation) و GroupBy Aggregations and GroupBy Operations

  • پیوند مجموعه‌داده‌ها و مدیریت داده‌های تکراری Joining Datasets and Handling Duplicates

  • مدیریت مقادیر Null و اعمال بررسی‌های کیفیت داده Handling Nulls and Applying Data Quality Checks

  • تبدیل داده‌های متنی برای کاربردهای هوش مصنوعی Transforming Text Data for AI Applications

  • بهینه‌سازی جداول دلتا: OPTIMIZE، VACUUM و Z Order Delta Table Optimization: OPTIMIZE, VACUUM, and Z-Order

  • بهینه‌سازی جداول دلتا برای عملکرد کوئری‌ها Optimizing Delta Tables for Query Performance

معماری مدالین برای هوش مصنوعی و یادگیری ماشین Medallion Architecture for AI/ML

  • معماری مدالین: پایه و اساس مهندسی داده مدرن Medallion Architecture: The Foundation of Modern Data Engineering

  • سه لایه معماری مدالین The Three Layers of the Medallion Architecture

  • راه‌اندازی فضای کاری مدالین Setting Up the Medallion Workspace

  • وارد کردن داده‌های خام به لایه برنزی (Bronze) Ingesting Raw Data into the Bronze Layer

  • ساخت لایه نقره‌ای (Silver): پاک‌سازی و اعتبارسنجی داده‌ها Building the Silver Layer: Cleaning and Validating Data

  • ساخت لایه طلایی (Gold): داده‌های تجمیع شده و آماده برای کسب‌وکار Building the Gold Layer: Aggregated and Business-Ready Data

استریمینگ و قابلیت اطمینان خط‌لوله Streaming and Pipeline reliability

  • معرفی Structured Streaming با Delta Lake Introduction to Structured Streaming with Delta Lake

  • فید تغییرات داده (Change Data Feed) برای پردازش افزایشی Delta Change Data Feed for Incremental Processing

  • اعمال کیفیت داده با محدودیت‌های دلتا (Delta Constraints) Enforcing Data Quality with Delta Constraints

  • جمع‌بندی دوره Course Summary

نمایش نظرات

آموزش دلتا لیک و معماری مدالین برای هوش مصنوعی و یادگیری ماشین
جزییات دوره
6h 36m
29
(آخرین آپدیت)
51
- از 5
دارد
دارد
دارد
Chris Croft
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Chris Croft Chris Croft

مربی مدیریت، سخنران، نویسنده