آموزش 2 پروژه Azure Data Engineer Real World World End to End

2 Real World Azure Data Engineer Project End to End

نکته: آخرین آپدیت رو دریافت میکنید حتی اگر این محتوا بروز نباشد.
نمونه ویدیوها:
توضیحات دوره: پروژه مهندسی ساختمان از ابتدا شامل طراحی، معماری، پیاده سازی راه حل و آزمایش کلی. شما یاد خواهید گرفت که چگونه به معمار، طراحی و ساخت یک راه حل پلت فرم داده در سطح سازمانی در دنیای واقعی شامل چندین سرویس بپردازید. راه حل طراحی را با استفاده از ADF، تابع Azure، Databricks، pyspark، Azure Data Lake Storage Gen 2 (ADLS)، Azure SQL Server یاد خواهید گرفت. نحوه ایجاد خط لوله داده در دنیای واقعی در Azure Data Factory (ADF) را یاد خواهید گرفت. این دوره با استفاده از 2 سناریو مورد استفاده در دنیای واقعی آموزش داده شده است. شما یاد خواهید گرفت که چگونه داده ها را با استفاده از Databricks Notebook Activity در Azure Data Factory (ADF) تبدیل کنید و در Azure Data Lake Storage Gen2 بارگذاری کنید. نحوه ایجاد خطوط لوله آماده تولید و شیوه های خوب و استانداردهای نامگذاری را یاد خواهید گرفت. نحوه ادغام Databricks با ADF را یاد خواهید گرفت. و ارسال پاسخ از Databricks به ADF شما یاد خواهید گرفت که چگونه تابع Azure مبتنی بر راه اندازی را برای اعتبارسنجی فایل ها توسعه دهید. شما یاد خواهید گرفت که چگونه Azure Key vault ایجاد کنید و از آن برای ذخیره اعتبار مخفی و رمز SAS استفاده کنید. نحوه اتصال پایگاه داده Azure SQL و خوشه Databricks را با استفاده از Key Vault یاد خواهید گرفت. به فایل‌ها دسترسی داشته باشید و تبدیل پیش‌فرض روی آن را ایجاد کنید. شما یاد خواهید گرفت که چگونه داده ها را در Azure Databricks با استفاده از pyspark تبدیل کنید. پیش نیازها: درک اولیه در مورد رایانش ابری مفید خواهد بود، اما ضروری نیست. تجربه در Azure لازم نیست، من شما را از طریق تمام موارد لازم برای یادگیری این دوره و ساخت پروژه راهنمایی خواهم کرد


این دوره به شما در تهیه و تسلط بر مفاهیم مهندسی داده های Azure کمک می کند.

این شبیه هیچ پروژه تصادفی مانند کووید یا تحلیل توییتر نیست. این پروژه پروژه های دنیای واقعی است که من شخصاً روی آنها کار کردم و آن را برای مشتریان بزرگ توسعه دادم.

نکات مهم دوره:


  • طراحی شده است تا فقط اطلاعات دقیق را بدون ضربه زدن در اطراف بوش حفظ کند. (برای صرفه جویی در وقت).

  • اجرای بیدرنگ، بدون استفاده ساختگی.

  • می تواند به عنوان بخشی از رزومه شما اضافه شود.

  • این به شما کمک می کند تا تجربه خود را در مصاحبه ها و بحث به نمایش بگذارید.

  • شامل راه حل معماری پیچیده که با بهترین شیوه های صنعت همسو است.

  • پروژه‌های منفرد شامل یکپارچه‌سازی اجزای مختلف مانند ADF، ADLS، Databricks، Azure SQL DB، Key Vault است.

  • مشکل تجربه واقعی را برای مهندسان داده جدید حل می کند.


این دوره در ذهن ایجاد شده است تا بهترین شیوه های دنبال شده در صنعت را به عنوان یک پروژه و راه حل مهندسی داده حفظ کند.


فن آوری های درگیر:


  1. Azure Data Lake Storage Gen 2

  2. کارخانه داده های Azure

  3. خط لوله کارخانه داده

  4. توابع Azure

  5. خزانه کلید Azure

  6. Azure SQL DB

  7. SSMS

  8. سطل AWS S3

  9. ADF را به Databricks وصل کنید

  10. Databricks را به SQL Server وصل کنید

  11. Databricks را به ADLS متصل کنید

  12. S3 را به Azure Cloud وصل کنید

  13. محرک‌ها

  14. نشانه SAS

  15. حوزه Secrets را در Databricks ایجاد کنید

  16. مواد ترشحی را در Key Vault ذخیره کنید و به آنها دسترسی داشته باشید

آنچه پس از این دوره خواهید آموخت:


  • نحوه تفکر، طراحی و توسعه راه حل در دنیای مهندسی داده.

  • نحوه ایجاد نمودار معماری برای پروژه های مهندسی داده.

  • نحوه ایجاد حساب Azure Data Factory

  • نحوه ایجاد حساب کاربری Azure Data Lake Storage Gen 2.

  • نحوه ایجاد فضای کاری Azure Databricks.

  • نحوه ایجاد حساب ذخیره سازی S3.

  • نحوه ایجاد تابع Azure.

  • نحوه پیاده سازی منطق در نوت بوک Databricks با استفاده از pyspark.

  • نحوه اتصال ADF به Databricks.

  • نحوه زنجیر کردن چندین قطعه در پروژه.

  • نحوه ایجاد Azure SQL Server.

  • نحوه بارگیری داده ها از فایل به سرور Azure SQL.

  • نحوه اتصال نوت بوک Databricks به Azure SQL Server.

  • نحوه ذخیره اسرار در Azure Key Vault.



سرفصل ها و درس ها

پروژه 1: وسایل نقلیه هوشمند Project 1: Smart Vehicles

  • درک مورد استفاده از سیستم خودرو Understand the Vehicle System Use Case

  • درک مورد استفاده از سیستم خودرو Understand the Vehicle System Use Case

  • ایجاد نمودار معمار برای وسایل نقلیه راه حل مهندسی داده Create Architect Diagram for Vehicles Data engineering Solution

  • ایجاد نمودار معمار برای وسایل نقلیه راه حل مهندسی داده Create Architect Diagram for Vehicles Data engineering Solution

  • آزمایشگاه عملی: سطل S3 را در حساب AWS ایجاد کنید و داده ها را آپلود کنید. Practical Lab: Create S3 bucket in the AWS Account and upload data.

  • آزمایشگاه عملی: ایجاد حساب ذخیره سازی ADLS (پوشه فرود) Practical Lab: Create ADLS Storage account(Landing Folder)

  • آزمایشگاه عملی: ایجاد حساب کارخانه داده Azure برای خطوط لوله داده Practical Lab: Create Azure Data Factory Account For Data pipelines

  • آزمایشگاه عملی: Azure Key Vault را ایجاد کنید و اسرار را اضافه کنید Practical Lab: Create Azure Key Vault and Add the secrets

  • آزمایشگاه عملی: خط لوله پایان به انتهای خط لوله را با فعال کردن تریگرها ایجاد کنید Practical Lab: Create Pipeline End to end pipeline with triggers enabled

  • آزمایشگاه عملی: عملکرد Azure را با منطق ماشه حباب ایجاد کنید Practical Lab: Create Azure Function with blob trigger logic

  • عملکرد Azure: فرمت JSON را به روز کنید Azure Function: Update the JSON Format

  • عملکرد Azure: فرمت JSON را به روز کنید Azure Function: Update the JSON Format

  • سرور و پایگاه داده Azure SQL ایجاد کنید Create Azure SQL Server and Database

  • آزمایشگاه عملی: خط لوله دیگری را برای انتقال داده ها از Staging به SQL DB اضافه کنید Practical Lab: Add another pipelines for moving data from Staging to SQL DB

  • پایان به پایان تست End to End Testing

پروژه 1: وسایل نقلیه هوشمند Project 1: Smart Vehicles

  • آزمایشگاه عملی: سطل S3 را در حساب AWS ایجاد کنید و داده ها را آپلود کنید. Practical Lab: Create S3 bucket in the AWS Account and upload data.

  • آزمایشگاه عملی: ایجاد حساب ذخیره سازی ADLS (پوشه فرود) Practical Lab: Create ADLS Storage account(Landing Folder)

  • آزمایشگاه عملی: ایجاد حساب کارخانه داده Azure برای خطوط لوله داده Practical Lab: Create Azure Data Factory Account For Data pipelines

  • آزمایشگاه عملی: Azure Key Vault را ایجاد کنید و اسرار را اضافه کنید Practical Lab: Create Azure Key Vault and Add the secrets

  • آزمایشگاه عملی: خط لوله پایان به انتهای خط لوله را با فعال کردن تریگرها ایجاد کنید Practical Lab: Create Pipeline End to end pipeline with triggers enabled

  • آزمایشگاه عملی: عملکرد Azure را با منطق ماشه حباب ایجاد کنید Practical Lab: Create Azure Function with blob trigger logic

  • سرور و پایگاه داده Azure SQL ایجاد کنید Create Azure SQL Server and Database

  • آزمایشگاه عملی: خط لوله دیگری را برای انتقال داده ها از Staging به SQL DB اضافه کنید Practical Lab: Add another pipelines for moving data from Staging to SQL DB

  • پایان به پایان تست End to End Testing

پروژه 2: پلتفرم داده AP Morgan Project 2: AP Morgan Data Platform

  • پروژه 2: AP Morgan Data Platform معرفی Project 2: AP Morgan Data Platform Introduction

  • پروژه 2: AP Morgan Data Platform معرفی Project 2: AP Morgan Data Platform Introduction

  • پروژه 2: نمودار معماری Project 2: Architecture Diagram

  • پروژه 2: نمودار معماری Project 2: Architecture Diagram

  • آزمایشگاه عملی: حساب Azure Data Lake Storage ایجاد کنید و فایل‌های ورودی را رها کنید Practical Lab: Create Azure Data Lake Storage account and Drop input files

  • آزمایشگاه عملی: حساب Azure Data Lake Storage ایجاد کنید و فایل‌های ورودی را رها کنید Practical Lab: Create Azure Data Lake Storage account and Drop input files

  • آزمایشگاه عملی: ایجاد فضای کاری حساب Azure Databricks Practical Lab: Create Azure Databricks Account Workspace

  • آزمایشگاه عملی: Azure SQL Server Practical Lab: Azure SQL Server

  • آزمایشگاه عملی: Azure SQL Server Practical Lab: Azure SQL Server

  • آزمایشگاه عملی: SQL DB را با SSMS متصل کنید و جدول MetaData/Schema ایجاد کنید Practical Lab: Connect SQL DB with SSMS and Create MetaData / Schema table

  • آزمایشگاه عملی: Azure Key Vault برای حفظ رمز عبور سرور SQL و آزمایشگاه توکن SAS Practical Lab: Azure Key Vault to keep SQL server password and SAS token Lab

  • آزمایشگاه عملی: Azure Key Vault برای حفظ رمز عبور سرور SQL و آزمایشگاه توکن SAS Practical Lab: Azure Key Vault to keep SQL server password and SAS token Lab

  • آزمایشگاه عملی: یک محدوده اسرار در Databricks ایجاد کنید Practical Lab: Create a secrets scope in Databricks

  • آزمایشگاه عملی: ایجاد Cluster در Azure Databricks Practical Lab: Create Cluster in Azure Databricks

  • آزمایشگاه عملی: ایجاد Cluster در Azure Databricks Practical Lab: Create Cluster in Azure Databricks

  • آزمایشگاه عملی: اضافه کردن دفترچه یادداشت در Databricks و پیاده سازی منطق تجاری Practical Lab: Add notebook in Databricks and Implement the Business Logic

  • آزمایشگاه عملی: اضافه کردن دفترچه یادداشت در Databricks و پیاده سازی منطق تجاری Practical Lab: Add notebook in Databricks and Implement the Business Logic

  • آزمایشگاه عملی: کارخانه داده Azure برای AP Morgan Practical Lab: Azure Data Factory For AP Morgan

  • آزمایشگاه عملی: سرویس پیوند داده‌آبریک Azure را در ADF ایجاد کنید Practical Lab: Create Azure Databricks Linked Service in ADF

  • آزمایشگاه عملی: خط لوله ADF را برای فراخوانی Notebook ایجاد کنید و جریان End to End را آزمایش کنید Practical Lab: Create ADF Pipeline to call Notebook and Test End to End Flow

پروژه 2: پلتفرم داده AP Morgan Project 2: AP Morgan Data Platform

  • آزمایشگاه عملی: ایجاد فضای کاری حساب Azure Databricks Practical Lab: Create Azure Databricks Account Workspace

  • آزمایشگاه عملی: SQL DB را با SSMS متصل کنید و جدول MetaData/Schema ایجاد کنید Practical Lab: Connect SQL DB with SSMS and Create MetaData / Schema table

  • آزمایشگاه عملی: یک محدوده اسرار در Databricks ایجاد کنید Practical Lab: Create a secrets scope in Databricks

  • آزمایشگاه عملی: کارخانه داده Azure برای AP Morgan Practical Lab: Azure Data Factory For AP Morgan

  • آزمایشگاه عملی: سرویس پیوند داده‌آبریک Azure را در ADF ایجاد کنید Practical Lab: Create Azure Databricks Linked Service in ADF

  • آزمایشگاه عملی: خط لوله ADF را برای فراخوانی Notebook ایجاد کنید و جریان End to End را آزمایش کنید Practical Lab: Create ADF Pipeline to call Notebook and Test End to End Flow

قدم زدن سریع در کارخانه داده Azure Azure Data Factory Quick Walk through

  • Azure Data Factory معرفی Azure Data Factory Introduction

  • آزمایشگاه: اولین خط لوله ADF خود را ایجاد کنید Lab: Create Your First ADF Pipeline

  • آزمایشگاه: اولین خط لوله ADF خود را ایجاد کنید Lab: Create Your First ADF Pipeline

  • آزمایشگاه: مجموعه داده پارامتری شده در ADF Lab: Parameterized Dataset in ADF

  • آزمایشگاه: مجموعه داده پارامتری شده در ADF Lab: Parameterized Dataset in ADF

قدم زدن سریع در کارخانه داده Azure Azure Data Factory Quick Walk through

  • Azure Data Factory معرفی Azure Data Factory Introduction

Intergration Runtime و Triggers Azure Data Factory Intergration Runtime and Triggers Azure Data Factory

  • یکپارچه سازی زمان اجرا Integration Runtime

  • یکپارچه سازی زمان اجرا Integration Runtime

  • آزمایشگاه: ماشه زمانبندی در ADF Lab: Schedule Trigger in ADF

  • آزمایشگاه: ماشه زمانبندی در ADF Lab: Schedule Trigger in ADF

  • آزمایشگاه: ماشه پنجره غلتشی در ADF Lab: Tumbling Window Trigger in ADF

  • Lab: Storage Event Trigger در ADF Lab: Storage Event type Trigger in ADF

Intergration Runtime و Triggers Azure Data Factory Intergration Runtime and Triggers Azure Data Factory

  • آزمایشگاه: ماشه پنجره غلتشی در ADF Lab: Tumbling Window Trigger in ADF

  • Lab: Storage Event Trigger در ADF Lab: Storage Event type Trigger in ADF

جریان داده در ADF Data Flow in ADF

  • جریان داده را در Azure Data Factory بیاموزید Learn Data Flow in Azure Data Factory

  • جریان داده را در Azure Data Factory بیاموزید Learn Data Flow in Azure Data Factory

جریان داده در ADF Data Flow in ADF

نمایش نظرات

آموزش 2 پروژه Azure Data Engineer Real World World End to End
جزییات دوره
7 hours
33
Udemy (یودمی) Udemy (یودمی)
(آخرین آپدیت)
4,139
4.2 از 5
دارد
دارد
دارد
Deepak Goyal
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Deepak Goyal Deepak Goyal

Azure Cloud Solution Architect

Deepak Goyal یک معمار راه حل ابری Azure است.

Deepak بیش از سیزده سال تجربه فناوری اطلاعات و بیش از ده سال تجربه در زمینه های بزرگ دارد. دنیای داده دیپک به شرکت‌ها کمک می‌کند تا کسب‌وکار خود را با معماری مبتنی بر داده و پلت‌فرم‌های داده‌ای که از ابر مدیریت می‌شوند، توسعه دهند. دیپک عاشق نوشتن در مورد فناوری‌های Azure مانند Data Factory، DataBricks و Snowflake Data Ware است. می‌توانید در وبلاگ فنی با رتبه‌ی بالای او، جایی که او توصیه‌ها و بینش‌هایی را برای کمک به پیشرفت دیگران در این زمینه ارائه می‌دهد، و همچنین در YouTube و LinkedIn، جایی که او ویدیوهای آموزشی در Hadoop، pySpark، Azure و موارد دیگر تولید می‌کند، بیابید.