لطفا جهت اطلاع از آخرین دوره ها و اخبار سایت در
کانال تلگرام
عضو شوید.
آموزش 2 پروژه Azure Data Engineer Real World World End to End
2 Real World Azure Data Engineer Project End to End
نکته:
آخرین آپدیت رو دریافت میکنید حتی اگر این محتوا بروز نباشد.
نمونه ویدیوها:
توضیحات دوره:
پروژه مهندسی ساختمان از ابتدا شامل طراحی، معماری، پیاده سازی راه حل و آزمایش کلی. شما یاد خواهید گرفت که چگونه به معمار، طراحی و ساخت یک راه حل پلت فرم داده در سطح سازمانی در دنیای واقعی شامل چندین سرویس بپردازید. راه حل طراحی را با استفاده از ADF، تابع Azure، Databricks، pyspark، Azure Data Lake Storage Gen 2 (ADLS)، Azure SQL Server یاد خواهید گرفت. نحوه ایجاد خط لوله داده در دنیای واقعی در Azure Data Factory (ADF) را یاد خواهید گرفت. این دوره با استفاده از 2 سناریو مورد استفاده در دنیای واقعی آموزش داده شده است. شما یاد خواهید گرفت که چگونه داده ها را با استفاده از Databricks Notebook Activity در Azure Data Factory (ADF) تبدیل کنید و در Azure Data Lake Storage Gen2 بارگذاری کنید. نحوه ایجاد خطوط لوله آماده تولید و شیوه های خوب و استانداردهای نامگذاری را یاد خواهید گرفت. نحوه ادغام Databricks با ADF را یاد خواهید گرفت. و ارسال پاسخ از Databricks به ADF شما یاد خواهید گرفت که چگونه تابع Azure مبتنی بر راه اندازی را برای اعتبارسنجی فایل ها توسعه دهید. شما یاد خواهید گرفت که چگونه Azure Key vault ایجاد کنید و از آن برای ذخیره اعتبار مخفی و رمز SAS استفاده کنید. نحوه اتصال پایگاه داده Azure SQL و خوشه Databricks را با استفاده از Key Vault یاد خواهید گرفت. به فایلها دسترسی داشته باشید و تبدیل پیشفرض روی آن را ایجاد کنید. شما یاد خواهید گرفت که چگونه داده ها را در Azure Databricks با استفاده از pyspark تبدیل کنید. پیش نیازها: درک اولیه در مورد رایانش ابری مفید خواهد بود، اما ضروری نیست. تجربه در Azure لازم نیست، من شما را از طریق تمام موارد لازم برای یادگیری این دوره و ساخت پروژه راهنمایی خواهم کرد
این دوره به شما در تهیه و تسلط بر مفاهیم مهندسی داده های Azure کمک می کند.
این شبیه هیچ پروژه تصادفی مانند کووید یا تحلیل توییتر نیست. این پروژه پروژه های دنیای واقعی است که من شخصاً روی آنها کار کردم و آن را برای مشتریان بزرگ توسعه دادم.
نکات مهم دوره:
طراحی شده است تا فقط اطلاعات دقیق را بدون ضربه زدن در اطراف بوش حفظ کند. (برای صرفه جویی در وقت).
اجرای بیدرنگ، بدون استفاده ساختگی.
می تواند به عنوان بخشی از رزومه شما اضافه شود.
این به شما کمک می کند تا تجربه خود را در مصاحبه ها و بحث به نمایش بگذارید.
شامل راه حل معماری پیچیده که با بهترین شیوه های صنعت همسو است.
پروژههای منفرد شامل یکپارچهسازی اجزای مختلف مانند ADF، ADLS، Databricks، Azure SQL DB، Key Vault است.
مشکل تجربه واقعی را برای مهندسان داده جدید حل می کند.
این دوره در ذهن ایجاد شده است تا بهترین شیوه های دنبال شده در صنعت را به عنوان یک پروژه و راه حل مهندسی داده حفظ کند.
فن آوری های درگیر:
Azure Data Lake Storage Gen 2
کارخانه داده های Azure
خط لوله کارخانه داده
توابع Azure
خزانه کلید Azure
Azure SQL DB
SSMS
سطل AWS S3
ADF را به Databricks وصل کنید
Databricks را به SQL Server وصل کنید
Databricks را به ADLS متصل کنید
S3 را به Azure Cloud وصل کنید
محرکها
نشانه SAS
حوزه Secrets را در Databricks ایجاد کنید
مواد ترشحی را در Key Vault ذخیره کنید و به آنها دسترسی داشته باشید
آنچه پس از این دوره خواهید آموخت:
نحوه تفکر، طراحی و توسعه راه حل در دنیای مهندسی داده.
نحوه ایجاد نمودار معماری برای پروژه های مهندسی داده.
نحوه ایجاد حساب Azure Data Factory
نحوه ایجاد حساب کاربری Azure Data Lake Storage Gen 2.
نحوه ایجاد فضای کاری Azure Databricks.
نحوه ایجاد حساب ذخیره سازی S3.
نحوه ایجاد تابع Azure.
نحوه پیاده سازی منطق در نوت بوک Databricks با استفاده از pyspark.
نحوه اتصال ADF به Databricks.
نحوه زنجیر کردن چندین قطعه در پروژه.
نحوه ایجاد Azure SQL Server.
نحوه بارگیری داده ها از فایل به سرور Azure SQL.
نحوه اتصال نوت بوک Databricks به Azure SQL Server.
درک مورد استفاده از سیستم خودرو
Understand the Vehicle System Use Case
درک مورد استفاده از سیستم خودرو
Understand the Vehicle System Use Case
ایجاد نمودار معمار برای وسایل نقلیه راه حل مهندسی داده
Create Architect Diagram for Vehicles Data engineering Solution
ایجاد نمودار معمار برای وسایل نقلیه راه حل مهندسی داده
Create Architect Diagram for Vehicles Data engineering Solution
آزمایشگاه عملی: سطل S3 را در حساب AWS ایجاد کنید و داده ها را آپلود کنید.
Practical Lab: Create S3 bucket in the AWS Account and upload data.
آزمایشگاه عملی: ایجاد حساب ذخیره سازی ADLS (پوشه فرود)
Practical Lab: Create ADLS Storage account(Landing Folder)
آزمایشگاه عملی: ایجاد حساب کارخانه داده Azure برای خطوط لوله داده
Practical Lab: Create Azure Data Factory Account For Data pipelines
آزمایشگاه عملی: Azure Key Vault را ایجاد کنید و اسرار را اضافه کنید
Practical Lab: Create Azure Key Vault and Add the secrets
آزمایشگاه عملی: خط لوله پایان به انتهای خط لوله را با فعال کردن تریگرها ایجاد کنید
Practical Lab: Create Pipeline End to end pipeline with triggers enabled
آزمایشگاه عملی: عملکرد Azure را با منطق ماشه حباب ایجاد کنید
Practical Lab: Create Azure Function with blob trigger logic
عملکرد Azure: فرمت JSON را به روز کنید
Azure Function: Update the JSON Format
عملکرد Azure: فرمت JSON را به روز کنید
Azure Function: Update the JSON Format
سرور و پایگاه داده Azure SQL ایجاد کنید
Create Azure SQL Server and Database
آزمایشگاه عملی: خط لوله دیگری را برای انتقال داده ها از Staging به SQL DB اضافه کنید
Practical Lab: Add another pipelines for moving data from Staging to SQL DB
آزمایشگاه عملی: سطل S3 را در حساب AWS ایجاد کنید و داده ها را آپلود کنید.
Practical Lab: Create S3 bucket in the AWS Account and upload data.
آزمایشگاه عملی: ایجاد حساب ذخیره سازی ADLS (پوشه فرود)
Practical Lab: Create ADLS Storage account(Landing Folder)
آزمایشگاه عملی: ایجاد حساب کارخانه داده Azure برای خطوط لوله داده
Practical Lab: Create Azure Data Factory Account For Data pipelines
آزمایشگاه عملی: Azure Key Vault را ایجاد کنید و اسرار را اضافه کنید
Practical Lab: Create Azure Key Vault and Add the secrets
آزمایشگاه عملی: خط لوله پایان به انتهای خط لوله را با فعال کردن تریگرها ایجاد کنید
Practical Lab: Create Pipeline End to end pipeline with triggers enabled
آزمایشگاه عملی: عملکرد Azure را با منطق ماشه حباب ایجاد کنید
Practical Lab: Create Azure Function with blob trigger logic
سرور و پایگاه داده Azure SQL ایجاد کنید
Create Azure SQL Server and Database
آزمایشگاه عملی: خط لوله دیگری را برای انتقال داده ها از Staging به SQL DB اضافه کنید
Practical Lab: Add another pipelines for moving data from Staging to SQL DB
پایان به پایان تست
End to End Testing
پروژه 2: پلتفرم داده AP Morgan
Project 2: AP Morgan Data Platform
پروژه 2: AP Morgan Data Platform معرفی
Project 2: AP Morgan Data Platform Introduction
پروژه 2: AP Morgan Data Platform معرفی
Project 2: AP Morgan Data Platform Introduction
آزمایشگاه عملی: حساب Azure Data Lake Storage ایجاد کنید و فایلهای ورودی را رها کنید
Practical Lab: Create Azure Data Lake Storage account and Drop input files
آزمایشگاه عملی: حساب Azure Data Lake Storage ایجاد کنید و فایلهای ورودی را رها کنید
Practical Lab: Create Azure Data Lake Storage account and Drop input files
آزمایشگاه عملی: ایجاد فضای کاری حساب Azure Databricks
Practical Lab: Create Azure Databricks Account Workspace
آزمایشگاه عملی: Azure SQL Server
Practical Lab: Azure SQL Server
آزمایشگاه عملی: Azure SQL Server
Practical Lab: Azure SQL Server
آزمایشگاه عملی: SQL DB را با SSMS متصل کنید و جدول MetaData/Schema ایجاد کنید
Practical Lab: Connect SQL DB with SSMS and Create MetaData / Schema table
آزمایشگاه عملی: Azure Key Vault برای حفظ رمز عبور سرور SQL و آزمایشگاه توکن SAS
Practical Lab: Azure Key Vault to keep SQL server password and SAS token Lab
آزمایشگاه عملی: Azure Key Vault برای حفظ رمز عبور سرور SQL و آزمایشگاه توکن SAS
Practical Lab: Azure Key Vault to keep SQL server password and SAS token Lab
آزمایشگاه عملی: یک محدوده اسرار در Databricks ایجاد کنید
Practical Lab: Create a secrets scope in Databricks
آزمایشگاه عملی: ایجاد Cluster در Azure Databricks
Practical Lab: Create Cluster in Azure Databricks
آزمایشگاه عملی: ایجاد Cluster در Azure Databricks
Practical Lab: Create Cluster in Azure Databricks
آزمایشگاه عملی: اضافه کردن دفترچه یادداشت در Databricks و پیاده سازی منطق تجاری
Practical Lab: Add notebook in Databricks and Implement the Business Logic
آزمایشگاه عملی: اضافه کردن دفترچه یادداشت در Databricks و پیاده سازی منطق تجاری
Practical Lab: Add notebook in Databricks and Implement the Business Logic
آزمایشگاه عملی: کارخانه داده Azure برای AP Morgan
Practical Lab: Azure Data Factory For AP Morgan
آزمایشگاه عملی: سرویس پیوند دادهآبریک Azure را در ADF ایجاد کنید
Practical Lab: Create Azure Databricks Linked Service in ADF
آزمایشگاه عملی: خط لوله ADF را برای فراخوانی Notebook ایجاد کنید و جریان End to End را آزمایش کنید
Practical Lab: Create ADF Pipeline to call Notebook and Test End to End Flow
پروژه 2: پلتفرم داده AP Morgan
Project 2: AP Morgan Data Platform
آزمایشگاه عملی: ایجاد فضای کاری حساب Azure Databricks
Practical Lab: Create Azure Databricks Account Workspace
آزمایشگاه عملی: SQL DB را با SSMS متصل کنید و جدول MetaData/Schema ایجاد کنید
Practical Lab: Connect SQL DB with SSMS and Create MetaData / Schema table
آزمایشگاه عملی: یک محدوده اسرار در Databricks ایجاد کنید
Practical Lab: Create a secrets scope in Databricks
آزمایشگاه عملی: کارخانه داده Azure برای AP Morgan
Practical Lab: Azure Data Factory For AP Morgan
آزمایشگاه عملی: سرویس پیوند دادهآبریک Azure را در ADF ایجاد کنید
Practical Lab: Create Azure Databricks Linked Service in ADF
آزمایشگاه عملی: خط لوله ADF را برای فراخوانی Notebook ایجاد کنید و جریان End to End را آزمایش کنید
Practical Lab: Create ADF Pipeline to call Notebook and Test End to End Flow
قدم زدن سریع در کارخانه داده Azure
Azure Data Factory Quick Walk through
Azure Data Factory معرفی
Azure Data Factory Introduction
آزمایشگاه: اولین خط لوله ADF خود را ایجاد کنید
Lab: Create Your First ADF Pipeline
آزمایشگاه: اولین خط لوله ADF خود را ایجاد کنید
Lab: Create Your First ADF Pipeline
آزمایشگاه: مجموعه داده پارامتری شده در ADF
Lab: Parameterized Dataset in ADF
آزمایشگاه: مجموعه داده پارامتری شده در ADF
Lab: Parameterized Dataset in ADF
قدم زدن سریع در کارخانه داده Azure
Azure Data Factory Quick Walk through
Azure Data Factory معرفی
Azure Data Factory Introduction
Intergration Runtime و Triggers Azure Data Factory
Intergration Runtime and Triggers Azure Data Factory
یکپارچه سازی زمان اجرا
Integration Runtime
یکپارچه سازی زمان اجرا
Integration Runtime
آزمایشگاه: ماشه زمانبندی در ADF
Lab: Schedule Trigger in ADF
آزمایشگاه: ماشه زمانبندی در ADF
Lab: Schedule Trigger in ADF
آزمایشگاه: ماشه پنجره غلتشی در ADF
Lab: Tumbling Window Trigger in ADF
Lab: Storage Event Trigger در ADF
Lab: Storage Event type Trigger in ADF
Intergration Runtime و Triggers Azure Data Factory
Intergration Runtime and Triggers Azure Data Factory
آزمایشگاه: ماشه پنجره غلتشی در ADF
Lab: Tumbling Window Trigger in ADF
Lab: Storage Event Trigger در ADF
Lab: Storage Event type Trigger in ADF
جریان داده در ADF
Data Flow in ADF
جریان داده را در Azure Data Factory بیاموزید
Learn Data Flow in Azure Data Factory
جریان داده را در Azure Data Factory بیاموزید
Learn Data Flow in Azure Data Factory
Deepak بیش از سیزده سال تجربه فناوری اطلاعات و بیش از ده سال تجربه در زمینه های بزرگ دارد. دنیای داده دیپک به شرکتها کمک میکند تا کسبوکار خود را با معماری مبتنی بر داده و پلتفرمهای دادهای که از ابر مدیریت میشوند، توسعه دهند. دیپک عاشق نوشتن در مورد فناوریهای Azure مانند Data Factory، DataBricks و Snowflake Data Ware است. میتوانید در وبلاگ فنی با رتبهی بالای او، جایی که او توصیهها و بینشهایی را برای کمک به پیشرفت دیگران در این زمینه ارائه میدهد، و همچنین در YouTube و LinkedIn، جایی که او ویدیوهای آموزشی در Hadoop، pySpark، Azure و موارد دیگر تولید میکند، بیابید.
نمایش نظرات