آموزش Master Apache Spark - Hands On!

Master Apache Spark - Hands On!

نکته: آخرین آپدیت رو دریافت میکنید حتی اگر این محتوا بروز نباشد.
نمونه ویدیوها:
توضیحات دوره: بیاموزید که چگونه داده ها را با استفاده از پلتفرم نسل بعدی داده های بزرگ - Apache Spark برش دهید و تاس کنید! استفاده از قدرتمندترین موتور پردازش جریانی و دسته ای داده های بزرگ برای حل مشکلات کلان داده ها، به API جدید Spark Java Datasets مسلط شوید تا داده های کلان را به شیوه ای کارآمد برش دهید، به کار بگیرید و اجرا کنید Spark job ها در ابر و عملکرد بنچ مارک روی سخت افزارهای مختلف. تنظیمات بهینه سازی خوشه های جرقه برای کار موثر بر روی داده های بزرگ و درک تنظیم عملکرد تبدیل داده های ساختاریافته و نیمه ساختار یافته با استفاده از Spark SQL، Dataframe ها و مجموعه های داده پیاده سازی الگوریتم های معروف یادگیری ماشین در Spark مانند رگرسیون خطی، رگرسیون لجستیک و خوشه بندی K-Means پیش نیازها :تجربه اولیه برنامه نویسی جاوا مورد نیاز است. یک دوره آموزشی خرابی در جاوا 8 لامبدا گنجانده شده است شما به یک رایانه شخصی با اتصال به اینترنت نیاز دارید. نرم افزار مورد نیاز برای این دوره کاملا رایگان است و من شما را با مراحل نصب آن بر روی کامپیوتر آشنا خواهم کرد.

آخرین به روز رسانی: نوامبر 2020


Apache Spark نسل بعدی موتور پردازش دسته ای و جریانی است. ثابت شده است که تقریباً 100 برابر سریعتر از Hadoop است و توسعه برنامه های داده های بزرگ توزیع شده با آن بسیار آسان تر است. تقاضای آن در سال های اخیر افزایش یافته است و داشتن این فناوری در رزومه شما واقعاً یک تغییر دهنده بازی است. بیش از 3000 شرکت در حال حاضر از Spark در تولید استفاده می کنند و لیست به سرعت در حال رشد است! برخی از نام های بزرگ عبارتند از: Oracle، Hortonworks، Cisco، Verizon، Visa، Microsoft، Amazon و همچنین بسیاری از بانک ها و موسسات مالی بزرگ جهان!

در این دوره شما همه چیزهایی را که باید در مورد استفاده از Apache Spark در سازمان خود بدانید، در حالی که از جدیدترین و بهترین Java Datasets API آنها استفاده می کنید، یاد خواهید گرفت. در زیر برخی از چیزهایی که یاد خواهید گرفت آمده است:

  • نحوه توسعه Spark Java Applications با استفاده از Spark SQL Dataframes

  • با نحوه عملکرد خوشه Spark Standalone در پشت صحنه آشنا شوید

  • نحوه استفاده از تبدیل‌های مختلف برای برش داده‌های خود در Spark Java

  • چگونه در حین کار با Spark Datasets، اشیاء دامنه جاوا (pojos) را مارشال/از مارشال برداریم

  • مسلط به پیوستن، فیلتر کردن، تجمیع و جذب داده‌ها در اندازه‌ها و فرمت‌های فایل مختلف (txt، csv، Json و غیره)

  • بیش از 18 میلیون نظر واقعی را در Reddit تجزیه و تحلیل کنید تا پرطرفدارترین کلمات استفاده شده را پیدا کنید

  • برنامه‌هایی را با استفاده از Spark Streaming برای پخش فایل‌های شاخص بازار سهام ایجاد کنید

  • سوکت‌ها و پیام‌های شبکه در صف یک خوشه کافکا قرار دارند

  • با نحوه توسعه محبوب ترین الگوریتم های یادگیری ماشینی با استفاده از Spark MLlib آشنا شوید

  • محبوب ترین الگوریتم ها را پوشش می دهد: رگرسیون خطی، رگرسیون لجستیک و خوشه بندی K-Means


شما بیش از 15 برنامه کاربردی Spark Java را توسعه می‌دهید که داده‌های دنیای واقعی را بررسی می‌کنند و با استفاده از چندین تکنیک تبدیل داده‌ها، آن‌ها را به روش‌های مختلف برش می‌دهند. این دوره به ویژه برای افرادی که دوست دارند به عنوان توسعه دهنده جاوا یا مهندس داده استخدام شوند بسیار مهم است زیرا Spark یک مهارت بسیار مورد توجه است. ما حتی نحوه راه‌اندازی یک خوشه زنده و پیکربندی Spark Jobs را برای اجرا در فضای ابری بررسی خواهیم کرد. شما همچنین در مورد مفاهیم عملی تنظیم عملکرد و مقیاس‌بندی یک خوشه برای کار با داده‌های بزرگ یاد خواهید گرفت، بنابراین قطعاً در این دوره آموزشی زیادی خواهید آموخت. این دوره دارای 30 روز ضمانت بازگشت وجه می باشد. شما به تمام کدهای استفاده شده در این دوره دسترسی خواهید داشت.



سرفصل ها و درس ها

معرفی Introduction

  • چرا اسپارک Why Spark

  • اجزای سطح بالا اسپارک Spark High Level Components

  • ایجاد پروژه Spark Maven Creating a Spark Maven Project

  • پشتیبانی اختصاصی TA Dedicated TA Support

  • کد منبع را به Eclipse وارد کنید Import Source Code into Eclipse

  • اولین برنامه Spark First Spark Application

  • معماری خوشه مستقل جرقه Spark Standalone Cluster Architecture

Spark Java Dataset API Basics Spark Java Dataset API Basics

  • در حال مصرف فایل‌های CSV و JSON Ingesting CSV and JSON Files

  • نحوه کاهش ورود به سیستم در کنسول How to reduce logging in the console

  • نمونه دنیای واقعی Dataframes Real World Dataframes Example

  • چارچوب های داده اتحادیه و سایر تبدیل های مجموعه Union Dataframes and Other Set Transformations

  • تبدیل بین مجموعه داده و دیتافریم Converting Between Datasets and Dataframes

غواصی عمیق تر با مجموعه داده ها، فریم های داده، تبدیل ها و DAG Diving Deeper with Datasets, Dataframes, Transformations and the DAG

  • نقشه و کاهش توابع تبدیل Map and Reduce Transformation Functions

  • استفاده از مجموعه داده با POJO های تعریف شده توسط کاربر Using Datasets with User Defined POJOs

  • استفاده از مجموعه داده با داده های متنی بدون ساختار Using Datasets with Unstructured Textual Data

  • پیوستن به Dataframe ها و استفاده از تبدیل های مختلف فیلتر Joining Dataframes and Using Various Filter Transformations

  • تحولات تجمع + تکلیف پیوستن Aggregation Transformations + Join Assignment

  • بیشتر در مورد تحولات، اقدامات و DAG More on Transformations, Actions and the DAG

اجرای Spark Jobs در ابر Running Spark Jobs on the Cloud

  • استفاده از Spark برای تجزیه و تحلیل نظرات Reddit Using Spark to Analyze Reddit Comments

  • اجرای برنامه Reddit Spark بر روی خوشه EMR Running the Reddit Spark Application on an EMR Cluster

  • دستورالعمل های پیکربندی یک کلاستر مستقل Spark Instructions for Configuring a Spark Stand-alone Cluster

برنامه های کاربردی جریان اسپارک Spark Streaming Applications

  • نمونه سوکت شبکه جریانی Streaming Network Socket Example

  • نمونه جریانی فایل های بورس Stock Market Files Streaming Example

  • استفاده از کافکا با اسپارک استریمینگ Using Kafka with Spark Streaming

یادگیری ماشین با Spark MLlib Machine Learning with Spark MLlib

  • منابع یادگیری ماشین Machine Learning Resources

  • مروری بر رگرسیون خطی Overview of Linear Regression

  • مثال رگرسیون خطی جاوا Spark Spark Java Linear Regression Example

  • مروری بر رگرسیون لجستیک Overview of Logistic Regression

  • رگرسیون لجستیک اسپارک جاوا (الگوریتم طبقه بندی) Spark Java Logistic Regression (Classification Algorithm)

  • مروری بر K-Means Clustering Overview of K-Means Clustering

  • Spark Java K-Means Clustering مثال Spark Java K-Means Clustering Example

  • به تمام دوره های فعلی و آینده من دسترسی پیدا کنید! Get Access to All of my current and future courses!

نمایش نظرات

آموزش Master Apache Spark - Hands On!
جزییات دوره
7 hours
32
Udemy (یودمی) Udemy (یودمی)
(آخرین آپدیت)
6,291
4.8 از 5
دارد
دارد
دارد
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Imtiaz Ahmad Imtiaz Ahmad

مهندس و مربی ارشد نرم افزار @ Job Ready Programmer

Job Ready Programmer Inc Job Ready Programmer Inc