آموزش Apache Spark 3 - پردازش جریان در زمان واقعی با استفاده از پایتون

Apache Spark 3 - Real-time Stream Processing using Python

نکته: آخرین آپدیت رو دریافت میکنید حتی اگر این محتوا بروز نباشد.
توضیحات دوره: آموزش ایجاد برنامه‌های پردازش جریان بی‌درنگ با استفاده از Apache Spark مفاهیم پردازش جریان بی‌درنگ Spark Streaming Structured API و معماری کار با فایل‌های جریان کار با منبع کافکا و ادغام Spark با Kafka تبدیل‌های جریان بدون حالت و حالت کامل با استفاده از Windowing Aggreg Stream Watermarking و State Cleanup Streaming Joins and Aggregation Handling Memory Joins with Streaming Joins ایجاد سینک های جریان دلخواه پیش نیازها: Spark Fundamentals و قرار گرفتن در معرض Spark Dataframe APIs Kafka Fundamentals و دانش کاری Apache Kafka Reforming Programming Programming Apache Kafka 4 Apache Kafka Ubit Programming Programming Knowleon/دستگاه مک/لینوکس با 8 گیگابایت رم

درباره دوره

من در حال ایجاد Apache Spark 3 - Real-time Stream Processing با استفاده از دوره Python هستم تا به شما کمک کنم پردازش جریان بلادرنگ را با استفاده از Apache Spark درک کنید و این دانش را برای ایجاد راه حل های پردازش جریانی بلادرنگ به کار ببرید. این دوره نمونه محور است و از یک جلسه کاری مانند رویکرد پیروی می کند. ما یک رویکرد برنامه نویسی زنده را در پیش خواهیم گرفت و تمام مفاهیم مورد نیاز را در طول مسیر توضیح خواهیم داد.

چه کسی باید این دوره را بگذراند؟

من این دوره را برای مهندسین نرم افزاری طراحی کردم که مایل به توسعه خط لوله و برنامه پردازش جریان بیدرنگ با استفاده از اسپارک آپاچی هستند. من همچنین در حال ایجاد این دوره برای معماران داده و مهندسان داده هستم که مسئول طراحی و ساخت زیرساخت های داده محور سازمان هستند. گروه دیگری از افراد، مدیران و معمارانی هستند که مستقیماً با اجرای اسپارک کار نمی کنند. با این حال، آنها با افرادی کار می کنند که Apache Spark را در سطح زمین پیاده سازی می کنند.

نسخه Spark مورد استفاده در دوره

این دوره از Apache Spark 3.x استفاده می کند. من تمام کد منبع و نمونه های استفاده شده در این دوره آموزشی را در توزیع منبع باز Apache Spark 3.0.0 آزمایش کرده ام.


سرفصل ها و درس ها

قبل از اینکه تو شروع کنی Before you start

  • درباره دوره About the Course

  • درباره دوره About the Course

  • پیش نیاز دوره Course Prerequisite

  • پیش نیاز دوره Course Prerequisite

  • کد منبع و سایر منابع Source Code and Other Resources

قبل از اینکه تو شروع کنی Before you start

  • کد منبع و سایر منابع Source Code and Other Resources

محیط خود را تنظیم کنید Setup your Environment

  • محیط توسعه جرقه Spark Development Environment

  • کاربر ویندوز - پیش نیازهای نصب Spark Windows User - Spark Installation Prerequisites

  • کاربر ویندوز - پیش نیازهای نصب Spark Windows User - Spark Installation Prerequisites

  • کاربر ویندوز - نصب Apache Spark Windows User - Installing Apache Spark

  • کاربر ویندوز - IDE خود را راه اندازی و آزمایش کنید Windows User - Setup and test your IDE

  • کاربر ویندوز - IDE خود را راه اندازی و آزمایش کنید Windows User - Setup and test your IDE

  • کاربر مک - نصب Apache Spark Mac User - Installing Apache Spark

  • کاربر مک - IDE خود را راه اندازی و آزمایش کنید Mac User - Setup and test your IDE

  • آپاچی کافکا را نصب و اجرا کنید Install and run Apache Kafka

  • آپاچی کافکا را نصب و اجرا کنید Install and run Apache Kafka

محیط خود را تنظیم کنید Setup your Environment

  • محیط توسعه جرقه Spark Development Environment

  • کاربر ویندوز - نصب Apache Spark Windows User - Installing Apache Spark

  • کاربر مک - نصب Apache Spark Mac User - Installing Apache Spark

  • کاربر مک - IDE خود را راه اندازی و آزمایش کنید Mac User - Setup and test your IDE

شروع کار با Spark Structured Streaming Getting started with Spark Structured Streaming

  • مقدمه ای بر پردازش جریانی Introduction to Stream Processing

  • مقدمه ای بر پردازش جریانی Introduction to Stream Processing

  • Spark Streaming API - DStream vs Structured Streaming Spark Streaming APIs - DStream Vs Structured Streaming

  • Spark Streaming API - DStream vs Structured Streaming Spark Streaming APIs - DStream Vs Structured Streaming

  • ایجاد اولین برنامه پردازش جریان شما Creating your first stream processing application

  • مدل پردازش جریان در اسپارک Stream processing model in Spark

  • مدل پردازش جریان در اسپارک Stream processing model in Spark

  • کار با فایل ها و دایرکتوری ها Working with Files and Directories

  • منابع جریان، سینک ها و حالت خروجی Streaming Sources, Sinks and Output Mode

  • منابع جریان، سینک ها و حالت خروجی Streaming Sources, Sinks and Output Mode

  • تحمل خطا و راه اندازی مجدد Fault Tolerance and Restarts

شروع کار با Spark Structured Streaming Getting started with Spark Structured Streaming

  • ایجاد اولین برنامه پردازش جریان شما Creating your first stream processing application

  • کار با فایل ها و دایرکتوری ها Working with Files and Directories

  • تحمل خطا و راه اندازی مجدد Fault Tolerance and Restarts

جریان جرقه با کافکا Spark Streaming with Kafka

  • پخش جریانی از کافکا به عنوان منبع Streaming from Kafka as a Source

  • پخش جریانی از کافکا به عنوان منبع Streaming from Kafka as a Source

  • کار با کافکا سینک Working with Kafka Sinks

  • کار با کافکا سینک Working with Kafka Sinks

  • برنامه جریان چند پرس و جو Multi-query Streams Application

  • برنامه جریان چند پرس و جو Multi-query Streams Application

  • سریال سازی کافکا و سریال زدایی برای اسپارک Kafka Serialization and Deserialization for Spark

  • ایجاد سینک های Kafka AVRO Creating Kafka AVRO Sinks

  • ایجاد سینک های Kafka AVRO Creating Kafka AVRO Sinks

  • کار با منبع Kafka AVRO Working with Kafka AVRO Source

  • کار با منبع Kafka AVRO Working with Kafka AVRO Source

جریان جرقه با کافکا Spark Streaming with Kafka

  • سریال سازی کافکا و سریال زدایی برای اسپارک Kafka Serialization and Deserialization for Spark

پنجره ها و مصالح Windowing and Aggregates

  • دگرگونی‌های بی‌اتباع در مقابل Statefull Stateless Vs Statefull transformations

  • دگرگونی‌های بی‌اتباع در مقابل Statefull Stateless Vs Statefull transformations

  • زمان رویداد و پنجره Event time and Windowing

  • زمان رویداد و پنجره Event time and Windowing

  • تجمع پنجره غلتکی Tumbling Window aggregate

  • تجمع پنجره غلتکی Tumbling Window aggregate

  • واترمارک کردن پنجره های خود Watermarking your windows

  • واترمارک کردن پنجره های خود Watermarking your windows

  • حالت های واترمارک و خروجی Watermark and output modes

  • حالت های واترمارک و خروجی Watermark and output modes

  • پنجره کشویی Sliding Window

پنجره ها و مصالح Windowing and Aggregates

  • پنجره کشویی Sliding Window

پردازش جریانی و پیوستن Stream Processing and Joins

  • پیوستن جریان به منبع استاتیک Joining Stream to static source

  • پیوستن استریم به جریانی دیگر Joining Stream to another Stream

  • پخش واترمارک Streaming Watermark

  • پخش واترمارک Streaming Watermark

  • پخش جریانی اتصالات خارجی Streaming Outer Joins

پردازش جریانی و پیوستن Stream Processing and Joins

  • پیوستن جریان به منبع استاتیک Joining Stream to static source

  • پیوستن استریم به جریانی دیگر Joining Stream to another Stream

  • پخش جریانی اتصالات خارجی Streaming Outer Joins

به یادگیری ادامه دهید Keep Learning

  • کلمه پایانی Final Word

  • سخنرانی جایزه: اضافی دریافت کنید Bonus Lecture : Get Extra

به یادگیری ادامه دهید Keep Learning

  • کلمه پایانی Final Word

  • سخنرانی جایزه: اضافی دریافت کنید Bonus Lecture : Get Extra

نمایش نظرات

نظری ارسال نشده است.

آموزش Apache Spark 3 - پردازش جریان در زمان واقعی با استفاده از پایتون
خرید اشتراک و دانلود خرید تکی و دانلود | 160,000 تومان (5 روز مهلت دانلود) زمان تقریبی آماده سازی لینک دانلود این دوره آموزشی حدود 5 تا 24 ساعت می باشد.
جزییات دوره
4.5 hours
35
Udemy (یودمی) udemy-small
25 دی 1401 (آخرین آپدیت رو دریافت می‌کنید، حتی اگر این تاریخ بروز نباشد.)
8,061
4.7 از 5
ندارد
دارد
دارد

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Prashant Kumar Pandey Prashant Kumar Pandey

معمار ، نویسنده ، مشاور ، مربی @ Learning JournalPrashant Kumar Pandey علاقه زیادی به کمک به مردم برای یادگیری و رشد در زندگی حرفه ای خود دارد و از بین بردن شکاف بین مهارت های موجود و مورد نیاز آنها است. وی در تلاش برای تحقق این مأموریت ، نویسندگی کتاب ، انتشار مقالات فنی و ایجاد فیلم های آموزشی برای کمک به متخصصان و دانشجویان فناوری اطلاعات در صنعت است. وی با بیش از 18 سال تجربه در IT به عنوان توسعه دهنده ، معمار ، مشاور ، مربی و مربی ، با سازمان های بین المللی خدمات نرم افزار در پروژه های مختلف داده محوری و Bigdata کار کرده است. Prashant اعتقاد راسخ به یادگیری مستمر مادام العمر و رشد مهارت دارد. وی برای محبوبیت بخشیدن به یادگیری مادام العمر مادام العمر ، شروع به انتشار فیلم های آموزشی رایگان در کانال YouTube خود کرد و ایده ایجاد ژورنال یادگیری خود را تحت عنوان Learning Journal مفهوم سازی کرد. وی بنیانگذار ، نویسنده اصلی و سردبیر اصلی پورتال Learning Journal است که دوره های مختلف مهارت آموزی ، آموزش و مقالات فنی را از ابتدای سال 2018 ارائه می دهد.

Learning Journal Learning Journal

ژورنال یادگیری ، تیم کوچکی از افراد است که علاقه زیادی به کمک به دیگران برای یادگیری و رشد در کار خود دارند ، از بین بردن فاصله بین مهارت های موجود و مورد نیاز آنها. در تلاش برای انجام این ماموریت ، ما در حال نوشتن کتاب ، انتشار مقالات فنی و ایجاد فیلم های آموزشی برای کمک به متخصصان و دانشجویان فناوری اطلاعات در صنعت هستیم. با هم بیش از 40 سال تجربه در IT به عنوان توسعه دهنده ، معمار ، مشاور ، مربی و مربی داریم. ما با سازمان های بین المللی خدمات نرم افزار در پروژه های مختلف داده محوری و Bigdata کار کرده ایم. یادگیری ژورنال یک تیم معتقدین راسخ به یادگیری مستمر مادام العمر و رشد مهارت است. برای محبوب کردن اهمیت یادگیری مادام العمر ، ما شروع به انتشار فیلم های آموزشی رایگان در کانال YouTube خود کردیم. ما مفهوم یادگیری مداوم را مفهوم سازی کردیم و ژورنالی از یادگیری خود را تحت عنوان روزنامه یادگیری ایجاد کردیم. ما از ابتدای سال 2018 دوره های مختلف مهارت آموزی ، آموزش و مقالات فنی را تألیف کرده ایم.

Learning Journal Learning Journal

ژورنال یادگیری ، تیم کوچکی از افراد است که علاقه زیادی به کمک به دیگران برای یادگیری و رشد در کار خود دارند ، از بین بردن فاصله بین مهارت های موجود و مورد نیاز آنها. در تلاش برای انجام این ماموریت ، ما در حال نوشتن کتاب ، انتشار مقالات فنی و ایجاد فیلم های آموزشی برای کمک به متخصصان و دانشجویان فناوری اطلاعات در صنعت هستیم. با هم بیش از 40 سال تجربه در IT به عنوان توسعه دهنده ، معمار ، مشاور ، مربی و مربی داریم. ما با سازمان های بین المللی خدمات نرم افزار در پروژه های مختلف داده محوری و Bigdata کار کرده ایم. یادگیری ژورنال یک تیم معتقدین راسخ به یادگیری مستمر مادام العمر و رشد مهارت است. برای محبوب کردن اهمیت یادگیری مادام العمر ، ما شروع به انتشار فیلم های آموزشی رایگان در کانال YouTube خود کردیم. ما مفهوم یادگیری مداوم را مفهوم سازی کردیم و ژورنالی از یادگیری خود را تحت عنوان روزنامه یادگیری ایجاد کردیم. ما از ابتدای سال 2018 دوره های مختلف مهارت آموزی ، آموزش و مقالات فنی را تألیف کرده ایم.

Udemy (یودمی)

یودمی یکی از بزرگ‌ترین پلتفرم‌های آموزشی آنلاین است که به میلیون‌ها کاربر در سراسر جهان امکان دسترسی به دوره‌های متنوع و کاربردی را فراهم می‌کند. این پلتفرم امکان آموزش در زمینه‌های مختلف از فناوری اطلاعات و برنامه‌نویسی گرفته تا زبان‌های خارجی، مدیریت، و هنر را به کاربران ارائه می‌دهد. با استفاده از یودمی، کاربران می‌توانند به صورت انعطاف‌پذیر و بهینه، مهارت‌های جدیدی را یاد بگیرند و خود را برای بازار کار آماده کنند.

یکی از ویژگی‌های برجسته یودمی، کیفیت بالای دوره‌ها و حضور استادان مجرب و با تجربه در هر حوزه است. این امر به کاربران اعتماد می‌دهد که در حال دریافت آموزش از منابع قابل اعتماد و معتبر هستند و می‌توانند به بهترین شکل ممکن از آموزش‌ها بهره ببرند. به طور خلاصه، یودمی به عنوان یکی از معتبرترین و موثرترین پلتفرم‌های آموزشی آنلاین، به افراد امکان می‌دهد تا به راحتی و با کیفیت، مهارت‌های مورد نیاز خود را ارتقا دهند و به دنبال رشد و پیشرفت شغلی خود باشند.