نکته:
آخرین آپدیت رو دریافت میکنید حتی اگر این محتوا بروز نباشد.
نمونه ویدیویی برای نمایش وجود ندارد.
توضیحات دوره:
مدل برنامه نویسی MapReduce استاندارد واقعی پردازش موازی داده های بزرگ است. این دوره MapReduce را معرفی می کند ، نحوه جریان داده ها از طریق یک برنامه MapReduce را توضیح می دهد و شما را از طریق نوشتن اولین برنامه MapReduce خود در جاوا راهنمایی می کند. پردازش میلیون ها رکورد مستلزم این است که شما ابتدا هنر تجزیه وظایف خود را به فرآیندهای موازی درک کنید. مدل برنامه نویسی MapReduce ، بخشی از سیستم زیست محیطی Hadoop ، چارچوبی را برای تعریف راه حل شما از نظر وظایف موازی به شما می دهد ، سپس با ترکیب آنها نتیجه دلخواه نهایی را به شما می دهد. در این دوره ، با درک مدل برنامه نویسی MapReduce ، مقدمه ای بر الگوی MapReduce خواهید گرفت. ابتدا یاد خواهید گرفت که چگونه به شما کمک می کند قبل از رسیدن به مرحله کاهش و نتیجه نهایی ، داده ها را از طریق نقشه ، پارتیشن ، تغییر شکل و مرتب سازی مرتب کنید. در مرحله بعدی ، شما را از طریق اولین برنامه MapReduce در جاوا راهنمایی می کند. سرانجام ، شما می آموزید که کلاس Mapper و Reducer چارچوب را گسترش دهید تا منطق خود را متصل کنید و سپس این کد را بر روی دستگاه محلی خود بدون استفاده از خوشه Hadoop اجرا کنید. با پایان این دوره ، شما می توانید مشکلات داده های بزرگ را به وظایف موازی تقسیم کنید تا به مقابله با عملیات بزرگ کردن داده ها کمک کنید.
سرفصل ها و درس ها
بررسی اجمالی دوره
Course Overview
-
بررسی اجمالی دوره
Course Overview
معرفی MapReduce
Introducing MapReduce
-
مجموعه داده های عظیم و سیستم های مقیاس پذیر
Huge Data Sets and Scalable Systems
-
قدرت و پیچیدگی کار تیمی
The Power and Complexity of Teamwork
-
تفکر موازی با MapReduce
Thinking Parallel with MapReduce
-
جریان اصلی فرآیند MapReduce
Basic Flow of a MapReduce Process
-
شناسایی برنامه های MapReduce
Identifying MapReduce Applications
شغل MapReduce "سلام به جهان"
A "Hello World" MapReduce Job
-
شیشه های Hadoop را بارگیری کنید و یک پروژه Intellij تنظیم کنید
Download Hadoop Jars and Set up an Intellij Project
-
سلسله مراتب Class Map
The Map Class Hierarchy
-
سلسله مراتب کلاس را کاهش دهید
The Reduce Class Hierarchy
-
برنامه درایور
The Driver Program
-
راه اندازی پرونده های ورودی ورودی
Setting up the Input Data Files
-
کد کلاس نقشه
The Map Class Code
-
کد کاهش کلاس
The Reduce Class Code
-
طبقه اصلی و MapReduce Job
The Main Class and the MapReduce Job
-
اجرای اولین کار MapReduce ما
Running Our First MapReduce Job
کنترل موازی بودن در نقشه و کاهش فازها
Controlling Parallelism in Map and Reduce Phases
-
پشت صحنه وظیفه MapReduce
Behind the Scenes of a MapReduce Task
-
با استفاده از Single Reducer
Using a Single Reducer
-
با استفاده از چند گیرنده
Using Multiple Reducers
-
پارتیشن ، تغییر شکل و مرتب سازی
Partition, Shuffle, and Sort
-
تعداد کارها را کاهش دهید
Tweaking the Number of Reduce Tasks
-
با استفاده از یک ترکیب ، مرحله نقشه را بهینه کنید
Optimize the Map Phase Using a Combiner
-
تنظیم کلاس ترکیبی در MapReduce
Setting a Combiner Class On Your MapReduce
-
گیرنده ها به عنوان ترکیب کننده ها
Reducers as Combiners
-
محدودیت در استفاده از گیرنده ها به عنوان ترکیب
Constraints in Using Reducers as Combiners
نمایش نظرات