آموزش از 0 تا 1: Hive for Processing Big Data

From 0 to 1: Hive for Processing Big Data

نکته: آخرین آپدیت رو دریافت میکنید حتی اگر این محتوا بروز نباشد.
نمونه ویدیوها:
توضیحات دوره: End-to-End Hive: HQL، Partitioning، Bucketing، UDFs، Windowing، Optimization، Map Joins، Indexes نوشتن پرس و جوهای تحلیلی پیچیده روی داده ها در Hive و کشف بینش استفاده از ایده های پارتیشن بندی، سطل سازی برای بهینه سازی پرس و جوها در Hive Customize Hive توسط کاربر توابع در جاوا و پایتون درک آنچه در زیر هود Hive با HDFS و MapReduce می گذرد پیشها:Hive نیاز به دانش SQL دارد. اگر SQL بلد نیستید، لطفاً ابتدا در پایان دوره به سراغ پرایمر SQL بروید. اگر به بخش های مربوط به توابع تعریف شده توسط کاربر سفارشی علاقه دارید، باید جاوا را بدانید بدون پیش نیاز دیگر: این دوره همه چیزهایی را که برای نصب Hive و اجرای پرس و جو نیاز دارید را پوشش می دهد!

پیش نیازها: Hive به دانش SQL نیاز دارد. دوره شامل و SQL primer در پایان است. لطفاً اگر SQL نمی دانید ابتدا این کار را انجام دهید. اگر می‌خواهید بخش‌های مربوط به توابع سفارشی را دنبال کنید، باید جاوا را بدانید.

توسط  یک تیم 4 نفره شامل 2 تحصیلات دانشگاه استنفورد، Googler سابق  و 2 تحلیلگر ارشد سابق Flipkart تدریس می‌شود. این تیم دهه‌ها تجربه عملی در کار با داده‌های مقیاس بزرگ دارد.

 Hive مانند یک دوست جدید با چهره قدیمی (SQL) است. این دوره یک راهنمای عملی و پایانی برای استفاده از Hive برای پردازش داده های بزرگ است.

بیایید آن را تجزیه کنیم 

یک دوست جدید با چهره قدیمی:  Hive به شما کمک می کند از قدرت محاسبات توزیع شده و Hadoop برای پردازش تحلیلی استفاده کنید. رابط کاربری آن مانند یک دوست قدیمی است: SQL بسیار شبیه HiveQL. این دوره همه شکاف‌های بین SQL و آنچه برای استفاده از Hive نیاز دارید را پر می‌کند.

End-to-End:  این دوره یک راهنمای سرتاسری برای استفاده از Hive است:  خواه شما تحلیلگری هستید که می‌خواهد داده‌ها را پردازش کند   یا یک مهندس که نیاز به ایجاد عملکرد سفارشی یا بهینه‌سازی عملکرد دارد - همه چیزهایی که نیاز دارید درست اینجاست با SQL جدید هستید؟ نیازی نیست جای دیگری را جستجو کنید. این دوره دارای یک آغازگر بر روی تمام ساختارهای اولیه SQL است، .

عملی: همه چیز با استفاده از مثال‌های واقعی، پرس و جوهای کاری و کد آموزش داده می‌شود.

موارد تحت پوشش: 

پردازش تحلیلی:  پیوستن، سؤالات فرعی، نماها، توابع تولید جدول، Explode، نمای جانبی، پنجره و موارد دیگر

تنظیم Hive برای عملکرد بهتر:  پارتیشن‌بندی، سطل‌بندی، بهینه‌سازی‌های پیوستن، پیوندهای جانبی نقشه، فهرست‌ها، نوشتن توابع سفارشی تعریف‌شده توسط کاربر در جاوا. UDF، UDAF، GenericUDF، GenericUDTF،  توابع سفارشی در پایتون،  اجرای MapReduce برای انتخاب، گروه بندی توسط و پیوستن

برای تازه‌کارهای SQL: SQL در عمق زیاد


سرفصل ها و درس ها

شما، ما و این دوره You, Us & This Course

شما، ما و این دوره You, Us & This Course

  • شما، ما و این دوره You, Us & This Course

  • شما، ما و این دوره You, Us & This Course

معرفی Hive Introducing Hive

معرفی Hive Introducing Hive

  • Hive: یک انبار داده منبع باز Hive: An Open-Source Data Warehouse

  • Hive: یک انبار داده منبع باز Hive: An Open-Source Data Warehouse

  • Hive و Hadoop Hive and Hadoop

  • Hive و Hadoop Hive and Hadoop

  • Hive در مقابل DBMS رابطه‌ای سنتی Hive vs Traditional Relational DBMS

  • Hive در مقابل DBMS رابطه‌ای سنتی Hive vs Traditional Relational DBMS

  • HiveQL و SQL HiveQL and SQL

  • HiveQL و SQL HiveQL and SQL

Hadoop and Hive Install Hadoop and Hive Install

  • حالت های نصب Hadoop Hadoop Install Modes

  • مرحله 2 نصب Hadoop: حالت شبه توزیع شده Hadoop Install Step 2 : Pseudo-Distributed Mode

  • Code-Along: شروع به کار Code-Along: Getting started

Hadoop and Hive Install Hadoop and Hive Install

  • حالت های نصب Hadoop Hadoop Install Modes

  • مرحله 1 نصب Hadoop: حالت مستقل Hadoop Install Step 1 : Standalone Mode

  • مرحله 1 نصب Hadoop: حالت مستقل Hadoop Install Step 1 : Standalone Mode

  • مرحله 2 نصب Hadoop: حالت شبه توزیع شده Hadoop Install Step 2 : Pseudo-Distributed Mode

  • Hive نصب کنید Hive install

  • Hive نصب کنید Hive install

  • Code-Along: شروع به کار Code-Along: Getting started

بررسی اجمالی Hadoop و HDFS Hadoop and HDFS Overview

  • HDFS یا سیستم فایل توزیع شده Hadoop HDFS or the Hadoop Distributed File System

بررسی اجمالی Hadoop و HDFS Hadoop and HDFS Overview

  • هادوپ چیست؟ What is Hadoop?

  • هادوپ چیست؟ What is Hadoop?

  • HDFS یا سیستم فایل توزیع شده Hadoop HDFS or the Hadoop Distributed File System

اصول کندو Hive Basics

  • Collections_Arrays_Maps Collections_Arrays_Maps

  • ساختارها و اتحادیه ها Structs and Unions

  • ایجاد جدول Create Table

  • جدول تغییرات Alter Table

  • HDFS HDFS

  • HDFS CLI - تعامل با HDFS HDFS CLI - Interacting with HDFS

اصول کندو Hive Basics

  • انواع داده های اولیه Primitive Datatypes

  • انواع داده های اولیه Primitive Datatypes

  • Collections_Arrays_Maps Collections_Arrays_Maps

  • ساختارها و اتحادیه ها Structs and Unions

  • ایجاد جدول Create Table

  • درج در جدول Insert Into Table

  • درج در جدول Insert Into Table

  • در جدول 2 درج کنید Insert into Table 2

  • در جدول 2 درج کنید Insert into Table 2

  • جدول تغییرات Alter Table

  • HDFS HDFS

  • HDFS CLI - تعامل با HDFS HDFS CLI - Interacting with HDFS

  • Code-Along: ایجاد جدول Code-Along: Create Table

  • Code-Along: ایجاد جدول Code-Along: Create Table

  • Code-Along: Hive CLI Code-Along : Hive CLI

  • Code-Along: Hive CLI Code-Along : Hive CLI

توابع داخلی Built-in Functions

  • سه نوع عملکرد Hive Three types of Hive functions

  • عبارت Case-When، تابع Size، تابع Cast The Case-When statement, the Size function, the Cast function

  • تابع Explode The Explode function

  • Code-Along: عملکردهای داخلی Hive Code-Along : Hive Built - in functions

توابع داخلی Built-in Functions

  • سه نوع عملکرد Hive Three types of Hive functions

  • عبارت Case-When، تابع Size، تابع Cast The Case-When statement, the Size function, the Cast function

  • تابع Explode The Explode function

  • Code-Along: عملکردهای داخلی Hive Code-Along : Hive Built - in functions

پرس و جوهای فرعی Sub-Queries

  • پرس و جوهای فرعی عجیب و غریب Quirky Sub-Queries

  • Code-Along: از Subqueries برای کار با Collection Datatypes استفاده کنید Code-Along : Use Subqueries to work with Collection Datatypes

پرس و جوهای فرعی Sub-Queries

  • پرس و جوهای فرعی عجیب و غریب Quirky Sub-Queries

  • اطلاعات بیشتر در مورد سوالات فرعی: موجود و در More on subqueries: Exists and In

  • اطلاعات بیشتر در مورد سوالات فرعی: موجود و در More on subqueries: Exists and In

  • درج از طریق سوالات فرعی Inserting via subqueries

  • درج از طریق سوالات فرعی Inserting via subqueries

  • Code-Along: از Subqueries برای کار با Collection Datatypes استفاده کنید Code-Along : Use Subqueries to work with Collection Datatypes

  • بازدیدها Views

  • بازدیدها Views

پارتیشن بندی Partitioning

  • شاخص ها Indices

  • پارتیشن بندی معرفی شد Partitioning Introduced

  • دلیل تقسیم بندی The Rationale for Partitioning

پارتیشن بندی Partitioning

  • شاخص ها Indices

  • پارتیشن بندی معرفی شد Partitioning Introduced

  • دلیل تقسیم بندی The Rationale for Partitioning

  • نحوه پارتیشن بندی جداول How Tables are Partitioned

  • نحوه پارتیشن بندی جداول How Tables are Partitioned

  • استفاده از جداول پارتیشن بندی شده Using Partitioned Tables

  • استفاده از جداول پارتیشن بندی شده Using Partitioned Tables

  • پارتیشن بندی پویا: درج داده ها در جداول پارتیشن بندی شده Dynamic Partitioning: Inserting data into partitioned tables

  • پارتیشن بندی پویا: درج داده ها در جداول پارتیشن بندی شده Dynamic Partitioning: Inserting data into partitioned tables

  • Code-Along: پارتیشن بندی Code-Along : Partitioning

  • Code-Along: پارتیشن بندی Code-Along : Partitioning

سطل سازی Bucketing

  • معرفی Bucketing Introducing Bucketing

  • مزایای باکتینگ The Advantages of Bucketing

  • نحوه سطل بندی جداول How Tables are Bucketed

  • نمونه برداری Sampling

سطل سازی Bucketing

  • معرفی Bucketing Introducing Bucketing

  • مزایای باکتینگ The Advantages of Bucketing

  • نحوه سطل بندی جداول How Tables are Bucketed

  • استفاده از جداول سطلی Using Bucketed Tables

  • استفاده از جداول سطلی Using Bucketed Tables

  • نمونه برداری Sampling

پنجره Windowing

  • پنجره معرفی شد Windowing Introduced

  • پنجره - یک مثال ساده: جمع تجمعی Windowing - A Simple Example: Cumulative Sum

پنجره Windowing

  • پنجره معرفی شد Windowing Introduced

  • پنجره - یک مثال ساده: جمع تجمعی Windowing - A Simple Example: Cumulative Sum

  • پنجره سازی - یک مثال درگیرتر: پارتیشن بندی Windowing - A More Involved Example: Partitioning

  • پنجره سازی - یک مثال درگیرتر: پارتیشن بندی Windowing - A More Involved Example: Partitioning

  • پنجره - توابع تجمع ویژه Windowing - Special Aggregation Functions

  • پنجره - توابع تجمع ویژه Windowing - Special Aggregation Functions

آشنایی با MapReduce Understanding MapReduce

  • فلسفه اساسی MapReduce The basic philosophy underlying MapReduce

آشنایی با MapReduce Understanding MapReduce

  • فلسفه اساسی MapReduce The basic philosophy underlying MapReduce

  • MapReduce - تجسم و توضیح داده شده است MapReduce - Visualized and Explained

  • MapReduce - تجسم و توضیح داده شده است MapReduce - Visualized and Explained

  • MapReduce - در هر مرحله کمی عمیق تر حفاری کنید MapReduce - Digging a little deeper at every step

  • MapReduce - در هر مرحله کمی عمیق تر حفاری کنید MapReduce - Digging a little deeper at every step

منطق MapReduce برای پرس و جوها: پشت صحنه MapReduce logic for queries: Behind the scenes

  • نمای کلی MapReduce: Group-By و Having MapReduce Overview: Group-By and Having

  • نمای کلی MapReduce: می پیوندد MapReduce Overview: Joins

منطق MapReduce برای پرس و جوها: پشت صحنه MapReduce logic for queries: Behind the scenes

  • نمای کلی MapReduce: Basic Select-From-Where MapReduce Overview: Basic Select-From-Where

  • نمای کلی MapReduce: Basic Select-From-Where MapReduce Overview: Basic Select-From-Where

  • نمای کلی MapReduce: Group-By و Having MapReduce Overview: Group-By and Having

  • نمای کلی MapReduce: می پیوندد MapReduce Overview: Joins

به Optimizations در Hive بپیوندید Join Optimizations in Hive

  • بند Where در Joins The Where clause in Joins

  • اتصالات جانبی نقشه: پیوستن داخلی Map Side Joins: The Inner Join

  • اتصالات جانبی نقشه: پیوستن به نقشه سطلی و پیوستن به ادغام مرتب شده Map Side Joins: The Bucketed Map Join and the Sorted Merge Join

به Optimizations در Hive بپیوندید Join Optimizations in Hive

  • بهبود عملکرد Join با جداول در اندازه های مختلف Improving Join performance with tables of different sizes

  • بهبود عملکرد Join با جداول در اندازه های مختلف Improving Join performance with tables of different sizes

  • بند Where در Joins The Where clause in Joins

  • نیمه چپ بپیوندید The Left Semi Join

  • نیمه چپ بپیوندید The Left Semi Join

  • اتصالات جانبی نقشه: پیوستن داخلی Map Side Joins: The Inner Join

  • اتصالات جانبی نقشه: اتصالات چپ، راست و کامل بیرونی Map Side Joins: The Left, Right and Full Outer Joins

  • اتصالات جانبی نقشه: اتصالات چپ، راست و کامل بیرونی Map Side Joins: The Left, Right and Full Outer Joins

  • اتصالات جانبی نقشه: پیوستن به نقشه سطلی و پیوستن به ادغام مرتب شده Map Side Joins: The Bucketed Map Join and the Sorted Merge Join

توابع سفارشی در پایتون Custom Functions in Python

  • Code-Along: تابع سفارشی در پایتون Code-Along : Custom Function in Python

توابع سفارشی در پایتون Custom Functions in Python

  • توابع سفارشی در پایتون Custom functions in Python

  • توابع سفارشی در پایتون Custom functions in Python

  • Code-Along: تابع سفارشی در پایتون Code-Along : Custom Function in Python

توابع سفارشی در جاوا Custom functions in Java

  • معرفی UDF - شما محدود به ارائه‌های Hive نیستید Introducing UDFs - you're not limited by what Hive offers

  • UDF ساده: تابع استاندارد برای انواع اولیه The Simple UDF: The standard function for primitive types

  • UDF ساده: پیاده سازی جاوا برای جایگزین متن() The Simple UDF: Java implementation for replacetext()

  • UDF های عمومی، بازرس شی و اشیاء معوق Generic UDFs, the Object Inspector and DeferredObjects

  • UDF عمومی: اجرای جاوا برای containstring() The Generic UDF: Java implementation for containsstring()

  • UDAF: پیاده سازی جاوا برای max() The UDAF: Java implementation for max()

  • UDTF عمومی: توابع تولید جدول سفارشی The Generic UDTF: Custom table generating functions

  • UDTF عمومی: اجرای جاوا برای namesplit() The Generic UDTF: Java implementation for namesplit()

توابع سفارشی در جاوا Custom functions in Java

  • معرفی UDF - شما محدود به ارائه‌های Hive نیستید Introducing UDFs - you're not limited by what Hive offers

  • UDF ساده: تابع استاندارد برای انواع اولیه The Simple UDF: The standard function for primitive types

  • UDF ساده: پیاده سازی جاوا برای جایگزین متن() The Simple UDF: Java implementation for replacetext()

  • UDF های عمومی، بازرس شی و اشیاء معوق Generic UDFs, the Object Inspector and DeferredObjects

  • UDF عمومی: اجرای جاوا برای containstring() The Generic UDF: Java implementation for containsstring()

  • UDAF: توابع جمع سفارشی می توانند بسیار پیچیده شوند The UDAF: Custom aggregate functions can get pretty complex

  • UDAF: توابع جمع سفارشی می توانند بسیار پیچیده شوند The UDAF: Custom aggregate functions can get pretty complex

  • UDAF: پیاده سازی جاوا برای max() The UDAF: Java implementation for max()

  • UDAF: پیاده سازی جاوا برای انحراف استاندارد The UDAF: Java implementation for Standard Deviation

  • UDAF: پیاده سازی جاوا برای انحراف استاندارد The UDAF: Java implementation for Standard Deviation

  • UDTF عمومی: توابع تولید جدول سفارشی The Generic UDTF: Custom table generating functions

  • UDTF عمومی: اجرای جاوا برای namesplit() The Generic UDTF: Java implementation for namesplit()

SQL Primer - Statemets را انتخاب کنید SQL Primer - Select Statemets

  • توابع اپراتور Operator Functions

SQL Primer - Statemets را انتخاب کنید SQL Primer - Select Statemets

  • بیانیه ها را انتخاب کنید Select Statements

  • بیانیه ها را انتخاب کنید Select Statements

  • بیانیه های 2 را انتخاب کنید Select Statements 2

  • بیانیه های 2 را انتخاب کنید Select Statements 2

  • توابع اپراتور Operator Functions

SQL Primer - Group By، Order By و Having SQL Primer - Group By, Order By and Having

  • گروه بیشتر بر اساس نمونه More Group By Examples

  • سفارش توسط Order By

  • داشتن Having

SQL Primer - Group By، Order By و Having SQL Primer - Group By, Order By and Having

  • اپراتورهای تجمع معرفی شدند Aggregation Operators Introduced

  • اپراتورهای تجمع معرفی شدند Aggregation Operators Introduced

  • گروه با بند The Group By Clause

  • گروه با بند The Group By Clause

  • گروه بیشتر بر اساس نمونه More Group By Examples

  • سفارش توسط Order By

  • داشتن Having

SQL Primer - Joins SQL Primer - Joins

  • مقدمه ای بر SQL Joins Introduction to SQL Joins

  • پیوندهای متقاطع با نام مستعار دکارتی Cross Joins aka Cartesian Joins

  • اتصالات داخلی Inner Joins

  • راست، اتصالات کامل بیرونی، اتصالات طبیعی، اتصالات خودی RIght, Full Outer Joins, Natural Joins, Self Joins

SQL Primer - Joins SQL Primer - Joins

  • مقدمه ای بر SQL Joins Introduction to SQL Joins

  • پیوندهای متقاطع با نام مستعار دکارتی Cross Joins aka Cartesian Joins

  • اتصالات داخلی Inner Joins

  • اتصالات بیرونی سمت چپ Left Outer Joins

  • اتصالات بیرونی سمت چپ Left Outer Joins

  • راست، اتصالات کامل بیرونی، اتصالات طبیعی، اتصالات خودی RIght, Full Outer Joins, Natural Joins, Self Joins

ضمیمه Appendix

  • [برای مبتدیان شل سیستم عامل لینوکس/مک] مسیر و سایر متغیرهای محیطی [For Linux/Mac OS Shell Newbies] Path and other Environment Variables

ضمیمه Appendix

  • [برای مبتدیان شل سیستم عامل لینوکس/مک] مسیر و سایر متغیرهای محیطی [For Linux/Mac OS Shell Newbies] Path and other Environment Variables

  • راه اندازی یک نمونه لینوکس مجازی - برای کاربران ویندوز Setting up a Virtual Linux Instance - For Windows Users

  • راه اندازی یک نمونه لینوکس مجازی - برای کاربران ویندوز Setting up a Virtual Linux Instance - For Windows Users

نمایش نظرات

آموزش از 0 تا 1: Hive for Processing Big Data
جزییات دوره
15.5 hours
87
Udemy (یودمی) Udemy (یودمی)
(آخرین آپدیت)
6,479
4.4 از 5
دارد
دارد
دارد
Loony Corn
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Loony Corn Loony Corn

یک تیم سابق گوگل، استنفورد و فلیپ کارت