تسلط بر زیرساخت هوش مصنوعی NVIDIA و موفقیت در آزمون NCA-AIIO [ویدئویی] - آخرین آپدیت

سرفصل ها و درس ها

مقدمه Introduction

• مقدمه Introduction

جزئیات گواهینامه Certification Details

• گواهینامه‌های NVIDIA NVIDIA Certifications

• مباحث پوشش داده شده در گواهینامه Topics Covered in Certification

ماژول ۱ – مبانی Module 1 – Fundamentals

• محرک‌های تکامل هوش مصنوعی Drivers of AI Evolution

• موارد استفاده از AI در صنایع مختلف AI Use Cases Across Industries

• مفاهیم AI، ML، DL و Gen AI AI, ML, DL, Gen AI

• آنالوگ و تشبیه برای AI، ML، DL و Gen AI Analogy for AI, ML, DL, Gen AI

• مدل ترنسفورمر (Transformer) Transformer Model

ماژول ۲ – نگاهی به داخل مرکز داده متمرکز بر AI Module 2 - Inside an AI-Centric Data Center

• داخل یک مرکز داده متمرکز بر AI Inside an AI-Centric Data Center

• اثربخشی مصرف توان (PUE) Power Usage Effectiveness (PUE)

• قدرت محاسباتی The Compute Power

• مقایسه CPU و GPU CPU and GPU

• تفاوت‌های معماری CPU در مقابل GPU CPU vs. GPU – Architectural Difference

• فراتر از قانون مور Beyond Moore's Law

• واحد پردازش داده (DPU) Data Processing Unit (DPU)

• شبکه در مرکز داده متمرکز بر AI Network Inside an AI-Centric Data Center

• ساختار شبکه (Network Fabric) Network Fabric

• مقایسه Ethernet در مقابل InfiniBand Ethernet vs. InfiniBand

• اترتنت همگرا (CE) Converged Ethernet (CE)

• ذخیره‌سازی در مرکز داده متمرکز بر AI Storage Inside an AI-Centric Data Center

• ابر در مقابل On-Prem (محلی) Cloud vs. On-Prem

ماژول ۳ – پشته تکنولوژی NVIDIA Module 3 - NVIDIA Technology Stack

• انویدیا: پیشران نوآوری در GPUهای هوش مصنوعی NVIDIA: Powering AI GPU Innovation

• پشته تکنولوژی NVIDIA NVIDIA Technology Stack

• لایه ۱ – لایه فیزیکی Layer 1 – Physical Layer

• پردازنده GPU روی کارت گرافیک GPU on a Graphics Card

• پلتفرم DGX DGX Platform

• سیستم DGX SuperPOD DGX SuperPOD

• تکنولوژی ConnectX ConnectX

• پردازنده‌های BlueField DPU BlueField DPUs

• معماری‌های مرجع NVIDIA NVIDIA Reference Architectures

• درک هسته‌های GPU Understanding GPU Cores

• مقایسه هسته‌های GPU Comparing GPU Cores

• خط زمانی پلتفرم NVIDIA DGX NVIDIA DGX Platform – Timeline

• گزینه‌های استقرار پلتفرم DGX DGX Platform – Deployment Options

• مقایسه DGX A100 در مقابل H100 DGX A100 vs. H100

• لایه ۲: جابجایی داده‌ها و شتاب‌دهی I/O Layer 2: Data Movement and I/O Acceleration

• تکنولوژی NVLink NVLink

• تکنولوژی InfiniBand InfiniBand

• مقایسه InfiniBand در مقابل Ethernet InfiniBand vs. Ethernet

• مفاهیم DMA و RDMA DMA and RDMA

• تکنولوژی GPUDirect RDMA GPUDirect RDMA

• ذخیره‌سازی GPUDirect GPUDirect Storage

• مقایسه سریع Quick Comparison

• لایه ۳: سیستم‌عامل، درایور و مجازی‌سازی Layer 3: OS, Driver, and Virtualization

• درایورهای GPU GPU Drivers

• مجازی‌سازی GPU GPU Virtualization

• مقایسه vGPU در مقابل MIG – بخش اول vGPU vs. MIG – Part 1

• مقایسه vGPU در مقابل MIG – بخش دوم vGPU vs. MIG – Part 2

• لایه ۴: کتابخانه‌های اصلی Layer 4: Core Libraries

• معماری دستگاه یکپارچه محاسباتی (CUDA) Compute Unified Device Architecture (CUDA)

• نصب CUDA Installing CUDA

• کتابخانه ارتباطات جمعی NVIDIA (NCCL) NVIDIA Collective Communications Library (NCCL)

• مقایسه NVLink، NVSwitch، PCIe، RDMA در مقابل NCCL NVLink, NVSwitch, PCIe, RDMA vs. NCCL

• لایه ۵: مانیتورینگ و مدیریت Layer 5: Monitoring and Management

• ابزار NVIDIA SMI NVIDIA-SMI

• مدیریت GPU مرکز داده (DCGM) Data Center GPU Manager (DCGM)

• مدیر Base Command Base Command Manager

• کدام یک را انتخاب کنیم؟ Which One to Use?

• لایه ۶: اپلیکیشن‌ها و راهکارهای عمودی Layer 6: Applications & Vertical Solutions

• جمع‌بندی Summary

• سرویس NVIDIA AI Enterprise NVIDIA AI Enterprise

• کارخانه هوش مصنوعی NVIDIA (AI Factory) NVIDIA AI Factory

ماژول ۴ – جریان‌های کاری AI Module 4 - AI Workflows

• جریان‌های کاری AI AI Workflows

• فریم‌ورک‌های یادگیری ماشین (ML) ML Frameworks

• مزایای رقابتی NVIDIA The NVIDIA Differentiator

• آموزش مدل در مقابل استنتاج مدل (Inference) Model Training vs. Model Inference

• زمان‌بندی وظایف در مقابل ارکستراسیون کانتینر Job Scheduling vs. Container Orchestration

• مقایسه Slurm در مقابل Kubernetes Slurm vs. Kubernetes

• یکپارچه‌سازی NVIDIA NVIDIA Integration

• تشبیه و مفهوم ML Ops ML Ops – Analogy

• چرا به ML Ops نیاز داریم؟ Why ML Ops?

• ابزارهای NVIDIA پشتیبان ML Ops NVIDIA Tools Supporting ML Ops