آموزش بوت‌کمپ NCA-AIIO - متخصص زیرساخت و عملیات هوش مصنوعی - آخرین آپدیت

سرفصل ها و درس ها

مقدمه Introduction

• مقدمه Introduction

جزئیات گواهینامه Certification Details

• جزئیات گواهینامه Certification Details

• سرفصل‌های پوشش داده شده در گواهینامه Topics Covered in Certification

ماژول ۱: مبانی Module 1 - Fundamentals

• محرک‌های تکامل هوش مصنوعی Drivers of AI evolution

• موارد استفاده از AI در صنایع مختلف AI use cases across industries

• مفاهیم AI، ML، DL و Gen AI AI, ML, DL, Gen AI

• آنالوگی برای درک AI، ML، DL و Gen AI Analogy for AI, ML, DL, Gen AI

• مدل ترنسفورمر (Transformer) Transformer Model

ماژول ۲: نگاهی به دیتاسنترهای متمرکز بر هوش مصنوعی Module 2 - Inside an AI centric Data Center

• داخل یک دیتاسنتر متمرکز بر هوش مصنوعی Inside an AI centric Data Center

• اثربخشی مصرف توان (PUE) Power Usage Effectiveness (PUE)

• قدرت پردازشی The Compute Power

• مقایسه CPU و GPU CPU and GPU

• تفاوت‌های معماری CPU در مقابل GPU CPU vs. GPU - Architectural difference

• فراتر از قانون مور Beyond Moore’s law

• واحد پردازش داده (DPU) Data Processing Unit (DPU)

• شبکه در دیتاسنترهای متمرکز بر AI Network inside an AI centric Data Center

• ساختار شبکه (Network Fabric) Network fabric

• مقایسه Ethernet و InfiniBand Ethernet vs. InfiniBand

• اترتنت همگرا (CE) Converged Ethernet (CE)

• ذخیره‌سازی در دیتاسنترهای متمرکز بر AI Storage inside an AI centric Data Center

• مقایسه ابر (Cloud) در مقابل On-Prem Cloud vs. On-Prem

ماژول ۳: پشته تکنولوژی (Technology Stack) Module 3 - Technology Stack

• تولید نوآوری در GPUهای هوش مصنوعی Powering AI GPU Innovation

• پشته تکنولوژی Technology Stack

• لایه ۱: لایه فیزیکی Layer 1 - Physical Layer

• GPU در کارت گرافیک GPU on a Graphic Card

• پلتفرم DGX DGX Platform

• سیستم DGX SuperPOD DGX SuperPOD

• تکنولوژی ConnectX ConnectX

• پردازنده‌های BlueField DPU BlueField DPUs

• معماری‌های مرجع Reference Architectures

• درک هسته‌های GPU Understanding GPU Cores

• مقایسه هسته‌های GPU Comparing GPU Cores

• تاریخچه پلتفرم DGX DGX Platform - Timeline

• گزینه‌های استقرار پلتفرم DGX DGX Platform - Deployment Options

• مقایسه DGX A100 در مقابل H100 DGX A100 vs H100

• لایه ۲: جابجایی داده‌ها و شتاب‌دهی I/O Layer 2: Data Movement and I/O Acceleration

• تکنولوژی NVLink NVLink

• تکنولوژی InfiniBand InfiniBand

• مقایسه InfiniBand و Ethernet InfiniBand vs. Ethernet

• مفاهیم DMA و RDMA DMA and RDMA

• قابلیت GPUDirect RDMA GPUDirect RDMA

• قابلیت GPUDirect Storage GPUDirect Storage

• مقایسه سریع Quick Comparison

• لایه ۳: سیستم‌عامل، درایور و مجازی‌سازی Layer 3: OS, Driver and Virtualization

• درایورهای GPU GPU Drivers

• مجازی‌سازی GPU GPU Virtualization

• مقایسه vGPU و MIG (بخش اول) vGPU vs. MIG - Part 1

• مقایسه vGPU و MIG (بخش دوم) vGPU vs. MIG - Part 2

• لایه ۴: کتابخانه‌های اصلی Layer 4: Core Libraries

• معماری CUDA Compute Unified Device Architecture (CUDA)

• نصب CUDA Installing CUDA

• کتابخانه ارتباطات جمعی (NCCL) Collective Communications Library (NCCL)

• مقایسه NVLink, NVSwitch, PCIe, RDMA در مقابل NCCL NVLink, NVSwitch, PCIe, RDMA vs. NCCL

• لایه ۵: مانیتورینگ و مدیریت Layer 5: Monitoring and Management

• ابزار شناسایی GPU GPU Identification Utility

• مدیر GPU دیتاسنتر (DCGM) Data Center GPU Manager (DCGM)

• مدیر Base Command Base Command Manager

• کدام ابزار را انتخاب کنیم؟ Which one to use?

• لایه ۶: اپلیکیشن‌ها و راهکارهای عمودی Layer 6: Applications & Vertical Solutions

• جمع‌بندی Summary

• سازمان هوش مصنوعی (AI Enterprise) AI Enterprise

• کارخانه هوش مصنوعی (AI Factory) AI Factory

ماژول ۴: گردش‌کارهای هوش مصنوعی Module 4 - AI Workflows

• گردش‌کارهای هوش مصنوعی AI Workflows

• فریم‌ورک‌های یادگیری ماشین (ML) ML Frameworks

• عوامل تمایزدهنده The differentiator

• آموزش مدل در مقابل استنتاج مدل (Training vs Inference) Model Training vs. Model Inference

• زمان‌بندی وظایف در مقابل ارکستراسیون کانتینرها Job Scheduling vs. Container Orchestration

• مقایسه Slurm و Kubernetes Slurm vs Kubernetes

• یکپارچه‌سازی Integration

• آنالوگی ML Ops ML Ops - Analogy

• چرا ML Ops؟ Why ML Ops?

• ابزارهای پشتیبان ML Ops Tools supporting ML Ops