آموزش طراحی معماری دیتاسنتر هوش مصنوعی: راهنمای جامع مهندسان شبکه - آخرین آپدیت

سرفصل ها و درس ها

مقدمه Introduction

• مقدمه Introduction

آنالوژی دیتاسنتر هوش مصنوعی AI Data Center Analogy

• آنالوژی در مورد علت فشار شدید GPU بر شبکه‌ها An Analogy on Why GPU's are so hard on Networks

• سیر تکامل شبکه دیتاسنتر Data Center Network Evolution Journey

معماری شبکه برای دیتاسنتر AI Network Architecture for AI Data Center

• تحلیل معماری شبکه Clos Decoding Clos Network Architecture.

• پاسخ به سوالات رایج درباره معماری شبکه Clos Clos Network Architecture Some Common Queries

انواع شبکه‌های AI/ML و کتابخانه‌های ارتباطی AI/ML Network Types and Communication Library

• تفاوت نیازمندی‌های شبکه در آموزش (Training) در مقابل استنتاج (Inferencing) AI/ML AI/ML Training vs Inferencing Network Requirement

• کتابخانه‌های ارتباطی AI/ML AI/ML Communication Library

• جلسه تحلیل روی تخته: آموزش در مقابل استنتاج White boarding Session Training vs Inferencing

معماری شبکه AI/ML AI/ML Network Architecture

• بررسی کلی AI/ML DMA و معماری شبکه برای یک GPU AI/ML DMA Overview and Network Architecture for One GPU

• تضاد هزینه در برابر توان عملیاتی (Throughput) و معمای GPU از دید مهندس شبکه Network Engineer Cost vs Throughput and GPU Dilemma

بررسی کلی InfiniBand و توپولوژی شبکه برای AI Infini-band Overview and Network Topology for AI

• بررسی InfiniBand و علت عقب ماندن Ethernet در انتقال داده‌های متمرکز بر حافظه Infini-band Overview and Why Ethernet Lagging in Memory Centric Transport

• دنیای کپسوله‌سازی‌ها (Encapsulations) World of Encapsulations

• تحلیل عمیق: دلیل اصلی توپولوژی شبکه AI/ML Under the Hood - Big Why Behind AI/ML Network Topology

• توپولوژی شبکه AI/ML: بررسی کلی طراحی شبکه مبتنی بر Rail AI/ML Network Topology - Rail Based Network Design Overview

چالش‌های رایج و دلیل استفاده از Ethernet برای AI Network Fabric Common Challenges and Why Ethernet for AI Network Fabric

• سه دلیل برای استفاده از Ethernet در AI/ML Network Fabric 3 Reasons Why Ethernet for AI/ML Network Fabric

• چالش‌های رایج در AI Network Fabric Common Challenges in AI Network Fabric

مدیریت احتقان در Ethernet Network Fabric Congestion Management In Ethernet Network Fabric

• مقدمه‌ای بر مدیریت احتقان Congestion Management Introduction

• احتقان واکنشی: اعلان صریح احتقان (ECN) Reactive Congestion - Explicit Congestion Notification

• مدیریت احتقان واکنشی: مقدمه‌ای بر کنترل جریان اولویت‌دار (PFC) - بخش اول Reactive Congestion Management - Priority Flow Control Introduction Part 1

• مدیریت احتقان واکنشی: مقدمه‌ای بر کنترل جریان اولویت‌دار (PFC) - بخش دوم Reactive Congestion Management - Priority Flow Control Introduction Part 2

• مدیریت احتقان واکنشی: بررسی فنی PFC Reactive Congestion Management - Priority Flow Control Under the Hood

• مدیریت احتقان واکنشی: مکانیزم Watch Dog در PFC Reactive Congestion Management - Priority Flow Control Watch Dog

• مقایسه PFC و ECN: کدام بهتر است؟ و معرفی DCQCN PFC or ECN - Which One is Better and DCQCN Introduction

• مثال پیکربندی PFC و ECN PFC and ECN Configuration Example

مدیریت پیش‌دستانه احتقان Proactive Congestion Management

• مقدمه‌ای بر مدیریت پیش‌دستانه احتقان Proactive Congestion Management Introduction

• مدیریت پیش‌دستانه احتقان: روش‌های توازن بار (Load Balancing) Proactive Congestion Management - Ways for Load Balancing

• مدیریت پیش‌دستانه احتقان: توازن بار پویا Proactive Congestion Management - Dynamic Load Balancing

معرفی Ultra Ethernet Ultra Ethernet Introduction

• معرفی Ultra Ethernet Ultra Ethernet Introduction

• چرا Ultra Ethernet؟ و پیشرفت‌های پیشنهادی در لایه 2 Why Ultra Ethernet and Advancement Proposed at Layer 2

• Ultra Ethernet: پیشرفت‌های پیشنهادی در لایه 3 (IP Layer) Ultra Ethernet - Advancement Proposed at Layer 3 IP Layer

• Ultra Ethernet: پیشرفت‌های پیشنهادی در لایه انتقال (Transport Layer) Ultra Ethernet - Advancement Proposed at Transport Layer

جمع‌بندی و مسیر آینده Thanks Note and Way Forward

• سخن پایانی و تشکر Thanks Note