آموزش بررسی فنی استنتاج هوش مصنوعی ردهت (Red Hat AI Inference) - آخرین آپدیت
دانلود Red Hat AI Inference Technical Overview
نکته:
ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
سرفصل ها و درس ها
مبانی استنتاج سازمانی و چالشهای عملیاتی Foundations of Enterprise Inference and Operational Challenges
-
مقدمه Introduction
-
چالشهای عملیاتی مدلهای هوش مصنوعی AI model operational challenges
-
ارزش استنتاج در دنیای واقعی Real-world value of inference
اکوسیستم زمان اجرای استنتاج و فشردهسازی مدل Inference Runtime Ecosystem and Model Compression
-
زمان اجرای استنتاج (Inference Runtime) Inference runtime
-
فشردهسازی مدل Model compression
محیطهای اجرای اصلی vLLM و تکنیکهای شتابدهی Core vLLM Runtimes and Acceleration Techniques
-
بهینهسازی مدلها با vLLM Model optimizations with vLLM
استراتژیهای موازیسازی و استنتاج توزیعشده با استفاده از llm D Parallelism Strategies and Distributed Inference Using llm-D
-
موازیسازی تنسور (Tensor Parallelism) Tensor parallelism
-
استنتاج توزیعشده Distributed inference
بهینهسازیهای استنتاج در محیط عملیاتی Inference Optimizations in Context
-
مدیریت حافظه موقت KV (KV Cache) KV cache management
-
مدلها به عنوان سرویس (MaaS) Models-as-a-service
گزینههای نصب و دموی استقرار تکسروری Installation Options and Single Server Deployment Demo
-
نصب و راهاندازی Installation
-
دمو: اجرای Red Hat AI Inference روی یک نمونه سرور واحد Demo: Red Hat AI Inference on a single server instance
-
گامهای بعدی و منابع آموزشی Next steps and resources
نمایش نظرات