آموزش استقرار مدلهای زبانی بزرگ (LLM) متنباز - آخرین آپدیت
دانلود Deploying Open-source LLMs
نکته:
ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
سرفصل ها و درس ها
انتخاب و پیکربندی استراتژیهای استقرار Selecting and Configuring Deployment Strategies
-
معرفی دوره Course Introduction
-
تطبیق استقرار با محدودیتها Matching Deployment to Constraints
-
فریمورکهای سرویسدهی Serving Frameworks
-
دمو: استقرار محلی اپلیکیشن Ollama Demo: Deploying Ollama App Locally
-
دمو: استقرار اپلیکیشن Ollama روی ابر AWS Demo: Deploying Ollama App on AWS Cloud
-
کانتینریسازی و ارکستراسیون Containerization and Orchestration
راهاندازی محیط فنی Setting up the Technical Environment
-
نیازمندیهای سختافزاری Hardware Requirements
-
دمو: مصرف منابع در مقابل اندازه مدل در کامپیوتر شخصی Demo: Resource Usage vs. Model Size on Local PC
-
دمو: مصرف منابع در مقابل اندازه مدل در ابر AWS Demo: Resource Usage vs. Model Size on AWS Cloud
-
کوانتیزاسیون مدل Model Quantization
-
دمو: اعمال کوانتیزاسیون برای کاهش مصرف منابع Demo: Applying Quantization to Reduce Resource Use
-
تعیین اندازه مناسب زیرساخت Right-sizing Infrastructure
-
دمو: تنظیمات پیکربندی Demo: Adjusting Configuration Settings
بهینهسازی و مانیتورینگ برای محیط عملیاتی Optimizing and Monitoring for Production
-
تکنیکهای بهینهسازی Optimization Techniques
-
دمو: بنچمارک تأخیر و نرخ انتقال داده Demo: Benchmarking Latency and Throughput
-
پشتیبانگیری، بازیابی و بازگشت (Rollback) Backup, Recovery, and Rollback
-
دمو: بازگشت به نسخه قبلی مدل Demo: Rolling Back to a Previous Model Version
-
بهترین روشهای امنیتی: ایمنسازی نقاط اتصال مدل و دسترسی API Security Best Practices: Securing Model Endpoints and API Access
-
دمو: افزودن احراز هویت پایه با API Key Demo: Adding Basic API Key Authentication
https://donyad.com/d/22c802
Navid Tauhid
نویدوت توحید مشاور یکپارچه ارتباطات و همکاری، متخصص مرکز تماس و معمار با بیش از 15 سال تجربه در صنعت است. او پروژه های متعدد UC سازمانی در مقیاس بزرگ را برای بسیاری از شرکت های چندملیتی مستقر، نگهداری و عیب یابی کرده است. او همچنین به هزاران دانش آموز فناوری اطلاعات در سراسر جهان در مورد محصولات مختلف ارتباطات یکپارچه آموزش داده است و به آنها کمک کرده تا بهترین های فنی خود را داشته باشند. او دارای گواهینامه CCIE Collaboration Written، CCNP Collaboration، Voicemail و مرکز تماس و متخصص مسیریابی و سوئیچینگ CCNA است. او همچنین یک معمار راه حل دارای گواهی Azure و AWS Cloud است. او مشتاق یادگیری فن آوری های جدید است و عاشق به اشتراک گذاری دانش است.
نمایش نظرات