آموزش AIP-C01: بهینه‌سازی و کارایی عملیاتی برای برنامه‌های GenAI - آخرین آپدیت

دانلود AIP-C01: Operational Efficiency and Optimization for GenAI Applications

نکته: ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره: هزینه‌های بالای استنتاج و تأخیرهای غیرقابل پیش‌بینی، اصلی‌ترین موانع برای استقرار برنامه‌های هوش مصنوعی مولد (GenAI) در محیط عملیاتی هستند. در این دوره آموزشی با کد AIP-C01، شما توانایی مقیاس‌بندی حجم کاری GenAI را در حالی که بالاترین سطح کارایی را حفظ می‌کنید، کسب خواهید کرد. در ابتدا، استراتژی‌های بهینه‌سازی هزینه مانند هرس کردن توکن‌ها (Token Pruning) و انتخاب هوشمند مدل را بررسی می‌کنید. سپس، تکنیک‌های تنظیم عملکرد از جمله کشینگ معنایی (Semantic Caching)، استریم کردن پاسخ‌ها و بهینه‌سازی بازیابی اطلاعات را خواهید آموخت. در نهایت، نحوه پیاده‌سازی نظارت جامع با استفاده از CloudWatch و گزارش‌های فراخوانی مدل Bedrock را برای ردیابی توهمات مدل و انحراف منابع یاد می‌گیرید. پس از اتمام این دوره، شما مهارت‌ها و دانش عملیاتی GenAI لازم برای موفقیت در آزمون AIP-C01 و مدیریت استقرارهای حرفه‌ای هوش مصنوعی را به دست خواهید آورد.

سرفصل ها و درس ها

مقدمه‌ای بر کارایی عملیاتی GenAI Introduction to GenAI operational efficiency

  • چالش‌های کارایی در GenAI The GenAI efficiency challenge

  • دمو: شمارش توکن‌ها و تخمین هزینه Demo: Token counting and cost estimation

  • فشرده‌سازی پرامپت و هرس کردن کانتکست Prompt compression and context pruning

  • توازن بین هزینه و قابلیت‌ها در انتخاب مدل (FM) Cost-capability tradeoffs in FM selection

  • استفاده لایه‌ای از مدل‌ها بر اساس پیچیدگی پرس‌وجو Tiered FM usage by query complexity

  • دمو: مقایسه ظرفیت On-demand در مقابل Provisioned Demo: On-demand vs. provisioned throughput

  • دمو: استنتاج دسته‌ای برای حجم کاری غیر Real-time Demo: Batch inference for non-real-time workloads

  • دمو: کشینگ معنایی برای برنامه‌های مدل پایه Demo: Semantic caching for FM applications

  • دمو: کشینگ پرامپت در Amazon Bedrock Demo: Amazon Bedrock prompt caching

بهینه‌سازی عملکرد برنامه Optimizing application performance

  • دمو: استریم کردن پاسخ‌ها و زمان تا اولین توکن (TTFT) Demo: Response streaming and time to first token (TTFT)

  • پیش‌محاسبه و فراخوانی‌های موازی مدل Pre-computation and parallel FM invocations

  • بهینه‌سازی ایندکس و پیش‌پردازش پرس‌وجو Index optimization and query preprocessing

  • جستجوی ترکیبی و امتیازدهی سفارشی Hybrid search and custom scoring

  • دمو: درک مفاهیم Temperature، Top P و Top K Demo: Understanding temperature, top-p, and top-k

  • انتخاب پارامتر بر اساس مورد استفاده و تست A/B Parameter selection by use case and A/B testing

  • دمو: استنتاج بین‌منطقه‌ای در Amazon Bedrock Demo: Amazon Bedrock cross-region inference

  • استراتژی Exponential Backoff و مدیریت Connection Pooling Exponential backoff and connection pooling

نظارت و مشاهده‌پذیری برای GenAI Monitoring and observability for GenAI

  • دمو: معیارهای عملیاتی و داشبوردهای CloudWatch Demo: Operational metrics and cloudwatch dashboards

  • دمو: معیارهای تأثیر تجاری و شناسایی ناهنجاری‌های هزینه Demo: Business impact metrics and cost anomaly detection

  • دمو: فعال‌سازی و تحلیل گزارش‌های فراخوانی مدل Demo: Enabling and analyzing model invocation logs

  • دمو: شناسایی الگوهای انفجار توکن و انحراف پاسخ‌ها Demo: Detecting token burst patterns and response drift

  • دمو: شناسایی توهمات مدل با استفاده از مجموعه‌داده‌های طلایی Demo: Hallucination detection with golden datasets

  • دمو: ردیابی مسیر استدلال برای خطاهای منطقی Demo: Reasoning path tracing for logic errors

  • دمو: نظارت بر سلامت Vector Store و ابزارهای چند-عاملی Demo: Vector store and multi-agent tool health monitoring

آماده‌سازی برای آزمون Exam preparation

  • مرور دامنه ۴، فرمت سوالات و استراتژی آزمون Domain 4 review, question formats, and exam strategy

  • بررسی جامع نمونه سوالات و اجرای استراتژی Exam walkthrough - applying the strategy

نمایش نظرات

آموزش AIP-C01: بهینه‌سازی و کارایی عملیاتی برای برنامه‌های GenAI
جزییات دوره
2h 0m
26
(آخرین آپدیت)
از 5
دارد
دارد
دارد
Navid Tauhid
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Navid Tauhid Navid Tauhid

نویدوت توحید مشاور یکپارچه ارتباطات و همکاری، متخصص مرکز تماس و معمار با بیش از 15 سال تجربه در صنعت است. او پروژه های متعدد UC سازمانی در مقیاس بزرگ را برای بسیاری از شرکت های چندملیتی مستقر، نگهداری و عیب یابی کرده است. او همچنین به هزاران دانش آموز فناوری اطلاعات در سراسر جهان در مورد محصولات مختلف ارتباطات یکپارچه آموزش داده است و به آنها کمک کرده تا بهترین های فنی خود را داشته باشند. او دارای گواهینامه CCIE Collaboration Written، CCNP Collaboration، Voicemail و مرکز تماس و متخصص مسیریابی و سوئیچینگ CCNA است. او همچنین یک معمار راه حل دارای گواهی Azure و AWS Cloud است. او مشتاق یادگیری فن آوری های جدید است و عاشق به اشتراک گذاری دانش است.