آموزش AIP-C01: کارایی عملیاتی و بهینه‌سازی برای برنامه‌های GenAI - آخرین آپدیت

دانلود AIP-C01: Operational Efficiency and Optimization for GenAI Applications

نکته: ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره: هزینه‌های بالای استنتاج و تأخیرهای غیرقابل پیش‌بینی، اصلی‌ترین موانع برای استقرار برنامه‌های هوش مصنوعی مولد (GenAI) در محیط عملیاتی هستند. در دوره AIP-C01: کارایی عملیاتی و بهینه‌سازی برای برنامه‌های GenAI، شما توانایی مقیاس‌بندی حجم کاری GenAI را در حالی که بالاترین سطح کارایی را حفظ می‌کنید، کسب خواهید کرد. ابتدا، استراتژی‌های بهینه‌سازی هزینه مانند هرس کردن توکن‌ها (Token Pruning) و انتخاب هوشمند مدل را بررسی می‌کنید. سپس، تکنیک‌های تنظیم عملکرد، از جمله حافظه پنهان معنایی (Semantic Caching)، استریم پاسخ‌ها و بهینه‌سازی بازیابی اطلاعات را خواهید آموخت. در نهایت، نحوه پیاده‌سازی نظارت جامع با استفاده از CloudWatch و گزارش‌های فراخوانی مدل Bedrock را برای ردیابی توهمات (Hallucinations) و تغییرات منابع یاد می‌گیرید. پس از اتمام این دوره، شما مهارت‌ها و دانش عملیاتی GenAI لازم برای قبولی در آزمون AIP-C01 و مدیریت استقرارهای حرفه‌ای هوش مصنوعی را به دست خواهید آورد.

سرفصل ها و درس ها

مقدمه‌ای بر کارایی عملیاتی GenAI Introduction to GenAI operational efficiency

  • چالش کارایی در هوش مصنوعی مولد The GenAI efficiency challenge

  • دمو: شمارش توکن‌ها و تخمین هزینه Demo: Token counting and cost estimation

  • فشرده‌سازی پرامپت و هرس کردن بافت (Context Pruning) Prompt compression and context pruning

  • موازنه بین هزینه و قابلیت‌ها در انتخاب مدل‌های بنیادین (FM) Cost-capability tradeoffs in FM selection

  • استفاده لایه‌ای از مدل‌ها بر اساس پیچیدگی پرس‌وجو Tiered FM usage by query complexity

  • دمو: ظرفیت پردازشی On-demand در مقابل Provisioned Demo: On-demand vs. provisioned throughput

  • دمو: استنتاج دسته‌ای (Batch Inference) برای حجم‌های کاری غیرآنلاین Demo: Batch inference for non-real-time workloads

  • دمو: حافظه پنهان معنایی برای برنامه‌های FM Demo: Semantic caching for FM applications

  • دمو: حافظه پنهان پرامپت در Amazon Bedrock Demo: Amazon Bedrock prompt caching

بهینه‌سازی عملکرد برنامه Optimizing application performance

  • دمو: استریم پاسخ‌ها و زمان تا اولین توکن (TTFT) Demo: Response streaming and time to first token (TTFT)

  • پیش‌محاسبات و فراخوانی‌های موازی مدل‌های بنیادین Pre-computation and parallel FM invocations

  • بهینه‌سازی ایندکس و پیش‌پردازش پرس‌وجوها Index optimization and query preprocessing

  • جستجوی ترکیبی و امتیازدهی سفارشی Hybrid search and custom scoring

  • دمو: درک مفاهیم Temperature، Top P و Top K Demo: Understanding temperature, top-p, and top-k

  • انتخاب پارامترها بر اساس مورد مصرف و تست A/B Parameter selection by use case and A/B testing

  • دمو: استنتاج بین‌منطقه‌ای در Amazon Bedrock Demo: Amazon Bedrock cross-region inference

  • عقب‌نشینی نمایی (Exponential Backoff) و مدیریت اتصال‌ها Exponential backoff and connection pooling

نظارت و قابلیت مشاهده برای GenAI Monitoring and observability for GenAI

  • دمو: معیارهای عملیاتی و داشبوردهای CloudWatch Demo: Operational metrics and cloudwatch dashboards

  • دمو: معیارهای تأثیر کسب‌وکار و شناسایی ناهنجاری‌های هزینه Demo: Business impact metrics and cost anomaly detection

  • دمو: فعال‌سازی و تحلیل گزارش‌های فراخوانی مدل Demo: Enabling and analyzing model invocation logs

  • دمو: شناسایی الگوهای انفجار توکن و تغییر پاسخ‌ها (Response Drift) Demo: Detecting token burst patterns and response drift

  • دمو: شناسایی توهمات با استفاده از مجموعه‌داده‌های طلایی Demo: Hallucination detection with golden datasets

  • دمو: ردیابی مسیر استدلال برای خطاهای منطقی Demo: Reasoning path tracing for logic errors

  • دمو: نظارت بر سلامت ذخیره‌ساز برداری و ابزارهای چند-عاملی Demo: Vector store and multi-agent tool health monitoring

آمادگی برای آزمون Exam preparation

  • مرور دامنه ۴، فرمت سوالات و استراتژی آزمون Domain 4 review, question formats, and exam strategy

  • بررسی جامع آزمون و پیاده‌سازی استراتژی Exam walkthrough - applying the strategy

نمایش نظرات

آموزش AIP-C01: کارایی عملیاتی و بهینه‌سازی برای برنامه‌های GenAI
جزییات دوره
2h 0m
26
(آخرین آپدیت)
از 5
دارد
دارد
دارد
Navid Tauhid
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Navid Tauhid Navid Tauhid

نویدوت توحید مشاور یکپارچه ارتباطات و همکاری، متخصص مرکز تماس و معمار با بیش از 15 سال تجربه در صنعت است. او پروژه های متعدد UC سازمانی در مقیاس بزرگ را برای بسیاری از شرکت های چندملیتی مستقر، نگهداری و عیب یابی کرده است. او همچنین به هزاران دانش آموز فناوری اطلاعات در سراسر جهان در مورد محصولات مختلف ارتباطات یکپارچه آموزش داده است و به آنها کمک کرده تا بهترین های فنی خود را داشته باشند. او دارای گواهینامه CCIE Collaboration Written، CCNP Collaboration، Voicemail و مرکز تماس و متخصص مسیریابی و سوئیچینگ CCNA است. او همچنین یک معمار راه حل دارای گواهی Azure و AWS Cloud است. او مشتاق یادگیری فن آوری های جدید است و عاشق به اشتراک گذاری دانش است.