ساخت برنامه‌های کاربردی مبتنی بر توسعه و مقیاس‌بندی LLM

Building Deploying and Scaling LLM Powered Applications

نکته: آخرین آپدیت رو دریافت میکنید حتی اگر این محتوا بروز نباشد.

نمونه ویدیوها: (صرفا برای مشاهده نمونه ویدیو، ممکن هست نیاز به شکن داشته باشید.)

توضیحات دوره: دوره 1 - ساخت و مقیاس بندی سرویس خلاصه سازی متن با استفاده از سرویس های وب Langchain، OpenAI و آمازون شما یاد خواهید گرفت که یک برنامه نرم افزاری مقیاس پذیر کامل بسازید که توسط یک مدل زبان بزرگ پشتیبانی می شود و آن را در مقیاس در سرویس های وب آمازون استقرار می دهید. LLM Powered Backend با Streamlit UI Frontend ابتدا یاد خواهید گرفت که برنامه خود را به صورت محلی آزمایش کنید، سپس آن را با استفاده از Docker بسته بندی کنید و در نهایت بهترین روش ها برای استفاده از Docker داخلی Streamlit را بیاموزید، یک الگو و بهترین روش ها برای تزریق کلیدهای API OpenAI به کانتینر خود یاد خواهید گرفت. برنامه در زمان اجرا یاد خواهید گرفت که آسیب‌پذیری‌ها را در برنامه کانتینری خود برطرف کنید و بهترین روش‌ها برای رفع آن‌ها طراحی کنید، معماری سیستم خود را بر اساس اجزا و انتخاب‌های طراحی در برنامه‌تان طراحی کنید، تفاوت‌های بین مقیاس افقی و مقیاس‌بندی عمودی را خواهید آموخت. کاربرد استقرار بدون سرور را عمیقاً یاد خواهید گرفت و یاد خواهید گرفت که بار متعادل کننده و مقیاس خودکار را در برنامه خود اعمال کنید. کد در پایتون، دانش پایه Langchain (البته، در ویدیوهای دوره مورد بحث قرار خواهد گرفت)، دانش پایه AWS. علاوه بر این، دانش پایه Docker ترجیح داده می شود اما لازم نیست زیرا اطلاعات مورد نیاز برای بسته بندی برنامه های کاربردی برای استقرار در دوره آموزش داده می شود.

آیا آماده هستید تا عمیقاً در دنیای مهندسی یادگیری ماشین غوطه ور شوید و برنامه های نرم افزاری قدرتمند بسازید؟ دوره مهندسی یادگیری ماشین ما برای تجهیز شما به مهارت‌ها و دانش برای استفاده از پتانسیل کامل Langchain، ادغام OpenAI API، استقرار برنامه‌ها در سرویس کانتینر الاستیک AWS، و مدیریت کارآمد مقیاس‌گذاری با استفاده از Load Balancers و Auto Scaling Groups طراحی شده است.

در این دوره آموزشی، نحوه ایجاد برنامه‌های قدرتمند ML را از ابتدا یاد خواهید گرفت. ما با تسلط بر Langchain، یک مدل زبان پیشرفته، شروع می کنیم و نشان می دهیم که چگونه کلید OpenAI API خود را به طور یکپارچه به خط لوله پیش بینی در زمان اجرا تزریق کنید. شما در طراحی و توسعه برنامه های ML که می توانند متنی شبیه انسان را درک، پردازش و تولید کنند، مهارت کسب خواهید کرد.

همانطور که پیشرفت می کنید، مفاهیم اساسی مقیاس افقی و مقیاس عمودی را بررسی می کنیم و درک روشنی از زمان و نحوه اجرای هر استراتژی ارائه می دهیم. سپس با استقرار Application Load Balancers و Auto Scaling Groups در AWS، با اطمینان از در دسترس بودن و تحمل خطا بالا، نحوه مقیاس‌بندی برنامه ML خود را به آسانی کشف خواهید کرد.

در پایان این دوره، شما در ساخت نرم افزارهای مبتنی بر ML، استقرار آنها در AWS و مقیاس بندی آنها برای برآورده کردن خواسته های کاربران خود به خوبی مسلط خواهید شد. در این سفر هیجان انگیز به دنیای مهندسی یادگیری ماشین به ما بپیوندید و به یک پزشک ماهر در این زمینه به سرعت در حال تکامل تبدیل شوید.

سرفصل ها و درس ها

معرفی و نصب نرم افزار Introduction and Software Installation

مقدمه Introduction
نصب نرم افزار توسعه Installing Development Software

خط لوله پیش بینی ساخت و آزمایش Building And Testing Prediction Pipeline

ساخت خط لوله پیش بینی Building A Prediction Pipeline
خط لوله پیش بینی آزمایشی Testing Prediction Pipeline

راه اندازی AWS CLI و Secrets Manager Setting Up AWS CLI and Secrets Manager

نصب AWS CLI Installing AWS CLI
راه اندازی مدیر اسرار Setting Up Secrets Manager

یکپارچه سازی مدیر اسرار با خط لوله پیش بینی Integrating Secrets Manager With Prediction Pipeline

تزریق کلید API از Secrets Manager به برنامه Injecting API Key From Secrets Manager into Application
تغذیه کلید API به طور مستقیم به خط لوله پیش بینی Feeding API Key Directly Into Prediction Pipeline

ساخت و تست برنامه کاربردی Frontend Building and Testing Application Frontend

ساختمان جلوی برنامه Building Front End Of Application
تست جلوی برنامه Testing Front End Of Application

برنامه بسته بندی و ذخیره سازی در رجیستری ظروف الاستیک Packaging And Storing Application in Elastic Container Registry

نوشتن فایل داکر Writing Docker File
بسته بندی برنامه ما و ذخیره سازی در رجیستری ظروف الاستیک Packaging Our Application and Storing on Elastic Container Registry
آزمایش برنامه بسته بندی شده ما Testing Our Packaged Application

اضافه کردن مجوزها برای استقرار موفقیت آمیز Adding Permissions For Successful Deployment

تغییر مجوزهای حساب برای استقرار Modifying Account Permissions For Deployment

استقرار و آزمایش برنامه در سرویس کانتینر الاستیک Deploying and Testing Application on Elastic Container Service

استقرار برنامه ما در ECS Deploying Our Application on ECS
آزمایش برنامه ما در ECS Testing Our Application on ECS

مقیاس کردن خدمات ما با متعادل کننده های بار برنامه و گروه های مقیاس خودکار Scaling Our Service with Application Load Balancers and Auto Scaling Groups

تفاوت بین مقیاس افقی و مقیاس بندی عمودی Difference between Horizontal Scaling vs Vertical Scaling
خدمات مقیاس پذیر ساختمان - اضافه کردن متعادل کننده بار و مقیاس خودکار Building Scalable Service - Adding Load Balancer and Auto Scaling
افشای و آزمایش خدمات ما Exposing & Testing Our Service