آموزش مدل های بزرگ زبان در AWS: ساختمان و استقرار LLM های منبع باز - آخرین آپدیت
دانلود Large Language Models on AWS: Building and Deploying Open-Source LLMs
در این دوره ، متخصص MLOPS Noah Gift World of Models Legress Language (LLMS) را در AWS برجسته می کند. در مورد ابزار ابزار ضروری ، از جمله نحوه بهینه سازی و کامپایل LLMS مانند llama.cpp اطلاعات کسب کنید. پیامدهای قانون Amdahl را برای کارهای محاسباتی خود کشف کرده و با استفاده از قالب پرونده GGUF ، تظاهرات عملی را مشاهده کنید. برای به حداکثر رساندن عملکرد و کارآیی مدل های خود در مورد اسکریپت و بسته بندی Python UV اطلاعات کسب کنید. مفاهیم کلیدی را در Llama.cpp از طریق پیاده روی های دقیق درک کرده و نسخه های نمایشی نهایی به پایان مدلهای کمیت شده را در موارد AWS G5 مشاهده کنید. دانش عملی و تجربه ای را بدست آورید که می تواند مستقیماً در پروژه های شما اعمال شود. در پایان دوره ، شما قادر خواهید بود به طور مؤثر از LLM های منبع باز در AWS استفاده و بهینه سازی کنید و برنامه های هوش مصنوعی خود را کارآمدتر و قدرتمندتر کنید.
این دوره توسط Pragmatic AI Labs LLC ایجاد شده است. ما خوشحالیم که این آموزش را در کتابخانه خود میزبانی می کنیم.
مقدمه Introduction
-
معرفی LLMS منبع باز در AWS Intro to open source LLMs on AWS
منبع باز ابزار LLM و بهینه سازی Open Source LLM Toolchain and Optimization
-
بررسی اجمالی بسته بندی UV Python Python UV packaging overview
-
اسکریپت UV پایتون Python UV scripting
-
تهیه نسخه ی نمایشی Llama.cpp Compiling llama.cpp demo
-
Llama.cpp در نسخه ی نمایشی AWS G5 Llama.cpp on AWS G5 demo
-
GGUF LLAMA.CPP DEMO پایان به پایان GGUF quantized llama.cpp end-to-end demo
-
پیامدهای قانون Amdahl: یک پیاده روی Implications of Amdahl’s law: A walkthrough
-
قالب پرونده GGUF GGUF file format
-
مفاهیم کلیدی در Llama.cpp Walkthrough Key concepts in llama.cpp walkthrough
پایان Conclusion
-
خلاصه Summary
https://donyad.com/d/77343c
Noah Gift
کارشناس MLOps | انفرادی | نویسنده | استادیار | CTO
نوح به طور گسترده با AWS کار می کند و یک قهرمان یادگیری ماشین AWS است. او دارای چندین گواهینامه صنعتی برای AWS است. نوح آموزش و طراحی دوره های آموزشی ماشین فارغ التحصیل، MLOps، A.I.، علم داده و مشاوره در زمینه یادگیری ماشین و معماری ابری را انجام می دهد. مسئولیت های او شامل رهبری ابتکار صدور گواهینامه چند ابری برای دانش آموزان است. نوح نقش های مختلفی را به صورت حرفه ای ایفا کرده است، از جمله CTO، مدیر کل، مشاور مدیر ارشد فناوری، مشاور ارشد دانشمند داده و معمار ابر. او همچنین دارای چندین تیتراژ فیلم در فیلمهای اصلی برای کارهای فنی از جمله آواتار، مرد عنکبوتی 3 و بازگشت سوپرمن است.
Pragmatic AI Labs
آزمایشگاههای هوش مصنوعی عملگرا یک آموزشدهنده فناوری است.
آزمایشگاههای هوش مصنوعی عملی همه را، صرفنظر از ابزار یا پیشزمینه، به دانشی برای تغییر خود و ارتقای جوامع خود مجهز میکند. آزمایشگاههای هوش مصنوعی عملگرا تلاش میکنند تا آموزش را دموکراتیک کرده و زندگی را از طریق فناوری خلاقانه و اخلاقی تقویت کنند. با مدرسان برجسته از دانشگاههای برتر با تجربه صنعت در دنیای واقعی، برنامههای آن بر ارائه مهارتهای در دسترس و پیشرفته تمرکز دارد که منجر به تحقق مشاغل و در عین حال اجتناب از آسیب و بهبود رفاه انسان میشود.
نمایش نظرات