آموزش مدل های بزرگ زبان در AWS: ساختمان و استقرار LLM های منبع باز

مقدمه Introduction

• معرفی LLMS منبع باز در AWS Intro to open source LLMs on AWS

منبع باز ابزار LLM و بهینه سازی Open Source LLM Toolchain and Optimization

• بررسی اجمالی بسته بندی UV Python Python UV packaging overview

• اسکریپت UV پایتون Python UV scripting

• تهیه نسخه ی نمایشی Llama.cpp Compiling llama.cpp demo

• Llama.cpp در نسخه ی نمایشی AWS G5 Llama.cpp on AWS G5 demo

• GGUF LLAMA.CPP DEMO پایان به پایان GGUF quantized llama.cpp end-to-end demo

• پیامدهای قانون Amdahl: یک پیاده روی Implications of Amdahl’s law: A walkthrough

• قالب پرونده GGUF GGUF file format

• مفاهیم کلیدی در Llama.cpp Walkthrough Key concepts in llama.cpp walkthrough

پایان Conclusion

• خلاصه Summary