مقدمه ای بر آسیب پذیری های LLM

سرفصل ها و درس ها

درباره این دوره About This Course

• با مربی خود آشنا شوید Meet your instructor

1. مبانی مدل های زبان بزرگ 1. Foundations of Large Language Models

• LLM چیست و چگونه کار می کند What are LLMs and how do they work

• چگونه LLM ها در برنامه ها کار می کنند How do LLMs work in applications

• LLM ها چگونه ایجاد می شوند How are LLMs created

2. برنامه های کاربردی مدل زبان 2. Language Model Applications

• انواع رایج برنامه های کاربردی هوش مصنوعی مولد Common types of generative AI applications

• نمای کلی یک برنامه مبتنی بر API Overview of an API-based application

• چالش ها و نکات برجسته برنامه های هوش مصنوعی Challenges and highlights of AI applications

• مقدمه ای بر برنامه های کاربردی مدل زبان Introduction to language model applications

• خلاصه Summary

• نمای کلی یک برنامه کاربردی مدل تعبیه شده Overview of an embedded-model application

• اپلیکیشن چند وجهی چیست؟ What is a multi-modal application

3. آسیب پذیری های مدل 3. Model Vulnerabilities

• مقدمه ای بر آسیب پذیری های مبتنی بر مدل Introduction to model-based vulnerabilities

• مدل سرقت Model theft

• شبیه سازی مدل Model replication

• مدیریت ناامن خروجی Insecure output handling

• خلاصه Summary

• تزریق سریع Prompt injection

4. آسیب پذیری های سیستم 4. System Vulnerabilties

• خلاصه Summary

• مقدمه ای بر آسیب پذیری های سیستم Introduction to system vulnerabilities

• افشای اطلاعات حساس Sensitive information disclosure

• آسیب پذیری های برنامه Application vulnerabilities

• طراحی پلاگین ناامن Insecure plugin design

نتیجه گیری Conclusion

• نتیجه گیری Conclusion

• انواع دیگر آسیب پذیری ها Other types of vulnerabilities