آموزش بررسی جامع ۱۰ مورد اول OWASP برای اپلیکیشنهای مدلهای زبانی بزرگ (LLM) - آخرین آپدیت
دانلود The OWASP Top 10 for Large Language Model (LLM) Applications: An Overview
نکته:
ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
سرفصل ها و درس ها
مقدمه Introduction
-
معرفی OWASP Top 10 سال ۲۰۲۵ برای LLMها Introducing the 2025 OWASP Top 10 for LLMs
-
لیست OWASP Top 10 چیست؟ What is the OWASP Top 10 list?
-
نحوه مدلسازی تهدیدات برای اپلیکیشنهای LLM How to threat model LLM applications
1. ۱۰ مورد اول OWASP برای LLMها 1. OWASP Top 10 for LLMs
-
تزریق پرامپت (Prompt Injection) چیست؟ What is prompt injection?
-
توصیههای OWASP برای دفاع در برابر تزریق پرامپت OWASP recommendations to defend against prompt injection
-
جیلبریکینگ (Jailbreaking) چیست و چه تفاوتی با تزریق پرامپت دارد؟ What is jailbreaking? How does it differ from prompt injection?
-
پرامپت چیست؟ What is a prompt?
2. افشای اطلاعات حساس 2. Sensitive Information Disclosure
-
چگونه از افشای اطلاعات حساس جلوگیری کنیم How to prevent sensitive information disclosure
-
افشای اطلاعات حساس چیست؟ What is sensitive information disclosure?
3. زنجیره تأمین 3. Supply Chain
-
ریسکهای زنجیره تأمین Supply chain risks
-
ایمنسازی زنجیره تأمین LLM Securing the LLM supply chain
4. مسمومیت دادهها و مدل 4. Data and Model Poisoning
-
مسمومیت دادهها و مدل چیست؟ What is data and model poisoning?
-
نحوه متوقف کردن مسمومیت دادهها و مدل How to stop data and model poisoning
5. مدیریت نادرست خروجی 5. Improper Output Handling
-
جلوگیری از مدیریت نادرست خروجی Preventing improper output handling
-
مدیریت ناامن خروجی Insecure output handling
6. دسترسی بیش از حد (Excessive Agency) 6. Excessive Agency
-
دسترسی بیش از حد (Excessive Agency) Excessive agency
-
راهکارهای کاهش ریسک دسترسی بیش از حد Excessive agency mitigations
7. نشت پرامپت سیستم 7. System Prompt Leakage
-
نشت پرامپت سیستم: راهکارهای کاهش ریسک System prompt leakage: Mitigations
-
نشت پرامپت سیستم System prompt leakage
8. نقاط ضعف برداری و جاسازی (Embedding) 8. Vector and Embedding Weaknesses
-
راهکارهای کاهش آسیبپذیریهای برداری و جاسازی Vector and embedding vulnerabilities mitigations
-
آسیبپذیریهای برداری و جاسازی Vector and embedding vulnerabilities
9. اطلاعات نادرست 9. Misinformation
-
راهکارهای کاهش اثر اطلاعات نادرست Misinformation mitigations
-
اطلاعات نادرست Misinformation
10. مصرف نامحدود منابع 10. Unbounded Consumption
-
مصرف نامحدود منابع Unbounded consumption
-
راهکارهای کاهش ریسک مصرف نامحدود Unbounded consumption mitigations
جمعبندی Conclusion
-
سخن نهایی و گامهای بعدی Final thoughts and next steps
https://donyad.com/d/3966d6
Reet Kaur
مدیر اجرایی Merck & Co. Inc
Reet Kaur مدیر اجرایی امنیت ابر، امنیت داده ها و برنامه ها، و بینش GRC در Merck است.
ریت قبلاً افسر ارشد امنیت اطلاعات در کالج اجتماعی پورتلند بود، جایی که او تلاشهای امنیتی را برای هماهنگی با مأموریت و اهداف سازمان رهبری میکرد. قبل از آن، او به مدت هفت سال به عنوان مدیر نظارت بر امنیت اطلاعات، ریسک و انطباق در نایک فعالیت می کرد. او پیشینه رهبری در امور مالی، فناوری اطلاعات و امنیت اطلاعات دارد و تأثیر قابل توجهی در شرکت هایی مانند AECOM، Fidelity و بانک تجارت سلطنتی کانادا دارد. او دارای چندین گواهینامه امنیت سایبری است، بینش خود را به گروههای Cyversity و پانلهای صنعتی منتقل میکند، و ارائهاش در کنفرانس امنیتی RSA 2023 به عنوان یکی از جلسات دارای رتبه برتر شناخته شد.
ریت قبلاً افسر ارشد امنیت اطلاعات در کالج اجتماعی پورتلند بود، جایی که او تلاشهای امنیتی را برای هماهنگی با مأموریت و اهداف سازمان رهبری میکرد. قبل از آن، او به مدت هفت سال به عنوان مدیر نظارت بر امنیت اطلاعات، ریسک و انطباق در نایک فعالیت می کرد. او پیشینه رهبری در امور مالی، فناوری اطلاعات و امنیت اطلاعات دارد و تأثیر قابل توجهی در شرکت هایی مانند AECOM، Fidelity و بانک تجارت سلطنتی کانادا دارد. او دارای چندین گواهینامه امنیت سایبری است، بینش خود را به گروههای Cyversity و پانلهای صنعتی منتقل میکند، و ارائهاش در کنفرانس امنیتی RSA 2023 به عنوان یکی از جلسات دارای رتبه برتر شناخته شد.
نمایش نظرات