آموزش 10 برنامه برتر OWASP برای مدل زبان بزرگ (LLM): یک مرور کلی

The OWASP Top 10 for Large Language Model (LLM) Applications: An Overview

نکته: آخرین آپدیت رو دریافت میکنید حتی اگر این محتوا بروز نباشد.
نمونه ویدیوها:
توضیحات دوره:

از زمان انتشار ChatGPT، به نظر می رسد همه در مورد مدل های زبان بزرگ (LLM) صحبت می کنند. با پذیرش سریع این فناوری جدید هیجان‌انگیز، برای سازمان‌ها بسیار مهم است که به عوامل تهدید مخربی که می‌توانند از مزایای هر گونه پیشرفت در حال ظهور سوء استفاده کنند و خطرات قابل‌توجهی برای داده‌ها و حریم خصوصی شما ایجاد کنند، رسیدگی کنند.

این دوره 10 مدل برتر OWASP را برای مدل‌های زبان بزرگ پوشش می‌دهد، که فهرستی از خطرناک‌ترین خطرات استفاده از این فناوری را همراه با استراتژی‌های عملی در مورد نحوه جلوگیری از آنها ارائه می‌دهد. به مربی Reet Kaur بپیوندید تا ده آسیب‌پذیری امنیتی مهم و حیاتی کسب‌وکار را پوشش دهد، از جمله تزریق سریع، مدیریت ناامن خروجی، مسمومیت داده‌های آموزشی، انکار مدل، آسیب‌پذیری‌های زنجیره تامین، افشای اطلاعات حساس، طراحی پلاگین ناامن، نمایندگی بیش از حد، اتکای بیش از حد، و سرقت مدل.


سرفصل ها و درس ها

معرفی Introduction

  • OWASP و لیست 10 برتر چیست؟ What is the OWASP and top 10 list?

  • معرفی 10 برتر OWASP برای LLM Introduction to OWASP Top 10 for LLMs

1. OWASP برتر 10 برای LLM 1. OWASP Top 10 for LLMs

  • آسیب پذیری LLM 04: مدل انکار سرویس LLM vulnerability 04: Model Denial of Service

  • آسیب پذیری LLM 03: مسمومیت داده های آموزشی LLM vulnerability 03: Training data poisoning

  • آسیب پذیری LLM 10: سرقت مدل LLM vulnerability 10: Model theft

  • آسیب پذیری LLM 01: حمله تزریقی LLM vulnerability 01: Injection attack

  • آسیب پذیری LLM 09: اعتماد بیش از حد LLM vulnerability 09: Over reliance

  • آسیب پذیری LLM 02: مدیریت ناامن خروجی LLM vulnerability 02: Insecure output handling

  • آسیب پذیری LLM 03: فرآیند ساخت و استقرار LLM LLM vulnerability 03: LLM build and deployment process

  • آسیب پذیری LLM 07: طراحی پلاگین ناامن LLM vulnerability 07: Insecure plugin design

  • آسیب پذیری LLM 01: تزریق سریع - اعلان چیست؟ LLM vulnerability 01: Prompt injection – What is a prompt?

  • آسیب‌پذیری LLM 05: آسیب‌پذیری زنجیره تأمین چیست؟ LLM vulnerability 05: What is a supply chain vulnerability?

  • آسیب پذیری LLM 06: افشای اطلاعات حساس LLM vulnerability 06: Sensitive information disclosure

  • آسیب پذیری LLM 05: آسیب پذیری زنجیره تامین LLM vulnerability 05: Supply chain vulnerability

  • آسیب پذیری LLM 08: نمایندگی بیش از حد LLM vulnerability 08: Excessive agency

نتیجه Conclusion

  • ادامه مطلب و مراحل بعدی Further reading and the next steps

نمایش نظرات

آموزش 10 برنامه برتر OWASP برای مدل زبان بزرگ (LLM): یک مرور کلی
جزییات دوره
0h 51m
16
Linkedin (لینکدین) Linkedin (لینکدین)
(آخرین آپدیت)
575
- از 5
ندارد
دارد
دارد
Reet Kaur
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Reet Kaur Reet Kaur

مدیر اجرایی Merck & Co. Inc

Reet Kaur مدیر اجرایی امنیت ابر، امنیت داده ها و برنامه ها، و بینش GRC در Merck است.

ریت قبلاً افسر ارشد امنیت اطلاعات در کالج اجتماعی پورتلند بود، جایی که او تلاش‌های امنیتی را برای هماهنگی با مأموریت و اهداف سازمان رهبری می‌کرد. قبل از آن، او به مدت هفت سال به عنوان مدیر نظارت بر امنیت اطلاعات، ریسک و انطباق در نایک فعالیت می کرد. او پیشینه رهبری در امور مالی، فناوری اطلاعات و امنیت اطلاعات دارد و تأثیر قابل توجهی در شرکت هایی مانند AECOM، Fidelity و بانک تجارت سلطنتی کانادا دارد. او دارای چندین گواهینامه امنیت سایبری است، بینش خود را به گروه‌های Cyversity و پانل‌های صنعتی منتقل می‌کند، و ارائه‌اش در کنفرانس امنیتی RSA 2023 به عنوان یکی از جلسات دارای رتبه برتر شناخته شد.