کانال تلگرام پشتیبانی تلگرام شماره تماس پشتیبانی: 0930 395 3766
ورود ثبت نام

آموزش ۱۰ ریسک برتر OWASP برای مدل‌های زبانی بزرگ (LLM) - آخرین آپدیت

دانلود OWASP Top 10 for Large Language Models

نکته: ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره: بررسی جامع ۱۰ ریسک برتر OWASP برای مدل‌های زبانی بزرگ (LLMs) در این دوره آموزشی، مفاهیم بنیادین پروژه امنیت اپلیکیشن‌های وب (OWASP) را در حوزه مدل‌های زبانی بزرگ بررسی می‌کنیم. آشنایی با معماری هسته، عملکرد و خطرات مرتبط با مدل‌های زبانی بزرگ (LLMs). یادگیری نحوه شناسایی و کاهش آسیب‌پذیری‌های ناشی از ورودی‌های مخرب که می‌توانند رفتار مدل را تغییر دهند. تضمین مدیریت و رندرینگ ایمن خروجی‌های LLM برای جلوگیری از نشت ناخواسته داده‌ها. پیشگیری و پاسخ به حملاتی که هدف آن‌ها تخریب داده‌های مورد استفاده برای آموزش مدل‌ها است. مقابله با تهدیداتی که قصد ایجاد سربار یا اختلال در سرویس‌های LLM را دارند تا در دسترس بودن آن‌ها تضمین شود. بررسی ریسک‌های معرفی شده از طریق سرویس‌های شخص ثالث و وابستگی‌های خارجی. جلوگیری از افشای ناخواسته داده‌های حساس در تعاملات با مدل‌های زبانی. طراحی و پیاده‌سازی امن پلاگین‌ها یا افزونه‌ها. مدیریت و محدود کردن قابلیت‌های تصمیم‌گیری خودگردان در LLMها. آموزش در مورد خطرات و محدودیت‌های وابستگی بیش از حد به هوش مصنوعی. محافظت از مالکیت معنوی مدل‌های زبانی در برابر دسترسی‌های غیرمجاز و کپی‌برداری. پیش نیازها: اشتیاق به یادگیری مباحث جذاب امنیتی و دانش پایه فناوری اطلاعات (IT).

این دوره شامل استفاده از ابزارهای هوش مصنوعی است.

دوره «۱۰ ریسک برتر OWASP برای LLMها» اثر کریستوفر نت، یک دوره جامع و سازمان‌یافته است که برای متخصصان IT طراحی شده تا در زمینه ساخت، حفاظت و تست نفوذ مدل‌های زبانی بزرگ به مهارت برسند. این دوره شما را به صورت سیستماتیک از مفاهیم پایه تا مباحث پیشرفته هدایت می‌کند.

با تسلط بر این استاندارد، شما تخصص خود را در موضوعات حیاتی چشم‌انداز امنیت سایبری امروز ارتقا می‌دهید و در زمینه حمله و دفاع در LLMها که یک موضوع پیچیده و شناخته شده در صنعت است، خبره می‌شوید.

این بررسی عمیق، شما را به مهارت‌های لازم برای یک مسیر شغلی پیشرو در امنیت سایبری مجهز می‌کند.

مزایای کلیدی این دوره برای شما:

  1. مبانی OWASP: بررسی اصول بنیادین پروژه امنیت اپلیکیشن‌های وب.

  2. مبانی LLM: درک معماری، عملکرد و ریسک‌های مرتبط با مدل‌های زبانی بزرگ.

  3. تزریق پرامپت (Prompt Injection): یاد بگیرید چگونه مهاجمان مدل‌های AI را از طریق ورودی‌های مخرب دستکاری می‌کنند و استراتژی‌های مقابله را بیاموزید.

  4. افشای اطلاعات حساس: درک خطرات نمایش ناخواسته داده‌ها در تعاملات AI و روش‌های جلوگیری از نشت اطلاعات محرمانه.

  5. زنجیره تامین (Supply Chain): بررسی دغدغه‌های امنیتی مربوط به زنجیره تامین AI، شامل وابستگی به منابع داده خارجی و مدل‌های شخص ثالث.

  6. مسموم‌سازی داده‌ها و مدل‌ها: بررسی حملات مسموم‌سازی که در آن مهاجمان داده‌های آموزشی را برای تغییر رفتار AI دستکاری می‌کنند.

  7. مدیریت نادرست خروجی: یاد بگیرید چگونه پردازش اشتباه پاسخ‌های تولید شده توسط AI می‌تواند منجر به آسیب‌پذیری‌های امنیتی یا انتشار اطلاعات نادرست شود.

  8. عاملیت بیش از حد (Excessive Agency): درک خطرات انجام اقدامات خودگردان ناخواسته توسط سیستم‌های AI فراتر از محدوده تعیین شده.

  9. نشت پرامپت سیستم: بررسی نحوه استخراج دستورالعمل‌های داخلی سیستم توسط مهاجمان و افشای منطق داخلی مدل.

  10. ضعف‌های Vector و Embedding: شناسایی آسیب‌پذیری‌ها در پایگاه‌های داده برداری که می‌تواند برای دستکاری خروجی‌های AI استفاده شود.

  11. اطلاعات نادرست (Misinformation): تحلیل نحوه تولید یا تقویت اخبار جعلی توسط مدل‌های AI و توسعه استراتژی‌های افزایش دقت محتوا.

  12. مصرف نامحدود منابع: درک ریسک‌های مصرف بیش از حد منابع در اپلیکیشن‌های AI و پیاده‌سازی مکانیزم‌های حفاظتی در برابر سوءاستفاده.

  13. این دوره تحلیلی عمیق از ریسک‌های امنیتی کلیدی در هوش مصنوعی و مدل‌های زبانی بزرگ (LLMs) ارائه می‌دهد. با بررسی تکنیک‌های حمله واقعی و استراتژی‌های دفاعی، یاد می‌گیرید چگونه اپلیکیشن‌های AI را ایمن کنید و استقرار مسئولانه هوش مصنوعی را تضمین نمایید.

این دوره شامل محتوای تبلیغاتی است.

سرفصل ها و درس ها

مقدمه Introduction

  • خوش‌آمدگویی Welcome

  • سوالات متداول FAQs

مبانی مدل‌های زبانی بزرگ (LLMs) Basics - Large Language Models (LLMs)

  • مدل زبانی بزرگ (LLM) چیست؟ What is an LLM?

  • پرامپت چیست؟ What is a Prompt?

  • معماری یک LLM Architecture of an LLM

مبانی OWASP Basics - OWASP

  • سازمان OWASP چیست؟ What is OWASP?

  • ۱۰ ریسک برتر امنیت اپلیکیشن‌های وب OWASP Top 10 - Web Application Security Risks

  • ۱۰ ریسک برتر امنیت APIها OWASP Top 10 - API Security Risks

  • ۱۰ ریسک برتر امنیت LLMها OWASP Top 10 - LLM Security Risks

  • راه‌اندازی محیط آزمایشگاه Lab Setup

ریسک اول: تزریق پرامپت (Prompt Injection) LLM01: Prompt Injection

  • تزریق پرامپت Prompt Injection

  • راهکارهای مقابله Countermeasures

  • دموی عملی Demo

ریسک دوم: افشای اطلاعات حساس LLM02: Sensitive Information Disclosure

  • افشای اطلاعات حساس Sensitive Information Disclosure

  • راهکارهای مقابله Countermeasures

ریسک سوم: زنجیره تامین LLM03: Supply Chain

  • زنجیره تامین Supply Chain

  • راهکارهای مقابله Countermeasures

  • دموی عملی Demo

ریسک چهارم: مسموم‌سازی داده‌ها و مدل LLM04: Data and Model Poisoning

  • مسموم‌سازی داده‌ها و مدل Data and Model Poisoning

  • راهکارهای مقابله Countermeasures

ریسک پنجم: مدیریت نادرست خروجی LLM05: Improper Output Handling

  • مدیریت نادرست خروجی Improper Output Handling

  • راهکارهای مقابله Countermeasures

  • دموی عملی Demo

ریسک ششم: عاملیت بیش از حد LLM06: Excessive Agency

  • عاملیت بیش از حد Excessive Agency

  • راهکارهای مقابله Countermeasures

  • دموی عملی Demo

ریسک هفتم: نشت پرامپت سیستم LLM07: System Prompt Leakage

  • نشت پرامپت سیستم System Prompt Leakage

  • راهکارهای مقابله Countermeasures

ریسک هشتم: ضعف‌های Vector و Embedding LLM08: Vector and Embedding Weaknesses

  • ضعف‌های Vector و Embedding Vector and Embedding Weaknesses

  • راهکارهای مقابله Countermeasures

ریسک نهم: اطلاعات نادرست LLM09: Misinformation

  • اطلاعات نادرست Misinformation

  • راهکارهای مقابله Countermeasures

ریسک دهم: مصرف نامحدود منابع LLM10: Unbound Consumption

  • مصرف نامحدود منابع Unbound Consumption

  • راهکارهای مقابله Countermeasures

بونوس و مطالب تکمیلی Bonus

  • بونوس Bonus

آموزش تمرین روزانه هنری برای مراقبت از خود: 14 روز پیام برای خودتان

آموزش تمرین روزانه هنری برای مراقبت از خود: 14 روز پیام برای خودتان

Daily Art Practice for Self-Care: 14 Days of Messages To Yourself

آموزش الگوهای پیشرفته طراحی: اصول طراحی

آموزش الگوهای پیشرفته طراحی: اصول طراحی

Advanced Design Patterns: Design Principles

آموزش CDS متخصص ITIL® 4: شروع به کار

آموزش CDS متخصص ITIL® 4: شروع به کار

ITIL® 4 Specialist CDS: Getting Started

نمایش نظرات

آموزش ۱۰ ریسک برتر OWASP برای مدل‌های زبانی بزرگ (LLM)
جزییات دوره
2 hours
35
Udemy (یودمی) Udemy (یودمی)
(آخرین آپدیت)
1,005
4.4 از 5
ندارد
دارد
دارد

https://donyad.com/d/2afde1

جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

Christopher Nett Christopher Nett

معمار امنیت سایبری | امنیت ابری | اعتماد صفر