آموزش ایمن‌سازی خروجی‌های LLM: تست و ارزیابی - آخرین آپدیت

دانلود Safeguard LLM Outputs: Test and Evaluate

نکته: ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.

نمونه ویدیوها: (صرفا برای مشاهده نمونه ویدیو، ممکن هست نیاز به شکن داشته باشید.)

توضیحات دوره: همانطور که مدل‌های هوش مصنوعی مانند Gemini گوگل نشان داده‌اند، حتی پیشرفته‌ترین سیستم‌ها نیز می‌توانند دچار شکست‌های امنیتی شدیدی شوند که منجر به آسیب به برند و از دست رفتن اعتماد کاربران می‌گردد. دوره «ایمن‌سازی خروجی‌های LLM: تست و ارزیابی» یک دوره سطح متوسط برای توسعه‌دهندگان و مهندسان یادگیری ماشین (ML) است که نیاز دارند فراتر از تست‌های عملکردی رفته و هوش مصنوعی واقعاً قابل اعتمادی بسازند. این دوره متدهای سخت‌گیرانه تست‌های تقابلی (Adversarial Testing) را که تیم‌های قرمز (Red Teams) حرفه‌ای برای ایمن‌سازی برنامه‌های حساس استفاده می‌کنند، به شما می‌آموزد. شما یاد می‌گیرید که چگونه سیاست‌های انتزاعی ایمنی را با استفاده از pytest به تست‌های رفتاری خودکار و ملموس تبدیل کنید و پرامپت‌های تقابلی را برای شناسایی سیستماتیک نقاط ضعف طراحی نمایید. سپس، با استفاده از فریم‌ورک‌های تست جهش (Mutation Testing) مانند mutmut، در هنر «تست کردنِ تست‌ها» استاد می‌شوید تا شکاف‌های پنهان در شبکه ایمنی خود را یافته و حذف کنید. در پایان این دوره، شما نه‌تنها قادر خواهید بود رفتار ایمن LLM خود را تضمین کنید، بلکه می‌توانید ثابت کنید که تست‌های تاییدکننده این ایمنی، جامع و مستحکم هستند.

سرفصل ها و درس ها

ساخت و مقاوم‌سازی مجموعه تست‌های ایمنی هوش مصنوعی Building and Hardening an AI Safety Test Suite

وقتی مدل‌های خوب دچار خطا می‌شوند: بررسی مورد Gemini When Good Models Go Bad: The Gemini Case Study?
چگونه یک مجموعه تست رفتاری بسازیم؟ How to Build a Behavioral Test Suite?
چرا پوشش ۱۰۰ درصدی کافی نیست؟ Why 100% Coverage Isn't Enough?
چگونه جهش‌های بازمانده را شناسایی و حذف کنیم؟ How to Find and Kill Surviving Mutants?