آموزش هوش مصنوعی امن: ردتیمینگ (Red-Teaming) و فیلترهای ایمنی - آخرین آپدیت

سناریوهای ردتیمینگ برای آسیب‌پذیری‌های LLM Red-Teaming Scenarios for LLM Vulnerabilities

• خوش‌آمدگویی به دوره امنیت هوش مصنوعی و فیلترهای ایمنی Welcome to Secure AI Red-Teaming & Safety Filters

• درک بردارهای حمله AI و دسته‌بندی آسیب‌پذیری‌ها Understanding AI Attack Vectors and Vulnerability Categories

• طراحی سناریوهای موثر ردتیمینگ Designing Effective Red-Teaming Scenarios

• کشف عملی آسیب‌پذیری‌ها با ابزارهای خودکار Hands-On Vulnerability Discovery with Automated Tools

فیلترهای ایمنی محتوا: پیاده‌سازی و تست Content-Safety Filters: Implementation and Testing

• معماری فیلترهای ایمنی محتوای چندلایه Multi-Layered Content-Safety Filter Architecture

• پیاده‌سازی و پیکربندی فیلترهای ایمنی برای محیط عملیاتی Implementing and Configuring Safety Filters for Production

• تست اثربخشی فیلترها در برابر تلاش‌های دور زدن Testing Filter Effectiveness Against Bypass Attempts

تست تاب‌آوری LLM و بهبود استحکام هوش مصنوعی Testing LLM Resilience and Improving AI Robustness

• تعیین معیارهای پایه امنیتی و بنچ‌مارک‌های تاب‌آوری Establishing Baseline Security Metrics and Resilience Benchmarks

• تست مستمر و ارزیابی خودکار آسیب‌پذیری‌ها Continuous Testing and Automated Vulnerability Assessment

• بهبود سیستماتیک امنیت و سخت‌سازی تطبیقی Systematic Security Improvement and Adaptive Hardening

• جمع‌بندی دوره Course Wrap-Up