آموزش ریسک و انطباق هوش مصنوعی: مبانی حسابرسی و حاکمیت - آخرین آپدیت

تاب‌آوری در برابر حملات و تیم قرمز در سیستم‌های هوش مصنوعی Adversarial Robustness & Red Teaming AI Systems

• دامنه شغلی در حاکمیت هوش مصنوعی، تیم قرمز و ریسک Career Scope in AI Governance, Red Teaming & Risk

• دسته‌های تهدید LLM: جیل‌بریک، نشت و دستکاری LLM Threat Categories: Jailbreaks, Leakage & Manipulation

• تمایز بین خطاهای عادی و رفتارهای خصمانه Distinguishing Benign Failures vs Adversarial Behavior

• نحوه عملکرد تزریق پرامپت (آناتومی حمله) How Prompt Injection Works (Attack Anatomy)

• نحوه عملکرد تزریق پرامپت (آناتومی حمله) بخش دوم How Prompt Injection Works (Attack Anatomy) - Part 2

• تکنیک‌های جیل‌بریک علیه مدل‌های چت مدرن Jailbreak Techniques Against Modern Chat Models

• تست استرس دفاعی LLM در معماری‌های مختلف Stress-Testing LLM Defenses Across Architectures

• آشنایی با اسکن‌های آسیب‌پذیری Giskard Introduction to Giskard Vulnerability Scans

انطباق با مقررات: قانون هوش مصنوعی اتحادیه اروپا، NIST RMF و کپی‌رایت Regulatory Compliance: EU AI Act, NIST RMF & Copyright

• مرور قانون هوش مصنوعی اتحادیه اروپا و دسته‌های ریسک EU AI Act Overview & Risk Categories

• الزامات اجباری برای سیستم‌های پرریسک Mandatory Requirements for High-Risk Systems

• ارزیابی‌های انطباق و نظارت پس از عرضه به بازار Conformity Assessments & Post-Market Monitoring

• اعمال RMF در طول چرخه حیات هوش مصنوعی Applying RMF Across the AI Lifecycle

• تکنیک‌های ارزیابی ریسک همسو با NIST NIST-Aligned Risk Assessment Techniques

• ریسک‌های مجوزدهی داده‌های آموزشی Training-Data Licensing Risks

• مسئولیت سازمانی و آموزش‌های غیرمجاز Enterprise Liability & Unauthorized Training

تفسیرپذیری (XAI) و شفافیت سیستم Explainability (XAI) & System Transparency

• چرا تفسیرپذیری برای LLMها دشوار است Why Explainability Is Difficult for LLMs

• مقایسه تکنیک‌های XAI: SHAP، LIME و نقشه‌های توجه Comparing XAI Techniques: SHAP, LIME, Attention Maps

• چه زمانی از کدام روش XAI استفاده کنیم When to Use Which XAI Method

• چه زمانی از کدام روش XAI استفاده کنیم بخش دوم When to Use Which XAI Method Part -2

• تولید توضیحات قابل درک برای انسان Generating Human-Readable Explanations

• ارائه توضیحات به مدیران و ناظران قانونی Presenting Explanations to Executives/Regulators

• وفاداری و قابلیت اطمینان توضیحات Faithfulness & Reliability of Explanations

• الزامات شفافیت در چارچوب‌های مختلف Transparency Requirements Across Frameworks

• ایجاد مستندات سیستم و جریان تصمیم‌گیری Creating System & Decision Flow Documentation

• طراحی گردش‌های کاری شفافیت Designing Transparency Workflows

حفاظ‌های امنیتی، حفاظت از PII و کاهش ریسک هوش مصنوعی سایه Guardrails, PII Protection & Shadow AI Mitigation

• مرور Guardrails AI / NeMo Guardrails Guardrails AI / NeMo Guardrails Overview

• ساخت حفاظ‌های امنیتی مبتنی بر قانون و معنایی Building Rule-Based and Semantic Guardrails

• تست حفاظ‌های امنیتی در برابر حملات Testing Guardrails Against Attacks

• معماری و موجودیت‌های Presidio Presidio Architecture & Entities

• شناسایی و ماسک‌گذاری داده‌های حساس Detecting & Masking Sensitive Data

• یکپارچه‌سازی Presidio در خط‌لوله‌های RAG Integrating Presidio Into RAG Pipelines

• هوش مصنوعی سایه در سازمان‌ها چگونه است What Shadow AI Looks Like in Enterprises

• تکنیک‌های نظارت، سیاست‌گذاری و اجرا Monitoring, Policy, and Enforcement Techniques

• طراحی کنترل‌های حاکمیتی در سطح سازمان Designing Organization-Wide Governance Controls