آموزش امنیت هوش مصنوعی مولد و مدل‌های زبانی بزرگ (LLM) - آخرین آپدیت

تهدیدات در سیستم‌های هوش مصنوعی مولد Threats in Generative AI Systems

• معرفی تخصص Specialization Introduction

• معرفی دوره Course Introduction

• بردارهای حمله رایج در سیستم‌های هوش مصنوعی مولد Common Attack Vectors in Generative AI Systems

• حمله تزریق پرامپت (Prompt Injection) Prompt Injection Attack

• حمله جیل‌بریک هوش مصنوعی (AI Jailbreak) AI Jailbreak Attack

• دمو: شناسایی ریسک‌های تزریق پرامپت و جیل‌بریک Demonstration: Detecting Prompt Injection and Jailbreak Risks

• حملات سرقت و استخراج مدل Model Theft and Extraction Attacks

• استراتژی‌های کاهش ریسک در GenAI Mitigation Strategies for GenAI Risks

• تهدیدات و ریسک‌های خاص مدل‌های زبانی بزرگ (LLM) LLM-Specific Threats and Risks

• هم‌راستاسازی خروجی LLM با اهداف امنیتی Aligning LLM Output to Security Objectives

• گاردریل‌ها و مکانیسم‌های ایمنی برای LLMها Guardrails and Safety Mechanisms for LLMs

• آشنایی با APIهای LLM و انواع آن‌ها Understanding LLM APIs and Their Types

• دمو: ادغام LLM با Gemini API Demonstration: LLM Integration with Gemini API

امنیت چرخه حیات هوش مصنوعی AI Lifecycle Security

• اهمیت داده‌های امن در توسعه هوش مصنوعی The Importance of Secure Data in AI Development

• مسموم‌سازی داده‌ها و تکنیک‌های شناسایی Data Poisoning and Detection Techniques

• بهترین روش‌ها برای ایمن‌سازی خط لوله‌های داده AI Best Practices for Securing AI Data Pipelines

• دمو: ایمن‌سازی داده‌های AI در برابر ریسک‌های مسموم‌سازی Demonstration: Securing AI Data Against Poisoning Risks

• ردیابی منشأ و تبار مدل (Model Provenance) Model Provenance and Lineage Tracking

• اسکن وابستگی‌ها و ریسک‌های مدل‌های شخص ثالث Dependency Scanning and Third-Party Model Risks

• تکنیک‌های توزیع و تأیید امن مدل Secure Model Distribution and Verification Techniques

• امضای آرتیفکت‌ها و بررسی یکپارچگی مدل Artifact Signing and Model Integrity Checks

• ذخیره‌سازی امن و مدیریت کلید برای آرتیفکت‌های AI Secure Storage and Key Management for AI Artifacts

• مانیتورینگ برای شناسایی دستکاری در مراحل قبل و بعد از استقرار Monitoring for Tampering in Pre/Post-Deployment

• دمو: ردیابی منشأ مدل و اسکن وابستگی‌ها Demonstration: Tracking Model Provenance and Scanning Dependencies

اخلاق در هوش مصنوعی و انطباق نظارتی AI Ethics and Regulatory Compliance

• سوگیری، عدالت و طراحی اخلاقی در سیستم‌های هوش مصنوعی Bias, Fairness, and Ethical Design in AI Systems

• شفافیت و پاسخگویی در سیستم‌های GenAI Transparency and Accountability in GenAI Systems

• چالش‌های اخلاقی در مدل‌های مولد Ethical Challenges in Generative Models

• الزامات انطباق با GDPR، CCPA و قوانین AI GDPR, CCPA, and AI Compliance Requirements

• درک چارچوب‌های ریسک AI در NIST و ISO Understanding NIST and ISO AI Risk Frameworks

• حسابرسی AI و ملاحظات قانونی AI Auditing and Legal Considerations

• دمو: بررسی قابلیت‌های Sola Security Demonstration: Exploring Sola Security Features

• دمو: غربالگری اخلاقی با استفاده از Sola Security Demonstration: Ethical Screening using Sola Security

تهدیدات پیشرو در سیستم‌های هوش مصنوعی Frontier Threats in AI Systems

• معرفی هوش مصنوعی چندوجهی (Multimodal AI) Introduction to Multimodal AI

• تهدیدات امنیتی برای هوش مصنوعی چندوجهی Security Threats to Multimodal AI

• دمو: استفاده از AI چندوجهی برای شناسایی تهدیدات ایمیلی Demonstration: Multimodal AI for Email Threat Detection

• هوش مصنوعی عامل‌محور (Agentic AI) چیست؟ What is Agentic AI?

• هوش مصنوعی عامل‌محور در امنیت سایبری Agentic AI in Cybersecuriy

• دمو: استفاده از Agentic AI برای تریاژ امنیت سایبری Demonstration: Agentic AI for Cybersecurity Triage

جمع‌بندی دوره و ارزیابی Course Wrap-Up and Assessment

• خلاصه دوره Course Summary