آموزش هوش مصنوعی مولد برای متخصصان امنیت سایبری - آخرین آپدیت

هوش مصنوعی و مدل‌های زبانی بزرگ در امنیت سایبری Artificial Intelligence and Large Language Models in Cybersecurity

• مقدمه تخصص Specialization Introduction

• مقدمه دوره Course Introduction

• معرفی هوش مصنوعی در امنیت سایبری Introducing AI in Cybersecurity

• مقایسه امنیت سنتی و تشخیص مبتنی بر هوش مصنوعی Comparing Traditional Security and AI-Driven Detection

• بررسی کاربردهای واقعی هوش مصنوعی در دفاع سایبری Exploring the Real-world Applications of AI in Cyber Defense

• مقدمه‌ای بر سیستم‌های هوش مصنوعی مولد Introduction to Generative AI Systems

• مدل‌سازی سیستم‌های اصلی هوش مصنوعی مولد Modeling Core Generative AI Systems

• تحلیل مدل‌های کلیدی هوش مصنوعی مولد (GANs, VAEs, LLMs) Analyzing Key Generative AI Models (GANs, VAEs, LLMs)

• نمایش عملی: آشنایی با رابط کاربری Google Colab Demonstration: Introduction about Google Colab Interface

• نمایش عملی: تشخیص بدافزار سنتی در مقابل تشخیص مبتنی بر هوش مصنوعی Demonstration: Traditional vs AI-Driven Malware Detection

• نمایش عملی: استفاده از AI و Gen AI برای بهبود امنیت رمز عبور Demonstration: Using AI and Gen AI to Improve Password Security

• ترنسفورمرها: ستون فقرات هوش مصنوعی Transformers: The AI Backbone

• بررسی معماری‌های مدل‌های زبانی بزرگ Exploring Large Language Model Architectures

• دسته‌بندی مدل‌های کلیدی LLM (GPT, Gemini, LLaMA) Classifying Key LLM Models (GPT, Gemini, LLaMA)

• ارزیابی قابلیت‌ها و محدودیت‌های LLM در امنیت سایبری Evaluating LLM Capabilities and Limitations in Cybersecurity

• نمایش عملی: استفاده از LLMها برای تشخیص و تحلیل تهدیدات Demonstration: Using LLMs for Threat Detection and Analysis

• نمایش عملی: ارزیابی خروجی LLM برای ریسک‌های امنیتی Demonstration: Evaluating LLM Output for Security Risks

مهندسی پرامپت و امنیت سیستم‌های هوش مصنوعی Prompt Engineering and AI System Security

• معرفی مفاهیم مهندسی پرامپت Introducing Prompt Engineering Concepts

• طراحی پرامپت‌های ایمن و مؤثر Crafting Secure and Effective Prompts

• شناسایی ریسک‌ها در پرامپت‌نویسی نادرست Identifying Risks in Improper Prompting

• بررسی تکنیک‌های پیشرفته پرامپت‌نویسی Exploring Advanced Prompting Techniques

• نمایش عملی: اعمال تکنیک‌های مهندسی پرامپت برای هوش مصنوعی ایمن Demonstration: Applying Prompt Engineering Techniques for Secure AI

• بررسی معماری‌ها و اجزای سیستم هوش مصنوعی Exploring AI System Architectures and Components

• شناسایی آسیب‌پذیری‌ها در خط لوله‌های هوش مصنوعی Identifying Vulnerabilities Across AI Pipelines

• درک حملات یادگیری ماشین خصمانه Understanding Adversarial Machine Learning Attacks

• روش‌های طراحی حملات خصمانه Methods of Crafting Adversarial Attacks

• نمایش عملی: ساخت مدل‌های ML مستحکم با آموزش سبک خصمانه Demonstration: Building Robust ML Models with Adversarial-Style Training

• محافظت از سیستم‌های هوش مصنوعی در برابر تهدیدات خصمانه Shielding AI Systems from Adversarial Threats

• نمایش عملی: دفاع از سیستم‌های هوش مصنوعی در برابر ورودی‌های خصمانه Demonstration: Defending AI Systems Against Adversarial Inputs

امنیت پیشرفته، اخلاق و حاکمیت برای هوش مصنوعی مولد Advanced Security, Ethics, and Governance for Generative AI

• شناسایی بردارهای حمله رایج در سیستم‌های هوش مصنوعی مولد Identifying Common Attack Vectors in Generative AI Systems

• تحلیل حمله تزریق پرامپت (Prompt Injection) Analyzing Prompt Injection Attack

• نمایش عملی: مهار تزریق پرامپت و سوءاستفاده از مدل Demonstration: Containing Prompt Injection and Model Abuse

• بررسی تکنیک‌های جیلبریک (Jailbreak) هوش مصنوعی Examining AI Jailbreak Techniques

• بررسی حملات سرقت و استخراج مدل Exploring Model Theft and Extraction Attacks

• امنیت داده‌های هوش مصنوعی در برابر ریسک‌های مسموم‌سازی Securing AI Data Against Poisoning Risks

• معرفی هوش مصنوعی چندوجهی (Multimodal) برای امنیت سایبری Introducing Multimodal AI for Cybersecurity

• نمایش عملی: کاربرد هوش مصنوعی چندوجهی در سناریوهای تشخیص تهدید Demonstration: Applying Multimodal AI to Threat Detection Use Cases

• هوش مصنوعی چندوجهی و عامل‌محور (Agentic) برای جریان‌های کاری SOC Multimodal and Agentic AI for SOC Workflows

• بررسی هوش مصنوعی عامل‌محور برای عملیات امنیت سایبری Exploring Agentic AI for Cybersecurity Operations

• نمایش عملی: بهره‌گیری از هوش مصنوعی عامل‌محور برای اولویت‌بندی امنیت سایبری Demonstration: Leveraging Agentic AI for Cybersecurity Triage

• استفاده از هوش مصنوعی مولد برای اتوماسیون و هوش امنیتی Using Generative AI for Security Automation and Intelligence

• پرداختن به سوگیری، عدالت و ریسک‌های اخلاقی در سیستم‌های هوش مصنوعی Addressing Bias, Fairness, and Ethical Risks in AI Systems

• تضمین شفافیت و پاسخگویی در هوش مصنوعی مولد Ensuring Transparency and Accountability in Generative AI

• مقررات هوش مصنوعی و چارچوب‌های ریسک (GDPR, NIST, ISO) AI Regulations and Risk Frameworks (GDPR, NIST, ISO)

• انجام حسابرسی‌های هوش مصنوعی و ارزیابی ریسک‌های قانونی Conducting AI Audits and Legal Risk Assessments

• بررسی ابزار امنیت هوش مصنوعی: Sola Security Exploring AI Security Tool: Sola Security

• غربالگری اخلاقی با استفاده از Sola Security Ethical Screening Using Sola Security

• خلاصه دوره Course Summary