آموزش دوره جامع CompTIA SecAI+ (CY-001) از CertMike! - آخرین آپدیت

سرفصل ها و درس ها

مقدمه Introduction

• مقدمه Introduction

آزمون SecAI+ The SecAI+ Exam

• درباره آزمون SecAI+ The SecAI+ Exam

• فرصت‌های شغلی در امنیت AI Careers in AI Security

• ارزش گواهینامه The Value of Certification

• منابع مطالعه Study Resources

دامنه ۱: مفاهیم پایه هوش مصنوعی مرتبط با امنیت سایبری Domain 1: Basic AI Concepts Related to Cybersecurity

• مروری بر دامنه مفاهیم پایه AI در امنیت سایبری Overview of the Basic AI Concepts Related to Cybersecurity Domain

انواع هوش مصنوعی Types of AI

• انواع هوش مصنوعی Types of AI

• یادگیری ماشین (Machine Learning) Machine Learning

• یادگیری عمیق (Deep Learning) Deep Learning

• پردازش زبان طبیعی (NLP) Natural Language Processing

• مقایسه LLMها و SLMها LLMs vs SLMs

• هوش مصنوعی مولد (Generative AI) Generative AI

تکنیک‌های آموزش مدل Model Training Techniques

• یادگیری نظارت شده Supervised Learning

• یادگیری نظارت نشده Unsupervised Learning

• یادگیری تقویتی Reinforcement Learning

• یادگیری فدرال Federated Learning

• اعتبارسنجی مدل Model Validation

• تنظیم دقیق مدل (Fine tuning) Model Fine-tuning

مهندسی پرامپت (Prompt Engineering) Prompt Engineering

• مهندسی پرامپت Prompt Engineering

• نقش‌های پرامپت Prompt Roles

• پرامپتینگ Zero shot Zero-shot Prompting

• پرامپتینگ One shot One-shot Prompting

• پرامپتینگ Multi shot Multi-shot Prompting

پردازش داده‌ها Data Processing

• انواع داده‌ها Data Types

• پاک‌سازی داده‌ها Data Cleansing

• تایید صحت داده‌ها Data Verification

• یکپارچگی داده‌ها Data Integrity

• تبارشناسی و منشأ داده‌ها Data Lineage and Provenance

• افزونگی داده‌ها (Data Augmentation) Data Augmentation

• متعادل‌سازی داده‌ها Data Balancing

• واترمارکینگ (Watermarking) Watermarking

تولید تقویت‌شده بازیابی (RAG) Retrieval-Augmented Generation (RAG)

• تولید تقویت‌شده بازیابی (RAG) Retrieval-Augmented Generation (RAG)

• ایمن‌سازی ذخیره‌گاه دانش Securing the Knowledge Store

• یکپارچگی داده‌های بازیابی شده Integrity of Retrieved Data

• ملاحظات حریم خصوصی در RAG RAG Privacy Considerations

امنیت در چرخه حیات AI Security in the AI Lifecycle

• چرخه حیات AI The AI Lifecycle

• همسویی تجاری در چرخه حیات AI Business Alignment in the AI Lifecycle

• جمع‌آوری داده‌ها Data Collection

• آماده‌سازی داده‌ها Data Preparation

• توسعه و انتخاب مدل Model Development and Selection

• ارزیابی و اعتبارسنجی مدل Model Evaluation and Validation

• استقرار و یکپارچه‌سازی مدل Model Deployment and Integration

• مانیتورینگ و نگهداری Monitoring and Maintenance

طراحی AI انسان‌محور Human-Centric AI Design

• طراحی AI انسان‌محور Human-Centric AI Design

• انسان در چرخه (Human in the loop) Human-in-the-loop

• نظارت انسانی Human Oversight

• اعتبارسنجی انسانی Human Validation

دامنه ۲: ایمن‌سازی سیستم‌های هوش مصنوعی Domain 2: Securing AI Systems

• مروری بر دامنه ایمن‌سازی سیستم‌های AI Overview of the Securing AI Systems Domain

حملات داده‌ای و آموزشی Data and Training Attacks

• مسموم‌سازی داده‌ها (Data Poisoning) Data Poisoning

• مسموم‌سازی مدل Model Poisoning

• ایجاد سوگیری‌ها (Biases) Introducing Biases

• حملات یادگیری انتقالی Transfer Learning Attacks

• انحراف مدل (Model Skewing) Model Skewing

• حملات درپوش (Backdoor) و تروجان Backdoor and Trojan Attacks

حملات دست‌کاری پرامپت و ورودی Prompt and Input Manipulation Attacks

• تزریق پرامپت (Prompt Injection) Prompt Injection

• دور زدن نرده‌های حفاظتی و جیل‌بریکینگ Circumventing Guardrails and Jailbreaking

• دست‌کاری ورودی Input Manipulation

حملات استخراج مدل و نشت اطلاعات Model Extraction and Information Leakage Attacks

• وارونگی مدل (Model Inversion) Model Inversion

• استنتاج عضویت (Membership Inference) Membership Inference

• سرقت مدل Model Theft

• افشای اطلاعات حساس Sensitive Information Disclosure

حملات عملیاتی و یکپارچه‌سازی Integration and Operational Attacks

• دست‌کاری یکپارچه‌سازی اپلیکیشن‌ها Manipulating Application Integrations

• حملات زنجیره تامین AI AI Supply Chain Attacks

• طراحی ناامن پلاگین‌ها Insecure Plug-in Design

• مدیریت ناامن خروجی‌ها Insecure Output Handling

• حملات یکپارچگی خروجی Output Integrity Attacks

• محروم‌سازی از سرویس مدل (Model DoS) Model Denial of Service

• عاملیت بیش از حد (Excessive Agency) Excessive Agency

• اتکای بیش از حد Overreliance

• توهمات هوش مصنوعی (Hallucinations) AI Hallucinations

کنترل‌های امنیتی AI AI Security Controls

• ارزیابی ریسک مدل Model Risk Assessment

• نرده‌های حفاظتی مدل (Guardrails) Model Guardrails

• قالب‌های پرامپت Prompt Templates

• تست و اعتبارسنجی نرده‌های حفاظتی Guardrail Testing and Validation

کنترل‌های دسترسی AI AI Access Controls

• فایروال‌های پرامپت Prompt Firewalls

• محدودیت‌ها و سهمیه‌ها Limits and Quotas

• کنترل‌های دسترسی مدل Model Access Controls

• کنترل‌های دسترسی داده‌ها Data Access Controls

• کنترل‌های دسترسی ایجنت‌ها Agent Access Controls

• کنترل‌های دسترسی شبکه و API Network and API Access Controls

رمزنگاری و ایمنی داده‌ها Encryption and Data Safety

• رمزنگاری داده‌ها Data Encryption

• برچسب‌گذاری طبقه‌بندی داده‌ها Data Classification Labeling

• حداقل‌سازی داده‌ها Data Minimization

• پاکسازی داده‌ها (Redaction) Data Redaction

• ماسک کردن داده‌ها Data Masking

• ناشناس‌سازی داده‌ها Data Anonymization

مانیتورینگ و حسابرسی AI AI Monitoring and Auditing

• مانیتورینگ پرامپت‌ها و پاسخ‌ها Monitoring Prompts and Responses

• مانیتورینگ لاگ‌ها Log Monitoring

• مانیتورینگ نرخ و هزینه Rate and Cost Monitoring

• حسابرسی توهمات AI Auditing for AI Hallucinations

• حسابرسی دقت Auditing for Accuracy

• حسابرسی سوگیری و عدالت Auditing for Bias and Fairness

• حسابرسی انطباق امنیتی و دسترسی Auditing Access and Security Compliance

دامنه ۳: امنیت به کمک هوش مصنوعی Domain 3: AI-assisted Security

• مروری بر دامنه امنیت به کمک AI Overview of the AI-assisted Security Domain

ابزارهای امنیتی مبتنی بر AI AI-Assisted Security Tools

• هوش مصنوعی در ابزارهای امنیتی AI in Security Tools

• پلاگین‌های IDE IDE Plug-ins

• پلاگین‌های مرورگر Browser Plug-ins

• پلاگین‌های CLI CLI Plug-ins

• چت‌بات‌ها و دستیارهای شخصی Chatbots and Personal Assistants

• سرورهای MCP MCP Servers

موردهای کاربردی امنیت AI AI Security Use Cases

• تشخیص و پیشگیری از تهدیدات Threat Detection and Prevention

• توسعه کد امن Secure Code Development

• تست نفوذ Penetration Testing

• پاسخ به حوادث و مدیریت آن‌ها Incident Response and Management

• عملیات امنیتی مبتنی بر زبان Language-Driven Security Operations

حملات فعال‌شده توسط AI AI-Enabled Attacks

• محتوای دیپ‌فیک (Deepfake) Deepfake Content

• شبکه‌های تخاصمی (Adversarial Networks) Adversarial Networks

• شناسایی و شناسایی هدف (Reconnaissance) Reconnaissance

• مهندسی اجتماعی Social Engineering

• مبهم‌سازی (Obfuscation) Obfuscation

• همبستگی خودکار داده‌ها Automated Data Correlation

• تولید خودکار حملات Automated Attack Generation

اتوماسیون وظایف امنیتی Automating Security Tasks

• ابزارهای اسکریپت‌نویسی Scripting Tools

• سنتز و خلاصه‌سازی اسناد Document Synthesis and Summarization

• مدیریت تیکت‌های پاسخ به حوادث Incident Response Ticket Management

• مدیریت تغییرات Change Management

• ایجنت‌های هوش مصنوعی AI Agents

• هوش مصنوعی در خط لوله CI/CD AI in the CI/CD Pipeline

دامنه ۴: حاکمیت، ریسک و انطباق AI Domain 4: AI Governance, Risk, and Compliance

• مروری بر دامنه حاکمیت، ریسک و انطباق AI Overview of the AI Governance, Risk, and Compliance Domain

حاکمیت هوش مصنوعی AI Governance

• حاکمیت بر AI Governing AI

• سازماندهی برای AI Organizing for AI

• سیاست‌ها و رویه‌های AI AI Policies and Procedures

• نقش‌های مرتبط با AI AI-Related Roles

ریسک‌های هوش مصنوعی AI Risks

• هوش مصنوعی مسئولانه Responsible AI

• ریسک‌های AI AI Risks

• وارد کردن سوگیری Introduction of Bias

• نشت تصادفی داده‌ها Accidental Data Leakage

• از دست دادن اعتبار (Reputational Loss) Reputational Loss

• دقت و عملکرد مدل Accuracy and Performance of the Model

• ریسک‌های مالکیت معنوی Intellectual Property Risks

• سیستم‌های خودمختار Autonomous Systems

• IT سایه و AI سایه (Shadow AI) Shadow IT and Shadow AI

• آموزش‌های آگاهی‌بخش Awareness Training

انطباق هوش مصنوعی AI Compliance

• انطباق هوش مصنوعی AI Compliance

• قانون AI اتحادیه اروپا (EU AI Act) EU AI Act

• استانداردهای OECD OECD Standards

• استانداردهای ISO AI ISO AI Standards

• چارچوب مدیریت ریسک AI شرکت NIST NIST AI Risk Management Framework

• سیاست‌های AI شرکتی Corporate AI Policies

• ارزیابی‌های انطباق شخص ثالث Third-Party Compliance Evaluations

• حاکمیت داده‌ها (Data Sovereignty) Data Sovereignty

گام‌های بعدی چیست؟ What's Next?

• آماده‌سازی برای آزمون Preparing for the Exam