آگاهی امنیت سایبری کارکنان در عصر هوش مصنوعی [آموزشی] - آخرین آپدیت

سرفصل ها و درس ها

ماژول ۱: چشم‌انداز در حال تحول تهدیدات Module 1: The Evolving Threat Landscape

• تغییر از تهدیدات سنتی به تهدیدات مبتنی بر AI The shift from traditional to AI-powered threats

• هوش مصنوعی به عنوان سرویس برای مجرمان سایبری AI-as-a-Service for cybercriminals

• انواع حملات مبتنی بر AI: اتوماسیون، شخصی‌سازی، فریب Types of AI-driven attacks: Automation, personalization, deception

• هوش مصنوعی، IoT و ابری: تکثیرکننده تهدیدات AI, IoT, and cloud: A threat multiplier

ماژول ۲: فیشینگ ۵ بعدی – کلاهبرداری‌های هوشمندتر Module 2: Phishing in 5D – Smarter Scams

• شبیه‌سازی صدا و کلاهبرداری‌های دیپ‌فیک Voice cloning and deepfake scams

• فیشینگ فوق‌شخصی‌سازی شده با استفاده از AI مولد Hyper-personalized phishing using generative AI

• تکنیک‌های دستکاری مبتنی بر پروفایل‌بندی روان‌شناختی Manipulation techniques driven by psychological profiling

• اسمشینگ (Smishing) مبتنی بر AI، حملات چت‌بات و فیشینگ تصویری AI-powered smishing, chatbot attacks, and image-based phishing

ماژول ۳: هوش مصنوعی سایه (Shadow AI) – ریسک‌ها در ابزارهای روزمره Module 3: Shadow AI – Risks in Everyday Tools

• درک تفاوت Shadow AI در مقابل Shadow IT Understanding Shadow AI vs. Shadow IT

• نشت داده‌ها از طریق ابزارهای AI مانند ChatGPT، Gemini و Copilot Data leaks via AI tools like ChatGPT, Gemini, Copilot

• تزریق پرامپت و افشای داده‌های حساس Prompt injection and sensitive data exposure

• پیامدهای حریم خصوصی افزونه‌های مرورگر و افزودنی‌های AI Privacy implications of browser extensions and AI add-ons

• کدشکنی رمز عبور با کمک AI و حملات Brute Force AI-assisted password cracking and brute-force attacks

• خستگی MFA، تکنیک‌های دور زدن و تقلید رفتاری MFA fatigue, bypass techniques, and behavioral mimicking

ماژول ۴: بهداشت سایبری ۳ Module 4: Cyber Hygiene 3

• روش‌های امن کاربر در چشم‌انداز پویا تهدیدات Secure user practices in a dynamic threat landscape

• نقش بیومتریک‌های رفتاری در احراز هویت مدرن Role of behavioral biometrics in modern authentication

ماژول ۵: هوش مصنوعی برای نیروهای مدافع Module 5: AI for the Good Guys

• هوش مصنوعی در تشخیص تهدیدات و تحلیل‌های پیش‌بینانه AI in threat detection and predictive analytics

• پاسخ خودکار و پلتفرم‌های امنیتی هوشمند (EDR, XDR, SIEM) Autonomous response and smart security platforms (EDR, XDR, SIEM)

• نقش AI در پیشگیری از کلاهبرداری، تشخیص فیشینگ و نظارت بر ناهنجاری‌ها AI's role in fraud prevention, phishing detection, and anomaly monitoring

• ایجاد تعادل بین اتوماسیون و نظارت انسانی Balancing automation with human oversight

ماژول ۶: هوش مصنوعی عامل‌محور (Agentic AI) – ظهور تهدیدات سایبری خودکار Module 6: Agentic AI – The Rise of Autonomous Cyber Threats

• هوش مصنوعی عامل‌محور (Agentic AI) چیست؟ (AutoGPT, BabyAGI, CrewAI, Devin و غیره) What is agentic AI? (AutoGPT, BabyAGI, CrewAI, Devin, etc.)

• زمانی که AI شروع به اقدام مستقل می‌کند When AI Starts to Act on Its Own

• چالش‌های حاکمیتی: دسترسی، قابلیت ممیزی، مهار و محدودیت‌های اخلاقی Governance challenges: Access, auditability, containment, and ethical limits

• چگونه عامل‌های AI به صورت خودکار برنامه‌ریزی، اجرا و تکرار می‌کنند How AI agents plan, act, and iterate autonomously

• موارد استفاده تهاجمی: شناسایی، فیشینگ و بهره‌برداری در مقیاس گسترده Offensive use cases: Recon, phishing, exploitation at scale

• موارد استفاده دفاعی: سیستم‌های خودبهبودی و عامل‌های پاسخ خودکار Defensive use cases: Self-healing systems, auto-response agents

• مثال‌های صنعتی واقعی و نشانه‌های هشداردهنده اولیه Real-World Industry Examples and Early Warning Signs

ماژول ۷: حریم خصوصی داده‌ها، اخلاق و استفاده مسئولانه از AI Module 7: Data Privacy, Ethics & Responsible AI Use

• اصول AI مسئولانه در محیط کار Responsible AI principles in the workplace

• چشم‌انداز رگولاتوری: GDPR, HIPAA و قوانین نوظهور مخصوص AI Regulatory landscape: GDPR, HIPAA, emerging AI-specific laws

• ریسک افشای داده‌ها در آموزش مدل‌های زبانی بزرگ (LLM) Risk of data exposure in training large language models

• ساخت فرهنگ استفاده امن و منطبق با قوانین از AI Building a secure, compliant AI usage culture

ماژول ۸: دیواره آتش انسانی ۲ Module 8: The Human Firewall 2

• ارتقای هوشیاری کارکنان در برابر تهدیدات تقویت‌شده با AI Elevating employee vigilance in AI-enhanced threats

• همکاری بین تیم‌ها و بخش‌های امنیتی Collaboration between teams and security departments

• بهترین روش‌های پاسخ در هنگام حوادث مشکوک Response best practices during suspicious incidents

• ترویج فرهنگ «اول گزارش بده» Encouraging a reporting-first culture

ماژول ۹: آگاهی امنیتی مبتنی بر نقش در عصر هوش مصنوعی Module 9: Role-Based Security Awareness in the AI Era

• جعل هویت هدفمند با AI – سناریوهای دیپ‌فیک و BEC در سطوح مدیریت AI-Targeted Impersonation–Deepfakes and BEC Scenarios at the Top

• نظارت استراتژیک اجرایی – حاکمیت بر پذیرش AI، ریسک و پاسخگویی Executive Strategic Oversight – Governing AI Adoption, Risk, and Accountability

• مدیران و رهبران: ریسک تامین‌کنندگان و خرید AI – نشانه‌های خطر و بررسی‌های لازم Executive & Leaders -Vendor Risk and AI Procurement–Red Flags and Due Diligence

• کلاهبرداری‌های حقوق و دستمزد و مالی با استفاده از محتوای تولید شده توسط AI Payroll Fraud and Financial Scams Using AI-Generated Content

• کلاهبرداری‌های استخدامی و متقاضیان – مصاحبه‌های دیپ‌فیک و جعل رزومه Hiring and Candidate Scams – Deepfake Interviews and Resume Impersonation

• محافظت از داده‌های کارکنان و حقوق و دستمزد در گردش‌کارهای AI Protecting Employee and Compensation Data in AI Workflows

• استفاده امن از ابزارهای توسعه AI – Copilot, Devin و فراتر از آن Secure Use of AI Development Tools – Copilot, Devin, and Beyond

• بهره‌برداری عامل‌محور و سناریوهای تزریق پرامپت Agent-Based Exploitation and Prompt Injection Scenarios

• استفاده از AI در تیم قرمز (Red Teaming)، مدل‌سازی تهدید و تحقیقات امنیتی Using AI in Red-Teaming, Threat Modeling, and Security Research

• جعل هویت مبتنی بر AI در نقاط تماس با مشتری AI-Driven Impersonation in Customer Touchpoints

• مهندسی اجتماعی از طریق پورتال‌ها، فرم‌ها و گردش‌کارهای فروش Social Engineering via Portals, Forms, and Sales Workflows

• استفاده مسئولانه از AI در پیام‌رسانی و اتوماسیون مشتریان Responsible AI Use in Customer Messaging and Automation

• آمادگی قانونی و رگولاتوری برای استفاده از AI در کسب‌وکار Legal and Regulatory Readiness for AI Use in Business

• توهمات مدل (Hallucination) و سوءاستفاده در محتوای حقوقی Model Hallucination and Misuse in Legal Content

• حاکمیت داده‌ها – رضایت، محل ذخیره‌سازی و ردپای ممیزی Data Governance – Consent, Residency, and Audit Trails

جمع‌بندی نهایی – ساخت آینده‌ای امن در عصر AI Final Reflection - Building a Secure Future Together in the AI

• سخنان پایانی نویسنده Final Thoughts from the Author