آموزش امنیت محصولات هوش مصنوعی: معماری، استقرار و زیرساخت‌های امن - آخرین آپدیت

سرفصل ها و درس ها

مقدمه Introduction

• ساخت محصولات هوش مصنوعی به صورت امن Builld your AI products securely

• آنچه باید بدانید What you need to know

1. مبانی ایمن‌سازی محصولات هوش مصنوعی 1. Foundations of Securing AI Products

• مراحل MLOps MLOps stages

• مراحل LLMOps LLMOps stages

• توسعه محصولات هوش مصنوعی مبتنی بر ML ML-based AI product development

• توسعه مبتنی بر ML در مقابل LLM ML- vs. LLM-based development

• توسعه محصولات هوش مصنوعی مبتنی بر LLM LLM-based AI product development

2. چه مشکلاتی ممکن است رخ دهد؟ 2. What Can Go Wrong?

• چه مشکلاتی در ML و MLOps ممکن است رخ دهد؟ What can go wrong in ML and MLOps?

• چه مشکلاتی در LLM و LLMOps ممکن است رخ دهد؟ What can go wrong in LLM and LLMOps?

3. مدل امنیتی برای محصولات هوش مصنوعی 3. Security Model for AI Products

• عامل: ایمن‌سازی کد Factor: Securing code

• عامل: ایمن‌سازی استقرار و زیرساخت Factor: Securing deployments and infrastructure

• عامل: ایمن‌سازی داده‌ها Factor: Securing data

• عامل: ایمن‌سازی مدل‌ها Factor: Securing models

• ماهیت به‌هم‌پیوسته تمام عوامل Interconnected nature of all factors

• معرفی مدل N-factor برای ایمن‌سازی محصولات هوش مصنوعی Introducing the N-factor model for securing AI products

4. ایمن‌سازی داده‌ها 4. Securing Data

• دسترسی غیرمجاز Unauthorized access

• حلقه بازخورد مسموم Poisoned feedback loop

• مسموم‌سازی ویژگی‌ها (Feature Poisoning) Feature poisoning

• حملات تزریق (Injection) Injection attacks

• نشت حریم خصوصی Privacy leakage

• افشای داده‌ها در هنگام انتقال Data exposure during transit

• تهدیدات داخلی Insider threat

5. ایمن‌سازی مدل‌ها 5. Securing Models

• دفاع در برابر استخراج مدل Model extraction defense

• مقدمه‌ای بر مسموم‌سازی Intro to poisoning

• مسموم‌سازی داده‌ها Data poisoning

• دفاع در برابر معکوس‌سازی مدل Model inversion defense

• سناریوهای حمله برای تست مدل Model testing attack scenarios

• تهدید استخراج مدل Model extraction threat

• حمله تزریق پرامپت (Prompt Injection) Prompt injection attack

• سرقت مدل Model theft

• تهدید معکوس‌سازی مدل Model inversion threat

• مسموم‌سازی مدل Model poisoning

• دفاع در برابر حملات تست مدل Model testing attack defense

• پیش‌نیازهای حمله تست مدل Model testing attack prerequisites

• مقایسه معکوس‌سازی مدل Model inversion comparison

• تغییرات غیرمجاز در رجیستری مدل Model registry unauthorized modifications

6. ایمن‌سازی کد 6. Securing Code

• نتیجه‌گیری Conclusion

• سردرگمی وابستگی‌ها (Dependency Confusion) Dependency confusion

• آسیب‌پذیری‌ها در کتابخانه‌های متن‌باز Vulnerabilities in open-source libraries

• کدهای ناامن پردازش داده Insecure data processing code

• رمزهای سخت‌افزاری (Hard Coded Secrets) Hard-coded secrets

• کتابخانه‌های درگاه پشتی (Backdoor) Backdoor libraries

7. ایمن‌سازی استقرار و زیرساخت‌های هوش مصنوعی 7. Securing AI Deployments and Infrastructure

• محاسبات و ذخیره‌سازی ناامن Insecure compute and storage

• دسترسی شبکه نامحدود Unrestricted network access

• پایگاه داده‌های برداری (Vector Databases) Vector databases

• خط لوله‌های CI/CD CI/CD pipelines

• تنظیمات نادرست ایمیج‌های کانتینر Misconfigured container images

• جداسازی ناکافی منابع Insufficient resource isolation

• پدیده Drift (انحراف مدل) Drift

8. بهترین شیوه‌ها 8. Best Practices

• حکمرانی (Governance) Governance

• آموزش و آگاهی امنیتی Security training and awareness

• حریم خصوصی Privacy

• جمع‌بندی کلی Bringing it all together

• تست امنیتی Security testing

• همکاری تیمی Collaboration

• استحکام در برابر حملات خصمانه (Adversarial Robustness) Adversarial robustness

• توضیح‌پذیری و شفافیت Explainability and transparency

• مدل‌سازی تهدیدات Threat modeling

• ثبت وقایع و مانیتورینگ Logging and monitoring

• معرفی ۱۰ مورد از برترین شیوه‌ها Introduction to top 10 practices

• پاسخ به حوادث Incidence response

جمع‌بندی Conclusion

• گام‌های بعدی در مسیر هوش مصنوعی شما Next steps in your AI journey