آموزش حریم خصوصی و امنیت هوش مصنوعی مولد برای توسعه‌دهندگان - آخرین آپدیت

سرفصل ها و درس ها

جریان داده‌ها و ریسک‌های حریم خصوصی در سیستم‌های هوش مصنوعی مولد Data flow and privacy risks in GenAI systems

• جریان داده‌های RAG و مرزهای اعتماد در یک اپلیکیشن هوش مصنوعی مولد RAG data flow and trust boundaries in a generative AI application

• افشای داده‌های حساس، به‌خاطرسپاری و تصمیم‌گیری بین API بدون وضعیت در مقابل وضعیت‌دار Sensitive data exposure, memorization, and the stateless vs. stateful API decision

• تکنیک‌های حفظ حریم خصوصی: کمینه‌سازی، ماسک کردن و پیکربندی امن Privacy-preserving techniques: Minimization, masking, and secure configuration

• دمو: ماسک کردن اطلاعات شناسایی شخصی (PII) با Presidio در دستیار RAG مبتنی بر FastAPI Demo: Presidio PII masking in the FastAPI RAG assistant

تهدیدات امنیتی LLM: ۱۰ مورد برتر OWASP برای اپلیکیشن‌های هوش مصنوعی مولد LLM security threats: OWASP Top 10 for generative AI applications

• ۱۰ مورد برتر OWASP برای اپلیکیشن‌های LLM سال ۲۰۲۵: نقشه تهدیدات برای دستیار RAG OWASP top 10 for LLM applications 2025: Threat map for the RAG assistant

• تزریق پرامپت، جیل‌بریک و استخراج داده‌ها در خط لوله‌های RAG Prompt injection, jailbreaks, and data exfiltration in RAG pipelines

• نمایندگی بیش از حد، ریسک‌های زنجیره تأمین و آگاهی از تهدیدات عامل‌محور (Agentic) Excessive agency, supply chain risks, and agentic threat awareness

• دمو: تزریق پرامپت و نشت پرامپت سیستم در دستیار RAG Demo: Prompt injection and system prompt leakage on the RAG assistant

لایه‌های حفاظتی، گیت‌های ارزیابی و هوش مصنوعی مسئولانه Safeguards, evaluation gates, and responsible AI

• اعتبارسنجی ورودی، ریل‌های بازیابی و کنترل‌های اجرا با NeMo guardrails Input validation, retrieval rails, and execution controls with NeMo guardrails

• فیلتر کردن خروجی، تعدیل محتوا و نظارت بر استفاده Output filtering, content moderation, and usage monitoring

• گیت‌های ارزیابی، ریسک‌های اخلاقی و تصمیم‌گیری برای انتشار Evaluation gates, ethical risks, and the ship decision

• دمو: مسدود کردن تزریق پرامپت و نشت PII توسط NeMo guardrails در انواع ریل‌ها Demo: NeMo guardrails blocking prompt injection and PII leakage across rail types

حاکمیت، شواهد حسابرسی و آمادگی برای عرضه هوش مصنوعی مولد Governance, audit evidence, and ship-readiness for generative AI

• آنچه استقرارکنندگان باید بدانند: سواد هوش مصنوعی، شفافیت و محرک‌های ریسک بالا What deployers must know: AI literacy, transparency, and high-risk triggers

• ثبت لاگ‌های حسابرسی ساختاریافته برای چرخه حیات درخواست‌های هوش مصنوعی مولد Structured audit logging for generative AI request lifecycles

• گزارش‌های ارزیابی، گیت‌های انتشار و مستندات پیش از استقرار Evaluation reports, release gates, and pre-deployment documentation

• دمو: لاگ‌های حسابرسی JSON، گزارش ارزیابی و داشبورد حاکمیتی Demo: JSON audit logs, evaluation report, and governance dashboard