آموزش حریم خصوصی و امنیت هوش مصنوعی مولد برای توسعه‌دهندگان - آخرین آپدیت

سرفصل ها و درس ها

جریان داده و ریسک‌های حریم خصوصی در سیستم‌های هوش مصنوعی مولد Data flow and privacy risks in GenAI systems

• جریان داده RAG و مرزهای اعتماد در یک اپلیکیشن هوش مصنوعی مولد RAG data flow and trust boundaries in a generative AI application

• افشای داده‌های حساس، به‌خاطرسپاری و تصمیم‌گیری بین APIهای Stateless در مقابل Stateful Sensitive data exposure, memorization, and the stateless vs. stateful API decision

• تکنیک‌های حفظ حریم خصوصی: کمینه‌سازی، ماسک کردن و پیکربندی امن Privacy-preserving techniques: Minimization, masking, and secure configuration

• دمو: ماسک کردن اطلاعات شخصی (PII) با Presidio در دستیار RAG مبتنی بر FastAPI Demo: Presidio PII masking in the FastAPI RAG assistant

تهدیدات امنیتی LLM: ۱۰ مورد برتر OWASP برای اپلیکیشن‌های هوش مصنوعی مولد LLM security threats: OWASP Top 10 for generative AI applications

• ۱۰ مورد برتر OWASP برای اپلیکیشن‌های LLM سال ۲۰۲۵: نقشه تهدیدات برای دستیار RAG OWASP top 10 for LLM applications 2025: Threat map for the RAG assistant

• تزریق پرامپت (Prompt Injection)، جیل‌بریک و استخراج داده‌ها در خط لوله‌های RAG Prompt injection, jailbreaks, and data exfiltration in RAG pipelines

• عاملیت بیش از حد، ریسک‌های زنجیره تأمین و آگاهی از تهدیدات عامل‌محور Excessive agency, supply chain risks, and agentic threat awareness

• دمو: تزریق پرامپت و نشت پرامپت سیستمی در دستیار RAG Demo: Prompt injection and system prompt leakage on the RAG assistant

حفاظ‌ها، گیت‌های ارزیابی و هوش مصنوعی مسئولانه Safeguards, evaluation gates, and responsible AI

• اعتبارسنجی ورودی، ریل‌های بازیابی و کنترل‌های اجرا با NeMo Guardrails Input validation, retrieval rails, and execution controls with NeMo guardrails

• فیلترینگ خروجی، تعدیل محتوا و نظارت بر میزان استفاده Output filtering, content moderation, and usage monitoring

• گیت‌های ارزیابی، ریسک‌های اخلاقی و تصمیم‌گیری برای انتشار Evaluation gates, ethical risks, and the ship decision

• دمو: مسدود کردن تزریق پرامپت و نشت PII توسط NeMo Guardrails در انواع ریل‌ها Demo: NeMo guardrails blocking prompt injection and PII leakage across rail types

حاکمیت، شواهد حسابرسی و آمادگی برای انتشار هوش مصنوعی مولد Governance, audit evidence, and ship-readiness for generative AI

• آنچه استقرارکنندگان باید بدانند: سواد AI، شفافیت و محرک‌های ریسک بالا What deployers must know: AI literacy, transparency, and high-risk triggers

• لاگ‌گذاری حسابرسی ساختاریافته برای چرخه حیات درخواست‌های هوش مصنوعی مولد Structured audit logging for generative AI request lifecycles

• گزارش‌های ارزیابی، گیت‌های انتشار و مستندات پیش از استقرار Evaluation reports, release gates, and pre-deployment documentation

• دمو: لاگ‌های حسابرسی JSON، گزارش ارزیابی و داشبورد حاکمیتی Demo: JSON audit logs, evaluation report, and governance dashboard