آموزش مبانی امنیت هوش مصنوعی مولد (GenAI) - آخرین آپدیت

دانلود GenAI Security Foundations

نکته: ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره: برای ایمن‌سازی هوش مصنوعی مولد، بسیاری از اقدامات مشابه securing هر سیستم دیگری است، اما تفاوت‌های چشمگیری نیز وجود دارد. در این دوره آموزشی با عنوان «مبانی امنیت GenAI»، شما با اصول اولیه امنیت هوش مصنوعی مولد آشنا می‌شوید و متوجه خواهید شد که چگونه مهارت‌های فعلی شما همچنان حیاتی هستند. ابتدا، اجزای معماری یک سیستم GenAI شامل پنجره متن (Context Window)، دستورات سیستمی (System Prompts) و خط لوله‌های RAG را بررسی می‌کنید که برای درک سطح حمله (Attack Surface) ضروری هستند. سپس، سلسله‌مراتب اعتماد سه لایه و نحوه مدیریت رفتار مدل و تعیین مقاومت در برابر حمله در هر لایه را بررسی خواهید کرد. در ادامه، نحوه بهره‌برداری از سطح حمله از طریق مسموم‌سازی (Poisoning) و تزریق دستور (Prompt Injection) را می‌آموزید. سپس، ماهیت غیرقطعی (Non-deterministic) هوش مصنوعی مولد و تأثیر آن بر دانش امنیتی سنتی را بررسی می‌کنید. در نهایت، نکات کاربردی برای عملکردهای امنیتی متداول سازمانی را خواهید آموخت. پس از اتمام این دوره، درک درستی از تفاوت‌های سیستم‌های GenAI و نحوه ایمن‌سازی آن‌ها خواهید داشت.

سرفصل ها و درس ها

سیستم‌های GenAI در واقع چگونه کار می‌کنند How GenAI systems actually work

  • پنجره متن (Context Window) The context window

  • سلسله‌مراتب اعتماد The trust hierarchy

  • تولید تقویت‌شده با بازیابی (RAG) Retrieval augmented generation (RAG)

  • عامل‌ها (Agents) Agents

  • حملات علیه هوش مصنوعی مولد Attacks against generative AI

سطح حمله: موارد آشنا و نوظهور The attack surface: Familiar and novel

  • آنچه از قبل می‌دانید What you already know

  • آنچه جدید است What is new

هوش مصنوعی مولد و نقش‌های امنیتی GenAI and security roles

  • حاکمیت، ریسک و انطباق (GRC) Governance risk and compliance (GRC)

  • معماری امنیت Security architecture

  • مدیریت و عملیات Administration and operations

  • مرکز عملیات امنیت (SOC) Security operations center (SOC)

  • پاسخ به حوادث Incident response

  • شبیه‌سازی حمله: تیم قرمز و تست نفوذ Attack simulation: Red team and penetration testing

استانداردهای مطلوب: کنترل‌های کلیدی What good looks like: Key controls

  • شش کنترل امنیتی رایج Six typical security controls

نمایش نظرات

آموزش مبانی امنیت هوش مصنوعی مولد (GenAI)
جزییات دوره
28m
14
(آخرین آپدیت)
1
از 5
دارد
دارد
دارد
John Elliott
جهت دریافت آخرین اخبار و آپدیت ها در کانال تلگرام عضو شوید.

Google Chrome Browser

Internet Download Manager

Pot Player

Winrar

John Elliott John Elliott

جان الیوت متخصص محافظت از داده ها است. وی به سازمان ها کمک می کند تا با روشی منطقی و عملی ، مقررات را رعایت کرده و نیازهای تجاری ، ریسک و مقررات را متعادل کنند. وی دارای صلاحیت های حریم خصوصی ، امنیت اطلاعات ، ریسک و پرداخت ها است و از ویژگی های حرفه ای برای داشتن سمت قانونی یک افسر حفاظت از داده برخوردار است. او هم تنظیم کننده و هم نویسنده استاندارد های امنیتی بوده است ، و برای یکی از اصلی ترین طرح های کارت پرداخت کار می کند ، جایی که به طور فعال در توسعه بسیاری از استانداردهای PCI از جمله PCI DSS مشارکت دارد. او که یک ارتباطی پرشور و مبتکر است ، مجری و مربی بسیار متقاضی است.