آموزش آزمایش نفوذ و ارزیابی آسیب‌پذیری (Red Teaming) عملی مدل‌های زبان بزرگ (LLM) با هوش مصنوعی - آخرین آپدیت

سرفصل ها و درس ها

مقدمه Introduction

• مقدمه Introduction

• راه‌اندازی آزمایشگاه Setup Lab

• اجرای یک مدل Hugging Face Run a Hugging Face Model

• Ollama - اجرای مدل روی لپ‌تاپ محلی شما Ollama - Running Model on your Local Laptop

• حل معمای سه خدا Solve Three Gods Puzzle

مقدمه ای بر Red Teaming هوش مصنوعی AI Red Teaming Introduction

• تاریخچه حملات و شکست های هوش مصنوعی History of AI Attacks & Failures

• طبقات ریسک هوش مصنوعی AI Risk Classes

• Red Teaming هوش مصنوعی چیست؟ What is AI Red Teaming?

• تلاش برای Prompt مخرب روی یک مدل آنلاین Try Malicious Prompt on an Online Model

• طبقه بندی حملات هوش مصنوعی قسمت 1 AI Attacks Taxonomy Part 1

• حمله مسموم سازی داده ها به مدل های Hugging Face Data Poisoning Attack on Hugging Face Models

• طبقه بندی حملات هوش مصنوعی قسمت 2 AI Attacks Taxonomy Part 2

• PoisonGPT خودتان را بسازید Create your own PoisonGPT

• تست خصمانه - نسخه ی نمایشی TextAttack Adversarial Testing - TextAttack Demo

• نتایج TextAttack TextAttack Results

• تست خصمانه - نسخه ی نمایشی Jailbreaking Adversarial Testing - Jailbreaking Demo

• تلاش برای Jailbreak مدل Vision Try Vision Model Jailbreak

• اجرای Garak روی مدل های Ollama Run Garak on Ollama Models

• خواندن نتایج Garak Reading Garak Results

معماری LLM برای Red Teamers LLM Architecture for Red Teamers

• تاریخچه LLM ها، مشکلات NLP و Tokenization History of LLMs, Problems with NLP & Tokenization

• تجسم Sentence Embedding Visualize Sentence Embedding

• Embedding و Self-Attention Embedding and Self-Attention

• تجسم Self Attention Visualize Self Attention

• معماری Transformer Transformer Architecture

• مقایسه LLM های مختلف Comparing Various LLMs

Jailbreaking و Prompt Injections Jailbreaking & Prompt Injections

• مقدمه ای بر Prompt Injections Introduction to Prompt Injections

• راه اندازی آزمایشگاه AI Agents Setup AI Agents Lab

• ساختار داخلی Prompt Prompt Internal Structure

• ساختار Prompt RAG RAG prompt Structure

• مثال های واقعی از Prompt Injections Real life Examples of Prompt Injections

• Prompt Injection روی Text2SqlAgent Prompt Injection on Text2SqlAgent

• ساخت یک Prompt تزریق Prompt Craft a Prompt Injection Prompt

• تلاش برای Prompt Injections روی Pokebot Try Prompt Injections on Pokebot

• تکنیک های اساسی Prompt Injection Basic Prompt Injection Techniques

• تلاش برای Prompt Injections روی Medusa Try Prompt Injections on Medusa

• تکنیک های Prompt Injection متوسط Intermediate Prompt Injection Techniques

• 10 برنامه برتر Owasp LLM Owasp top 10 LLM Apps

هوش مصنوعی پیشرفته - عوامل هوش مصنوعی و مدل های استدلال Advance AI - AI Agents and Reasoning Models

• مقدمه ای بر مدل های استدلال Introduction to Reasoning Models

• آموزش و کاربرد مدل های استدلال Reasoning Models Training & Applicability

• عملی - اجرای Deepseek با استفاده از Olama Handson - Running Deepseek Using Olama

• مقدمه ای بر عوامل هوش مصنوعی Introduction to AI Agents

• نسخه ی نمایشی از عامل هوش مصنوعی تست نفوذ خودکار Demo of Autonomous Pentesting AI Agent

• تکامل عوامل هوش مصنوعی AI Agents Evolution

• عوامل هوش مصنوعی در شرکت ها AI Agents in Enterprises

• عامل Jailbreak هوش مصنوعی خودکار Detoxio AI Detoxio AI's Autonomous AI Jailbreak Agent

• ساخت یک عامل هوش مصنوعی با استفاده از Microsoft Autogen Framework Build an AI Agent using Microsoft Autogen Framework

کاهش مشکلات ایمنی هوش مصنوعی Mitigating AI Safety Issues

• کاهش Prompt Injections و Jailbreaks Mitigating Prompt Injections and Jailbreaks

• نسخه ی نمایشی فیلتر Jailbreak Demo Jailbreak Filtering

• عملی - استفاده از Prompt Guard برای فیلتر کردن Jailbreaks Hands-on Use Prompt Guard to filter Jailbreaks

• نسخه ی نمایشی برنامه هوش مصنوعی با جلوگیری از Jailbreak Demo of AI App with Jailbreak Prevention

• اجرای یک برنامه هوش مصنوعی نمایشی محافظت شده با Prompt Guard Run a Demo AI App protected with Prompt Guard

• LLAMA Guard - جلوگیری از سمیت، اطلاعات نادرست و غیره LLAMA Guard - Prevent Toxicity, Misinformation, etc.