آموزش استفاده اخلاقی از عامل‌های هوش مصنوعی و هوش مصنوعی عامل‌محور (Agentic AI) - آخرین آپدیت

اخلاق عامل‌های هوش مصنوعی و هوش مصنوعی عامل‌محور Ethics of AI Agents and Agentic AI

• مرور کلی دوره Course Overview

• اهداف Objectives

• مرور کلی ماژول Module Overview

• اهداف Objectives

• عامل هوش مصنوعی چیست؟ What is an AI Agent?

• هوش مصنوعی عامل‌محور (Agentic AI) چیست؟ What is Agentic AI?

• مقایسه: عامل هوش مصنوعی در مقابل هوش مصنوعی عامل‌محور Comparison: AI Agent vs. Agentic AI

• دامنه اقدام Scope of Action

• سطح خودمختاری Autonomy Level

• مثال: تایید درخواست وام Example: Loan Application Approval

• مثال: تست‌های تشخیص پزشکی Example: Medical Diagnostic Tests

• نظارت انسانی Human Oversight

• انعطاف‌پذیری Adaptability

• مثال: پاداش‌جویی (Reward Hacking) Example: Reward Hacking

• پیچیدگی اخلاقی Ethical Complexity

اصول اخلاقی کلیدی برای هوش مصنوعی عامل‌محور Core Ethical Principles for Agentic AI

• مرور کلی ماژول Module Overview

• اهداف Objectives

• عامل‌ها و انسان‌محوری Agents and Human Centricity

• انسان در حلقه (Human In the Loop) Human In the Loop

• انسان بر حلقه (Human On the loop) Human On the loop

• انسان خارج از حلقه (Human Outside the Loop) Human Outside the Loop

• عامل‌ها و شفافیت Agents and Transparency

• عامل‌ها و فراگیر بودن Agents and Inclusivity

• عامل‌ها و پاسخگویی Agents and Accountability

• عامل‌ها و استحکام Agents and Robustness

• عامل‌ها، حریم خصوصی و امنیت Agents and Privacy and Security

مثال‌ها و ملاحظات اخلاقی Examples and Ethical Considerations

• مرور کلی ماژول Module Overview

• اهداف Objectives

• موارد استفاده در بخش‌های مختلف Sector Use Cases

• سناریوی ۱: امور مالی Scenario 1: Finance

• سناریوی ۲: بیمه Scenario 2: Insurance

• سناریوی ۳: آموزش Scenario 3: Education

• سناریوی ۴: دولت Scenario 4: Government

• سناریوی ۵: مراقبت‌های بهداشتی Scenario 5: Health Care

ابزارهای کاربردی برای طراحی سیستم‌های قابل اعتماد Practical Tools to Enable Designing for Trust

• مرور کلی ماژول Module Overview

• اهداف Objectives

• چک‌لیست سریع همسویی اخلاقی Quick Ethics Alignment Checklist

• سوالات کاوشگر برای بررسی اخلاقی مدل Probing Questions for Ethical Model Review

• فعالیت: آزمایشگاه ارزیابی اخلاق عامل Activity: Agent Ethics Evaluation Lab

• ۱. بررسی گام‌به‌گام اخلاقی 1. Ethical Walkthrough

• ۲. رتبه‌بندی اخلاقی 2. Ethical Rating

• ۳. برنامه بهبود 3. Improvement Plan

• راهنمای مستندسازی مدل Model Documentation Guide

چالش‌های نوظهور و حاکمیت Emerging Challenges and Governance

• مرور کلی ماژول Module Overview

• اهداف Objectives

• تکثیر ریسک‌های اخلاقی در هوش مصنوعی خودمختار Multiplication of Ethical Risks with Autonomous AI

• اتحادیه اروپا: قانون هوش مصنوعی EU AI Act European Union: The EU AI Act

• ایالات متحده: دستورالعمل‌های فدرال و ایالتی United States: Federal and State Guidance

• چشم‌انداز جهانی متنوع اما همگرا The Diverse but Converging Global Landscape

• اخلاق در طراحی (Ethical by Design) Ethical by Design