آموزش شناسایی و کاهش ریسک‌های اخلاقی - آخرین آپدیت

مبانی تحلیل ریسک اخلاقی Ethical Risk Analysis Fundamentals

• معرفی دوره شناسایی و کاهش ریسک‌های اخلاقی Detect and Mitigate Ethical Risks Course Introduction

• معرفی تخصص CEET CEET Specialization Introduction

• خوش‌آمدگویی و نکات موفقیت در دوره Course Welcome & Success Tips

• اهمیت مدیریت ریسک‌ها The Importance of Managing Risks

• فرآیند مدیریت ریسک Risk Management Process

• شناسایی ریسک Risk Identification

• تحلیل ریسک Risk Analysis

• کاهش ریسک Risk Mitigation

• انواع ریسک‌های اخلاقی Types of Ethical Risk

• توزیع‌ها Distributions

• گرایش به مرکز Central Tendency

• واریانس و انحراف معیار Variance and Standard Deviation

• چولگی و کشیدگی Skewness and Kurtosis

• همبستگی Correlation

• احتمالات Probability

• خروجی‌های یادگیری ماشین Machine Learning Outcomes

• توابع هزینه Cost Functions

• قابلیت اطمینان Reliability

• قانون گودهارت Goodhart's Law

مدیریت ریسک‌های حریم خصوصی Manage Privacy Risks

• اهمیت مدیریت ریسک‌های حریم خصوصی The Importance of Managing Privacy Risks

• داده‌های خصوصی Private Data

• داده‌های دست اول در مقابل داده‌های دست سوم First-Party vs. Third-Party Data

• استفاده ثانویه از داده‌ها Secondary Use of Data

• منابع داده‌های ترکیبی Combined Data Sources

• شناسایی اطلاعات شناسایی شخصی (PII) Identify Personally Identifiable Information (PII)

• مدل‌سازی پرسونای کاربران Model Personas

• ردیابی داده‌های مشتری Track Customer Data

• برآورده کردن الزامات تطبیق‌پذیری Meet Compliance Requirements

• قصد و رضایت کاربر Intent and Consent

• به حداقل رساندن اشتراک‌گذاری داده‌های خصوصی Minimize Private Data Sharing

• ارائه حق انتخاب به کاربر Give the User Choices

• به حداقل رساندن جمع‌آوری داده‌های خصوصی Minimize Private Data Collection

• تقویت اعتماد Reinforce Trust

• ناشناس‌سازی و نام مستعارسازی Anonymization and Pseudonymization

• رمزنگاری همومورفیک Homomorphic Encryption

• پروتکل‌های دانش صفر (Zero Knowledge) Zero-Knowledge Protocols

• ادغام مدیریت ریسک حریم خصوصی در چرخه حیات Incorporate Privacy Risk Management in the Lifecycle

مدیریت ریسک‌های پاسخ‌گویی Manage Accountability Risks

• اهمیت مدیریت ریسک‌های پاسخ‌گویی The Importance of Managing Accountability Risks

• استفاده از مؤلفه‌های شخص ثالث Use of Third-Party Components

• سوگیری اتوماسیون Automation Bias

• قضاوت‌های خارج از چارچوب قانونی Extrajudicial Judgment

• فقدان اصول راهنما Lack of Guiding Principles

• شناسایی الگوریتم‌های جعبه سیاه Recognize Black Box Algorithms

• ارزیابی ساختار حاکمیتی سازمان Assess the Organization's Governance Structure

• مستندسازی و توزیع سیاست‌های شرکت Document and Distribute Company Policies

• مستندسازی فرآیندهای طراحی Document Design Processes

• مستندسازی فرآیندهای حسابرسی Document Auditing Processes

• ماتریس تخصیص مسئولیت (RAM/RACI) Responsibility Assignment Matrix (RAM/RACI)

• تست‌های پایلوت Pilot Testing

• همکاری با شرکای اشتراک‌گذاری داده Collaboration with Data Sharing Partners

• ارزیابی اثرات الگوریتمی (AIA) Algorithmic Impact Assessment (AIA)

• بصری‌سازی داده‌ها Data Visualization

• گزارش‌دهی داشبورد Dashboard Reporting

• ادغام مدیریت ریسک پاسخ‌گویی در چرخه حیات Incorporate Accountability Risk Management in the Lifecycle

مدیریت ریسک‌های شفافیت و توضیح‌پذیری Manage Transparency and Explainability Risks

• اهمیت مدیریت ریسک‌های شفافیت و توضیح‌پذیری The Importance of Managing Transparency and Explainability Risks

• سیستم‌های جعبه سیاه Black Box Systems

• مدل‌های خودآموز Self-Learning Models

• یکپارچه‌سازی با شخص ثالث Third-Party Integration

• حقوق مالکیت معنوی Intellectual Property Rights

• سایه-بن (Shadow Banning) Shadow Banning

• هوش مصنوعی توضیح‌پذیر (XAI) Explainable AI

• شناسایی تصمیمات الگوریتمی Identify Algorithmic Decisions

• تجزیه تصمیمات خاص Deconstruct Specific Decisions

• توضیح نحوه عملکرد سیستم‌ها Explain How Systems Work

• کمک به کاربرانی که به دنبال توضیح هستند Help Users Seeking Explanations

• حفظ نقش انسان در چرخه (Human-in-the-loop) Keep Humans in the Loop

• تضمین افشای مناسب داده‌ها Ensure Proper Data Disclosure

• شفافیت در مورد نقص‌های داده‌های آموزشی Be Upfront About Training Data Inadequacies

• ابزارهای SHAP و Alibi SHAP and Alibi

• ابزارهای ELI5، LIME و What If ELI5, LIME, and What-If

مدیریت ریسک‌های عدالت و عدم تبعیض Manage Fairness and Non-Discrimination Risks

• اهمیت مدیریت ریسک‌های عدالت و عدم تبعیض The Importance of Managing Fairness and Non-Discrimination Risks

• سوگیری ضمنی Implicit Bias

• سوگیری نمونه‌برداری Sampling Bias

• سوگیری تقویت‌کننده Reinforcement Bias

• سوگیری زمانی Temporal Bias

• بیش‌برازش (Overfitting) روی داده‌های آموزشی Overfitting to Training Data

• موارد خاص (Edge Cases) و داده‌های پرت Edge Cases and Outliers

• تکنیک‌های تحلیلی Analytical Techniques

• تحلیل مدل‌ها در محیط‌های مختلف Analyze Models in Different Environments

• مدل‌سازی پرسونا Persona Modeling

• طراحی فراگیر و پیش‌بینی‌پذیری Inclusive Design and Foreseeability

• تحلیل STEEPV STEEPV Analysis

• انجام تست‌های کاربر Perform User Testing

• جمع‌آوری نظرات ذینفعان خارجی Gather Input from External Stakeholders

• پاداش‌های شناسایی سوگیری و ایمنی Bias and Safety Bounties

• ابزار AI Fairness 360 AI Fairness 360

• ردیابی داده‌های رادیواکتیو Radioactive Data Tracing

• ادغام مدیریت ریسک عدالت و عدم تبعیض در چرخه حیات Incorporate Fairness and Non-Discrimination Risk Management in the Lifecycle

مدیریت ریسک‌های ایمنی و امنیت Manage Safety and Security Risks

• اهمیت مدیریت ریسک‌های ایمنی و امنیت The Importance of Managing Safety and Security Risks

• رفتارهای غیرطبیعی سیستم Abnormal System Behavior

• یادگیری ماشین تخاصمی (Adversarial ML) Adversarial Machine Learning

• عوامل مخرب Bad Actors

• تفکر گروهی و سوگیری‌ها Groupthink and Biases

• حملات سایبری Cyber Attacks

• تحلیل کمی ریسک Quantitative Risk Analysis

• ارزیابی داده‌های آموزشی و مدل‌ها Evaluate Training Data and Models

• هوش تهدیدات Threat Intelligence

• مدل‌سازی تهدید Threat Modeling

• تست نفوذ Penetration Testing

• تحلیل جرم‌شناسی دیجیتال (Forensic) Forensic Analysis

• تضمین پیروی سیستم‌های حیاتی AI از استانداردهای سخت‌گیرانه Ensure Critical AI Systems Follow Rigorous Standards

• تعیین رفتار پایه سیستم Establish Baseline System Behavior

• تعیین تیم‌های واکنش سریع Designate Rapid Response Teams

• حفاظت از امنیت داده‌ها در حالت ذخیره‌شده Protect the Security of Data in Storage

• حفاظت از امنیت داده‌ها در حال انتقال Protect the Security of Data in Transit

• کتابخانه‌های تهدید و ریسک Threat and Risk Libraries

• ابزارهای تحلیل و مدل‌سازی تهدید Threat Modeling and Analysis Tools

• ابزارهای شبیه‌ساز حمله Attack Simulation Tools

• ابزارهای امتیازدهی آسیب‌پذیری Vulnerability Scoring Tools

• مدیریت رویدادها و اطلاعات امنیتی (SIEM) Security Information and Event Management (SIEM)

• ادغام مدیریت ریسک ایمنی و امنیت در چرخه حیات Incorporate Safety and Security Risk Management in the Lifecycle

اعمال آموخته‌ها Apply What You've Learned