لطفا جهت اطلاع از آخرین دوره ها و اخبار سایت در
کانال تلگرام
عضو شوید.
آموزش پیشبینی و کنترل با تقریب تابع
- آخرین آپدیت
دانلود Prediction and Control with Function Approximation
نکته:
ممکن هست محتوای این صفحه بروز نباشد ولی دانلود دوره آخرین آپدیت می باشد.
نمونه ویدیوها:
توضیحات دوره:
در این دوره، شما یاد میگیرید که چگونه مسائل با فضاهای حالت بزرگ، با ابعاد بالا و بالقوه نامحدود را حل کنید. خواهید دید که تخمین توابع مقدار را میتوان به عنوان یک مسئله یادگیری نظارت شده (تقریب تابع) در نظر گرفت که به شما اجازه میدهد عاملهایی بسازید که تعادلی دقیق بین تعمیمپذیری و تشخیص ایجاد کنند تا پاداش را به حداکثر برسانند. ما این مسیر را با بررسی این موضوع آغاز میکنیم که چگونه روشهای ارزیابی سیاست یا پیشبینی مانند مونتکارلو و TD را میتوان به محیط تقریب تابع تعمیم داد. شما با تکنیکهای ساخت ویژگی برای یادگیری تقویت شده (RL) و یادگیری نمایش از طریق شبکههای عصبی و پسانتشار (Backprop) آشنا خواهید شد. در پایان این دوره، به بررسی عمیق روشهای گرادیان سیاست (Policy Gradient) میپردازیم؛ روشی برای یادگیری مستقیم سیاستها بدون نیاز به یادگیری تابع مقدار. در این دوره، شما دو وظیفه کنترل با حالت پیوسته را حل کرده و مزایای روشهای گرادیان سیاست را در محیطهایی با اکشنهای پیوسته بررسی خواهید کرد.
پیشنیازها: این دوره به شدت بر مفاهیم بنیادی دورههای ۱ و ۲ استوار است و زبانآموزان باید پیش از شروع، آنها را تکمیل کرده باشند. همچنین تسلط بر احتمالات و امید ریاضی، جبر خطی پایه، حساب دیفرانسیل و انتگرال پایه، زبان پایتون ۳ (حداقل یک سال تجربه) و توانایی پیادهسازی الگوریتمها از روی شبهکد الزامی است.
در پایان این دوره، شما قادر خواهید بود:
- درک نحوه استفاده از رویکردهای یادگیری نظارت شده برای تقریب توابع مقدار
- درک اهداف پیشبینی (تخمین مقدار) در تقریب تابع
- پیادهسازی TD با تقریب تابع (تجمیع حالت) در محیطی با فضای حالت نامحدود (فضای حالت پیوسته)
- درک رویکردهای پایه ثابت و شبکههای عصبی در ساخت ویژگیها
- پیادهسازی TD با تقریب تابع شبکه عصبی در محیط حالت پیوسته
- درک دشواریهای جدید در اکتشاف (Exploration) هنگام انتقال به تقریب تابع
- مقایسه فرمولبندی مسائل تنزیل شده برای کنترل در مقابل فرمولبندی مسئله پاداش متوسط
- پیادهسازی Expected Sarsa و Q-learning با تقریب تابع در یک وظیفه کنترل حالت پیوسته
- درک اهداف تخمین مستقیم سیاستها (اهداف گرادیان سیاست)
- پیادهسازی یک روش گرادیان سیاست (موسوم به Actor-Critic) در محیط حالت گسسته
سرفصل ها و درس ها
خوشآمدگویی به دوره!
Welcome to the Course!
مقدمه دوره ۳
Course 3 Introduction
آشنایی با مدرسان!
Meet your instructors!
پیشبینی On-policy با تقریب
On-policy Prediction with Approximation
انتقال به توابع پارامتریک
Moving to Parameterized Functions
تعمیمپذیری و تشخیص
Generalization and Discrimination
تبدیل تخمین مقدار به یادگیری نظارت شده
Framing Value Estimation as Supervised Learning
هدف خطای مقدار
The Value Error Objective
معرفی گرادیان کاهشی
Introducing Gradient Descent
مونتکارلو گرادیانی برای ارزیابی سیاست
Gradient Monte for Policy Evaluation
تجمیع حالت با مونتکارلو
State Aggregation with Monte Carlo
Semi-Gradient TD برای ارزیابی سیاست
Semi-Gradient TD for Policy Evaluation
مقایسه TD و مونتکارلو با تجمیع حالت
Comparing TD and Monte Carlo with State Aggregation
دوینا پرکوپ: ساخت دانش برای عاملهای هوش مصنوعی با یادگیری تقویت شده
Doina Precup: Building Knowledge for AI Agents with Reinforcement Learning
بهروزرسانی خطی TD
The Linear TD Update
هدف واقعی برای TD
The True Objective for TD
خلاصه هفته اول
Week 1 Summary
ساخت ویژگیها برای پیشبینی
Constructing Features for Prediction
کدگذاری درشت (Coarse Coding)
Coarse Coding
ویژگیهای تعمیمپذیری کدگذاری درشت
Generalization Properties of Coarse Coding
کدگذاری کاشی (Tile Coding)
Tile Coding
استفاده از کدگذاری کاشی در TD
Using Tile Coding in TD
شبکه عصبی چیست؟
What is a Neural Network?
تقریب غیرخطی با شبکههای عصبی
Non-linear Approximation with Neural Networks
شبکههای عصبی عمیق
Deep Neural Networks
گرادیان کاهشی برای آموزش شبکههای عصبی
Gradient Descent for Training Neural Networks
استراتژیهای بهینهسازی برای شبکههای عصبی
Optimization Strategies for NNs
دیوید سیلور درباره یادگیری عمیق + RL = AI؟
David Silver on Deep Learning + RL = AI?
مرور هفته دوم
Week 2 Review
کنترل با تقریب
Control with Approximation
Sarsa اپیزودیک با تقریب تابع
Episodic Sarsa with Function Approximation
Sarsa اپیزودیک در محیط Mountain Car
Episodic Sarsa in Mountain Car
Expected Sarsa با تقریب تابع
Expected Sarsa with Function Approximation
اکتشاف تحت تقریب تابع
Exploration under Function Approximation
پاداش متوسط: روشی جدید برای فرمولبندی مسائل کنترل
Average Reward: A New Way of Formulating Control Problems
ساتیندر سینگ درباره پاداشهای درونی
Satinder Singh on Intrinsic Rewards
نمایش نظرات