Použití modifikovaného Q-učení pro řízení inverzního kyvadla

Using Modified Q-learning With LWR for Inverted Pendulum Control

conference paper

Czech

Lokálně vážená regrese (Locally Weighted Learning - LWR) patří mezi algoritmy aproximací, založených na lokálním modelu. Tento článek demonstruje použití LWR ve spojitosti s Q-učením. Q-učení je v současné době jeden z nejpopulárnějších a nejefektivnějších učících se algoritmů, patřících do skupiny označované jako Opakovaně posilované učení, založené na principu odměny a trestu. Nejběžnější reprezentace Q-funkce je tabulka diskrétních stavů. Pro použití spojitých stavů je nutno tuto tabulku aproximovat nějakým vhodným aproximátorem. Jako vhodný aproximátor bylo zvoleno LWR. Pro počateční pokusy aplikace LWR ve spojitosti s Q-učením byl vytvořen nenáročný model inverzního kyvadla.

Locally Weighted Learning (LWR) is a class of approximations, based on a local model. In this paper we demonstrate using LWR together with Q-learning for control tasks. Q-learning is the most effective and popular algorithm which belongs to the Reinforcement Learning algorithms group. This algorithm works with rewards and penalties. The most common representation of Q-function is the table. The table must be replaced by suitable approximator if use of continuous states is required. LWR is one of possible approximators. To get the first impression on application of LWR together with modified Q-learning for the control task a simple model of inverted pendulum was created and proposed method was applied on this model.

Q-Learning, LWR, Continuous Space

VĚCHET, S., MIČEK, P., BŘEZINA, T.

2003

12. 5. 2003

Institute of Theoretical and applied Mechanics Academy of sciences of the Czech Republic

Prague

80-86246-18-3

ENGINEERING MECHANICS 2003

368

369

2