MDPとベルマン方程式から、深層強化学習、模倣学習、Sim-to-Realまでをロボット応用とともに解説します。
以下は編集したおすすめの順番です。初めての方は1から、目的が決まっている方は必要な記事へ進んでください。
強化学習を「正解ラベルを当てる学習」ではなく、観測から行動を選び、遅れて返る報酬を最大化する閉ループとして捉える。MDP、価値関数、方策、ベルマン方程式、探索と活用、シミュレーション実装までをロボットの例で図解する。
Q学習がベルマン最適方程式を使って行動価値を更新する仕組みを、表形式からニューラルネットワークによるDQNまで追う。経験再生、ターゲットネットワーク、過大評価、安全なロボット適用を図と式で解説する。
連続した操舵角や関節トルクを扱うため、方策を直接更新する方策勾配法からActor-Critic、PPO、SACまでをつなげて解説する。クリッピング、エントロピー正則化、評価指標、Sim-to-Realの安全境界を図と式で整理する。
強化学習の実装の中で、アルゴリズムよりも報酬関数の設計が結果を左右することが多い。疎な報酬と密な報酬、ポテンシャルベース報酬シェイピングの方策不変性、報酬ハッキングの実例、逆強化学習と制約付きRLまでを整理する。
世界モデル、予測誤差、MPC、Domain Randomization、安全監視を通じ、学習した方策を実機へ移す方法を解説する。
Behavior Cloning、DAgger、逆強化学習は、報酬を手書きしにくいロボット課題で人や既存システムの実演を使う。共変量シフト、報酬推定、VLAとの接続、評価と安全を式と図で解説する。
Physical Intelligenceが2024年に発表したπ0を、原論文の記述に基づいて分解する。PaliGemma VLMバックボーンと専用Action Expertの併走構成、条件付きフローマッチングによる連続行動生成、7種類のロボットにまたがるクロスエンボディメント学習まで、RT-2/OpenVLA型の自己回帰VLAと何が違うのかを数式付きで検証する。
複数のエージェントが同時に学習すると、単一エージェントのMDPは成り立たなくなる。非定常性、協調・競争・混合設定、CTDE、信用割当問題、MADDPGとQMIXまでを式と図で整理する。