連続行動＋視覚入力を使った深層強化学習まとめ

visual_rl.md

Deep RL + Continuous Control with Vision

• 深層強化学習で 連続行動 と 視覚入力 を使ったものをまとめる
• 特に重要なテクニックが書かれていればそれも書き出す
• マルチモーダルな強化学習もあれば書いておく

まとめた後の画像エージェントの構成パターン

• SAC のような形で、完全に actor と critic でネットワークを分けて CNN を2つ利用する
• actor と critic で CNN は共有するが、CNNの更新はcriticでのみしてactorはそれを利用する
• actor と critic で CNN を利用するが、CNNの更新はAuto encoderなど別のLossをつかう

Lee, Alex X., et al. "Stochastic latent actor-critic: Deep reinforcement learning with a latent variable model." arXiv preprint arXiv:1907.00953 (2019).

https://alexlee-gk.github.io/slac/

SAC を 隠れ状態も含めて定式化したもの

• ELBOで定式化しているところは（たぶん）きれいだと思う
• decoder p(x|z) は 5 transposed convolutional layers (256 4 × 4, 128 3 × 3, 64 3 × 3, 32 3 × 3, and 3 5 × 5 filters, respectively, stride 2 each, except for the first layer)
• q(z|x) 5 convolutional layers (32 5 × 5, 64 3 × 3, 128 3 × 3, 256 3 × 3, and 256 4 × 4 filters, respectively, stride 2 each, except for the last layer)
• q(z'|x,z,a)は 2 fully connected layers (256 units each), and a Gaussian output layer
• latent variable は z_1=32dim, z_2=256 dim
• critic は 256-256-value
• actor は 5 convnet layer-256-256-tanh?-action: ここでもCNNの更新は他のobjectiveで更新されていて、actor はそのCNNを利用しているだけ