シミュレーション

fly-cartpole

Curt Park (@Curt-Park)

MaleCNS v1.0 から配線したキノコ体を左右の押し方向ごとに 1 つずつ置き、ドーパミンの予測誤差で CartPole の倒立を学ばせる。評価用 20 シードの最終 100 エピソード平均で 392.5 ステップ、可塑性を切ると 18.7、ランダムな押しは 22.8 で、46% のエピソードが上限の 500 ステップに達する。配線をシャッフルしても 390.3 で、置換検定で p = 0.48。効いているのはシナプスの地図そのものでなく配置だということになる。試した 19 仮説の記録こそが本体で、拑抗だけの可塑性はシナプスを使い切る、キノコ体 1 つでは行動符号が棒の状態を隠す、境界のあるシナプスが表せる範囲を超えた報酬は一部の場合を片側に固定してしまう、と報告されている。

公式サイト ↗

fly-cartpole

#cartpole#mushroom-body#dopamine#preregistration#shuffled-control#reinforcement-learning#malecns

確認した出典

上の情報は掲載日にこれらのページを読んで確認したものです。