weixin_43853194 2022-11-21 10:17 采纳率: 0%
浏览 20
已结题

DQN训练中,设置ε-greedy策略,取得相反的训练结果**(智能体一开始选择最优动作,后期选择较多随机动作,为什么训练效果反而更好,是哪个环节出现问题了)

问题现象:DQN训练中,设置ε-greedy策略,取得相反的训练结果(智能体一开始选择最优动作,后期选择较多随机动作,为什么训练效果反而更好,是哪个环节出现问题了)

问题描述:(1)智能体有ε的概率选择随机动作,(1-ε)的概率选择最优动作。在训练中,令ε单调递减(一开始更多选择随机动作,随着训练加深,逐渐选择最优动作)。代码如下所示

img

图A1 参数设置(合理值)

img

图A2 动作选择函数

img

图A3 训练结果

img

图B1 参数设置和动作选择函数(相比图A1,A2,参数设置不变,但是目标选择函数中:以1-ε的概率选择随机值)

img

图B2 训练结果

原则上说,一开始让智能体选择较多的随机动作,越后期,随机动作越小,这样的训练效果最好,但为什么在我的实验中,是相反的?

  • 写回答

1条回答 默认 最新

  • yy64ll826 2022-11-25 10:41
    关注
    评论

报告相同问题?

问题事件

  • 系统已结题 11月29日
  • 赞助了问题酬金15元 11月21日
  • 创建了问题 11月21日