美国陆军开发了一种有效的地面机器人学习模型
美国陆军为未来的多领域作战概念开发了一种有效的地面机器人学习模型。该模型提出了一种基于强化学习的策略,可以有效地减少当前训练强化学习策略的不可预测性,并使自治主体能够推理并适应不断变化的战场条件。
强化学习是代理在“试错法”中学习。方式,并通过与环境互动而获得回报。
目的是使代理商获得最大的回报。强化学习技术具有解决复杂问题的能力。
近年来,它在围棋,国际象棋和电子游戏等领域取得了长足的进步。在将这种强化学习技术应用于地面机器人方面,美国陆军面临两个巨大的挑战。
首先是算法的局限性。在强化学习中,策略梯度方法(PolicyGradientMethods)是连续空间可伸缩算法的基础,但是现有技术无法支持更广泛的决策目标,例如风险敏感性,安全性约束以及对先验知识的探索和分散。
第二个是数据量问题。强化学习需要大量的样本复杂性,并且美国陆军的多领域作战概念和下一代作战车辆(NGCV)项目目前缺乏数据,并且不支持现有的训练机制。
强化学习被应用在陆军的多领域作战概念和NGCV项目中。训练机制必须提高连续空间中样本的效率和可靠性。
通过将现有的策略搜索方案扩展到通用工具,ARL取得了重要突破。研究人员为通用程序开发了一种新的策略搜索方案,并确定了其样本复杂度。
由此产生的策略搜索方案减少了奖励积累的波动性,并形成了对未知区域的有效探索和先验机制。值得注意的是,地面机器人获取数据的成本非常高。
减少奖励积累的波动性,确保以有效的方式探索未知区域或吸收以前的经验将有助于突破当前在强化学习中实践的样本效率障碍。通过减少随机样本的数量,可以实现策略优化。
该研究为强化学习中的经典策略梯度定理做出了贡献。配备强化学习功能的自主机器人将能够协助士兵在未来战场上进行侦察探索和风险评估。
研究人员接下来计划将更广泛的决策目标纳入强化学习中的多主体设置中,并研究强化学习主体之间的交互设置如何在团队之间产生协同作用和对抗性推理。