今日，有新闻报道称：加州大学伯克利分校的研究团队打造了一个两条腿的机器人Cassie，通过AI的催动强化学习后它自己竟然学会了走路，并不是通过直接编程和模仿来学习的，它是通过AI学习框架让机器人Cassie以试错的方式进行自主学习走路。这种试错的训练方式如同婴儿学走路一般，主动的适应环境，逐渐执行稳定，敏捷以及多样化的走路动作。除此之外，机器人还会不断学习跑步，跳跃等动作，敏捷度也会通过自动调速功能逐渐实现。

未来，基于AI强化学习这一技术，运动机器人也将更为敏捷。

一、AI模拟训练学走路，无需婴儿般跌倒重来

双足机器人Cassie类似我们的腿部外形，因此相比其他形状的机器人更容易进入为人类设计的城市环境之中。

为帮助Cassie像人类一样学会自主行走，研究团队将这个过程想象为如婴儿学走路一般。婴儿虽然不会直接学会站立行走，但他们能通过一次次的站立、跌倒、迈步中记住步行的步骤，最终学会直立行走。

Cassie学走路也是如此。但为防止机器人在学习过程中跌倒损坏实际硬件，研究团队利用模拟到真实的传输技术，在模拟环境中训练，在高保真度的模拟器中进行评估，最终部署到Cassie机器人上。

在模拟中，机器人接受了描述直立行走等目标的信息后，AI引擎可以帮助其记住步行步骤，以此为基础添加更多信息，最终学会直立行走。此外，它还可以学会如何在轻微滑倒时防止摔倒，或从侧面被推倒时如何恢复。

一旦机器人在模拟中学会走路，研究人员便将此知识移植给Cassie，进行实际操作。后续实践中，研究人员计划继续在机器人中进行强化学习，看看它能走多远。

二、步态库中强化学习，让步伐更灵活稳健

研究团队基于强化学习( Reinforcement Learning;RL)方法，希望让Cassie通过系统学习法学会更敏捷的行走。强化学习又称增强学习、评价学习，是智能体以“试错”的方式进行学习，在环境交互中达成特定目的。

在此之前，研究者往往通过机械建模控制双足机器人行走，然而这种方式难以对复杂地面进行建模，机器人缺乏适应环境变化的能力和运动稳定性。基于强化学习的步行控制器，RL方法训练策略可以让机器人模拟步态库中的步态，通过随机训练增加其行为的多样性。这种多样性的增加，能够让Cassie应对以往无法建模的地面摩擦变化等环境因素，在随机环境下保持灵活稳健性。

三、AI追踪行走环境，步行速度、高度自动调

基于RL方法，研究人员建立了一种自适应调速步行控制器。这种控制器能够通过AI追踪Cassie的步行环境，并给其适当的行走策略。Cassie在不同场景下的行走策略，在实验中，Cassie能够执行各种敏捷行为，如快进和后退行走、侧身行走、改变行走高度，还能够在偏航时进行转身操作。

此外，Cassie还能够从路障等外界随机扰动中恢复。AI强化学习助机器人运动更敏捷，基于步态库的参考运动，AI强化学习可以帮助两足机器人学习步行、转弯、下蹲等运动状态，跟踪其行走环境以达到自动调速、转弯等功能，让机器人在运动中更好的达到灵活性和稳健性。

以上我们分享了AI机器人自己学习走路的全过程，未来AI强化学习还将在此基础上，助力两足机器人及其他机器人学习更多动态，敏捷的行为，如果您想了解更多相关信息，请您继续关注中培伟业。