Skip to content

Latest commit

 

History

History
72 lines (53 loc) · 2.62 KB

File metadata and controls

72 lines (53 loc) · 2.62 KB

RL-Lite3

Note

此代码仓库暂停维护,请使用最新版训练代码: rl_training

English

简介

一种基于学习的四足机器人运动控制器。包含在云深处科技绝影Lite3上进行强化学习训练和硬件部署所需的所有组件。

软件架构

本仓库由包含以下目录:

  • rsl_rl: 一个封装了强化学习方法的包。
  • legged_gym: 基于 Gym 环境、专为四足机器人设计的仿真框架。

准备环境

  1. 在Ubuntu系统中创建一个python(3.6/3.7/3.8,建议使用3.8)环境。

  2. 安装计算平台为CUDA的PyTorch。

    # pytorch
    # 如果你的显卡是RTX40 series
    pip install torch==1.13.1+cu117 torchvision==0.14.1+cu117 torchaudio==0.13.1 --extra-index-url https://download.pytorch.org/whl/cu117
    # 如果你的显卡是其他的旧版本
    pip3 install torch==1.10.0+cu113 torchvision==0.11.1+cu113 torchaudio==0.10.0+cu113 -f https://download.pytorch.org/whl/cu113/torch_stable.html
    
  3. 从官方网站下载Isaac Gym(版本 >= preview 3),并将其放入项目的根目录中,按照Isaac Gym中 README.txt的说明,用浏览器打开一下docs/install.html文件,遵照说明在当前的环境中安装Isaac Gym包

  4. 使用pip安装python依赖项。

    pip3 install transformations matplotlib gym tensorboard numpy==1.23.5
    
  5. 通过 pip 安装 legged_gym 和 rsl_rl

    cd legged_gym
    pip install -e .
    
    cd rsl_rl
    pip install -e .
    

使用方法

在仿真环境中训练策略

cd ${PROJECT_DIR}
python3 legged_gym/legged_gym/scripts/train.py --rl_device cuda:0 --sim_device cuda:0 --headless

在仿真环境中运行控制器

cd ${PROJECT_DIR}
python3 legged_gym/legged_gym/scripts/play.py --rl_device cuda:0 --sim_device cuda:0 --load_run ${model_dir} --checkpoint ${model_name}

检查您的计算机是否有GPU,若无,请将上述脚本中的单词 cuda:0 替换为 cpu。 通过 --load_run--checkpoint 指定网络模型的路径。

在现实环境中运行控制器

将策略文件复制到项目rl_deploy中,然后,您可以在现实环境中运行强化学习控制器

参考资料

联系我们