Note
此代码仓库暂停维护,请使用最新版训练代码: rl_training。
一种基于学习的四足机器人运动控制器。包含在云深处科技绝影Lite3上进行强化学习训练和硬件部署所需的所有组件。
本仓库由包含以下目录:
- rsl_rl: 一个封装了强化学习方法的包。
- legged_gym: 基于 Gym 环境、专为四足机器人设计的仿真框架。
-
在Ubuntu系统中创建一个python(3.6/3.7/3.8,建议使用3.8)环境。
-
安装计算平台为CUDA的PyTorch。
# pytorch # 如果你的显卡是RTX40 series pip install torch==1.13.1+cu117 torchvision==0.14.1+cu117 torchaudio==0.13.1 --extra-index-url https://download.pytorch.org/whl/cu117 # 如果你的显卡是其他的旧版本 pip3 install torch==1.10.0+cu113 torchvision==0.11.1+cu113 torchaudio==0.10.0+cu113 -f https://download.pytorch.org/whl/cu113/torch_stable.html -
从官方网站下载Isaac Gym(版本 >= preview 3),并将其放入项目的根目录中,按照Isaac Gym中 README.txt的说明,用浏览器打开一下docs/install.html文件,遵照说明在当前的环境中安装Isaac Gym包
-
使用
pip安装python依赖项。pip3 install transformations matplotlib gym tensorboard numpy==1.23.5 -
通过 pip 安装 legged_gym 和 rsl_rl
cd legged_gym pip install -e . cd rsl_rl pip install -e .
cd ${PROJECT_DIR}
python3 legged_gym/legged_gym/scripts/train.py --rl_device cuda:0 --sim_device cuda:0 --headless
cd ${PROJECT_DIR}
python3 legged_gym/legged_gym/scripts/play.py --rl_device cuda:0 --sim_device cuda:0 --load_run ${model_dir} --checkpoint ${model_name}
检查您的计算机是否有GPU,若无,请将上述脚本中的单词 cuda:0 替换为 cpu。
通过 --load_run 和 --checkpoint 指定网络模型的路径。
将策略文件复制到项目rl_deploy中,然后,您可以在现实环境中运行强化学习控制器