PPO代理在Pendulum-v1上进行游玩

这是一个训练过的PPO代理在Pendulum-v1上进行游玩的模型，使用了 stable-baselines3 library 和 RL Zoo 。

RL Zoo是一个稳定的Baselines3强化学习代理的训练框架，其中包括了超参数优化和预训练代理。

使用方法（使用SB3 RL Zoo）

RL Zoo: https://github.com/DLR-RM/rl-baselines3-zoo SB3: https://github.com/DLR-RM/stable-baselines3 SB3 Contrib: https://github.com/Stable-Baselines-Team/stable-baselines3-contrib

# Download model and save it into the logs/ folder
python -m utils.load_from_hub --algo ppo --env Pendulum-v1 -orga HumanCompatibleAI -f logs/
python enjoy.py --algo ppo --env Pendulum-v1  -f logs/

训练（使用RL Zoo）

python train.py --algo ppo --env Pendulum-v1 -f logs/
# Upload the model and generate video (when possible)
python -m utils.push_to_hub --algo ppo --env Pendulum-v1 -f logs/ -orga HumanCompatibleAI

超参数

OrderedDict([('clip_range', 0.2),
             ('ent_coef', 0.0),
             ('gae_lambda', 0.95),
             ('gamma', 0.9),
             ('learning_rate', 0.001),
             ('n_envs', 4),
             ('n_epochs', 10),
             ('n_steps', 1024),
             ('n_timesteps', 100000.0),
             ('policy', 'MlpPolicy'),
             ('sde_sample_freq', 4),
             ('use_sde', True),
             ('normalize', False)])