查看关于 rlpyt 的更多文章请点击这里。
rlpyt 是BAIR(Berkeley Artificial Intelligence Research，伯克利人工智能研究所)开源的一个强化学习(RL)框架。我之前写了一篇它的简介。 如果你想用这个框架来开发自己的强化学习程序（尤其是那些不属于Atari游戏领域的强化学习程序），那么需要对它的源码有一定的了解。本文尝试从 rlpyt 自带的一个实例来分析它的部分源码，希望能帮助到一小部分人。
▶▶ Mixin类简介
rlpyt 里面有大量的 *Mixin 类，例如 AtariMixin，MujocoMixin，RecurrentAgentMixin 等，作者并没有为这些名字很怪的class写任何注释，仅从使用的地方来看，很多Mixin类都与agent类有关联。
要查看更多树莓派相关文章，请点击这里。
在树莓派上安装好Ubuntu MATE 18.04之后，我在试图更新系统的时候遇到了 bluez 软件包和 内核固件 冲突，从而导致无法进行下去的问题，本文记录一下现场情况以及解决办法。
要查看更多树莓派相关文章，请点击这里。
在树莓派上安装好Ubuntu MATE 18.04之后，我需要把外挂的显示屏去掉，从此只在command line下使用树莓派，因此要先打开Ubuntu MATE上的ssh服务。
在Python中，假设你最终想得到一个NumPy array，而它是通过append大量数据得到的，那么有两种办法：
✔ 先创建一个Python list，append完数据之后再把这个list转成NumPy array。
✔ 直接创建一个NumPy array，用 np.append() 函数来append数据。
第1种比第2种快很多，尤其是当你在一个for循环中频繁做这个事情的时候，差距就更明显了。
查看关于 rlpyt 的更多文章请点击这里。
rlpyt 是BAIR(Berkeley Artificial Intelligence Research，伯克利人工智能研究所)开源的一个强化学习(RL)框架。我之前写了一篇它的简介。 如果你想用这个框架来开发自己的强化学习程序（尤其是那些不属于Atari游戏领域的强化学习程序），那么需要对它的源码有一定的了解。本文尝试从 rlpyt 自带的一个实例来分析它的部分源码，希望能帮助到一小部分人。
▶▶ sampler的主要功能
训练强化学习模型需要训练数据，收集训练数据的工作就是由sampler类做的。
收集训练数据，就需要在environment中步进，因此environment的实例化工作也在sampler中完成。
我们经常会看到后缀名为 .pt，.pth，.pkl 的PyTorch模型文件，这几种模型文件在格式上有什么区别吗？
其实它们并不是在格式上有区别，而只是后缀上不同而已（仅此而已）。在用 torch.save() 函数保存模型文件的时候，各人有不同的喜好，有些人喜欢用 .pt 后缀，有些人喜欢用 .pth 或 .pkl。用相同的 torch.save() 语句保存出来的模型文件没有什么不同。
在PyTorch官方的文档/代码里，有用 .pt 的，也有用 .pth 的。
据某些文章的说法，一般惯例是使用 .pth，但是官方文档里貌似 .pt 更多，而且官方也不是很在意固定用一种，大家就自便吧。
强化学习是一种机器学习范式，通常用于让机器自主进行决策和学习。以下是一些强化学习的应用：