转载

OpenAI 在 PyTorch 上实现标准化

我们正在标准化OpenAI的深度学习框架PyTorch.过去,我们根据项目的相对优势在许多框架中实施项目。我们现在选择标准化,以使我们的团队更容易创建和共享模型的优化实现。

作为这一举措的一部分,我们刚刚发布了一个支持 PyTorch 的版本在深RL中旋转,这是由 OpenAI 制作的开源教育资源,可以更轻松地学习深度强化学习。我们还在为高度优化的 PyTorch 绑定编写块解析内核,并将在未来几个月内开源这些绑定。

我们选择 PyTorch 的主要原因是为了在 GPU 上大规模提高我们的研究效率。在 PyTorch 中尝试和执行新的研究想法非常容易;例如,切换到 PyTorch 将我们在生成建模中研究想法的迭代时间从几周减少到几天。我们也很高兴能加入一个快速增长的开发者社区,包括Facebook和微软等组织,推动GPU的规模和性能。

展望未来,我们将主要使用 PyTorch 作为我们的深度学习框架,但有时也会在有特定技术原因时使用其他框架。我们的许多团队已经进行了转换,我们期待在未来几个月内为 PyTorch 社区做出贡献。