转载

OpenAI研究物理世界中的垃圾邮件检测

创造了世界上第一个完全在模拟中训练并部署在物理机器人上的垃圾邮件检测 AI。

模拟到真实的传输

深度学习驱动的机器人系统受到数据收集的瓶颈：仅获取训练感知系统所需的数十万张图像的成本非常高。生成模拟数据的成本很低，但模拟与现实的差异很大，以至于人们在转移到物理世界时通常会从头开始重新训练模型。

我们已经证明，域随机化是一种现有的想法，可以使在模拟图像上训练的检测器转移到真实图像上，适用于杂乱的场景。方法很简单：我们在模拟场景中随机改变颜色、纹理、照明条件和相机设置。生成的数据集具有足够的可变性，可以让在其上训练的深度神经网络泛化到现实中。

该检测器是一个基于 VGG16 架构的神经网络，可预测垃圾邮件在模拟图像中的精确 3-D 位置。尽管它仅在模拟场景中接受过训练，但由此产生的网络能够检测真实图像中的垃圾邮件，即使存在以随机配置排列的前所未见的“干扰项”。

下面的视频演示了该系统的运行情况：

将来，我们计划将这项工作扩展到检测网络钓鱼和防御对抗性垃圾邮件。