微软帮助自动驾驶汽车了解其局限性

无知是幸福的，通常最无知的人会做出最可靠的决定，而不是因为知道自己可能是错的而受阻。

在许多情况下，这一切都很好，但在目前的自动驾驶汽车开发水平上，让一辆特斯拉自信地撞上一辆消防车或白色面包车（两者都发生）可能相当危险。

问题在于，自动驾驶汽车足够聪明，可以驾驶汽车，但不知道它们何时会进入超出其信心和能力水平的情况。

微软研究院与麻省理工学院合作，帮助汽车准确了解何时情况模棱两可。

正如麻省理工学院新闻所指出的那样，一种情况可以接收到许多不同的信号，因为系统将许多情况视为相同的。 例如，一辆自动驾驶汽车可能已经在一辆大型汽车旁边巡航了很多次，而没有减速和靠边停车。 但是，只有在一个例子中，一辆在系统中看起来完全一样的救护车经过。 自动驾驶汽车没有靠边停车并收到系统采取了不可接受的动作的反馈信号。 因为不寻常的情况是稀有汽车可能会学会忽略它们，尽管它们很稀有但仍然很重要。

微软贡献的新系统将识别这些罕见的训练有冲突的系统，并且可以在它可能已经执行的情况下学习，例如，90% 的时间都在可接受的情况下，这种情况仍然模棱两可，值得“盲目”点。”

“当系统部署到现实世界中时，它可以使用这种学习模型来更加谨慎和智能地行动。 如果学习模型以高概率预测某个状态是盲点，则系统可以查询人类可接受的动作，从而更安全地执行，”计算机科学与人工智能实验室的研究生 Ramya Ramakrishnan 说。

阅读更多详细信息 在麻省理工学院新闻这里.