有研究人员认为由于机器学习的本质，要证明自动驾驶汽车可以安全上路是一项非常困难的挑战，我对此也深信不疑。
虽然目前很多科技公司都在技术上取得了一些进展，但是仍然有大量的难题有待攻克。机器学习的难点就在于，你根本无法界定代码要满足的要求是什么。现在比较流行的词汇是算法，通过对大量样本的处理生成一个可以解决特定问题的数学模型，这种归纳式学习有一定的潜在失效风险，因为你只能看到一些统计数字，你根本不知道它到底在学什么。
人工神经网络是一种常见的能模仿人类大脑间神经元联系的机器学习模型，如果使用近似数据对算法训练测试太多的话，它可能会记住某一次特定的测试，并返回那次测试的信息。如果任意挑选一个城市投放自动驾驶汽车，而当地没有详尽的HD Mapping的话，那这些车也就无法完全发挥功效。当系统遇到恶劣天气或者视线不佳时，算法的识别能力是否会受到影响？
比如说，如果一个工程团队在100亿公里的模拟测试中都没能发生任何突发事件，车辆也就不会有相应的处理方式，而汽车制造商却就可以冠冕堂皇的宣称自己的车辆不会有突发状况。某些公司因为研发时限和成本的限制，对车辆的安全性指标就会放宽要求。
目前来看对于自动驾驶汽车安全的验证，主要有三种方法。一.蛮力，让汽车行驶几百万公里，计算故障率。二.软件在环的仿真，在仿真所构建的各种场景中，通过算法控制车辆进行相应的应对来证明所设计的系统安全。三.硬件在环，为了验证真实硬件的运行情况，对其进行测试，并将预先记录的传感器数据提供给系统。最终，企业们可能会实施混合路线，应用上述方法，以期待在最短时间内取得所需的置信水平。
