昨日阅读1小时 累计阅读723小时
学习文章摘录
视觉感知系统背后是一套深度神经网络算法，充分理解并利用神经网络算法的信息可以构造对抗样本，这也就是AI算法的对抗样本。

该样本的构造并不是通过对一万或是更多的图片进行测试，而是通过深度理解后去构造模型，然后测试、微调，再测试。这一过程最重要的并不是去生成样本，而是对算法和深度神经网络的理解和研究，从而反向去构造样本，也就是反向逆推算法的过程。

吕一平称，实际上，人工智能算法本身在一些高风险的场景里是有一定风险的，比如行车，对人身安全和生命安全都有一定的威胁，因而在对算法测试的过程中就需要格外的严谨，需要算法和神经网络专家不断调整模型，然后去适应对抗样本，这是一个漫长而又艰难的过程。