人工智能的弱点与保护隐私一2

窃听 Mockingbird 实验

另一个研究小组尝试了一种对抗性示例数据保护的形式，旨在打破猫捉老鼠的游戏。罗切斯特理工学院 (Rochester Institute of Technology) 和德克萨斯大学阿灵顿分校 (University of Texas at Arlington) 的研究人员研究了对抗性的例子如何防止 VPNs 和匿名软件 Tor 等工具中潜在的隐私泄露。Tor 旨在隐藏网络流量的来源和目的地。攻击者可以在传输过程中访问加密的 web 浏览数据，在某些情况下，他们可以使用机器学习来发现混乱的流量中的模式，从而使监视者能够预测用户访问的是哪个网站，甚至是哪个特定的页面。在他们的测试中，研究人员发现，这种被称为网络指纹的技术，可以从 95 种可能性中识别出一个网站，准确率高达 98%。

研究人员猜想，他们可以在加密的网络流量中加入对抗性的“噪音”，以阻止网络指纹识别。但他们走得更远，试图通过对抗性训练来绕过对手的保护。为此，他们对 Tor web 会话生成了复杂的对抗性示例调整组合，这是一种流量变化的集合，其目的不仅是欺骗指纹引擎，使其错误地检测出一个站点的流量与另一个站点的流量相同，而且还混合了来自大量诱饵站点流量的相反示例变化。

这个 系统研究人员称之为“Mockingbird”，以指代它的混合模仿策略，它会增加大量的开销