TensorFlow、Caffe、Torch 三大深度学习框架被存在安全漏洞

计算
TensorFlow、Caffe、Torch 三大深度学习框架被存在安全漏洞
麻省理工科技评论 2017-12-03

2017-12-03

研究人员表示,这不是深度学习框架的错,而是这些框架所依赖的第三方开源基础库的错。
深度学习
研究人员表示,这不是深度学习框架的错,而是这些框架所依赖的第三方开源基础库的错。

近日,奇虎 360 安全研究实验室的 Qixue Xiao 和 Deyue Zhang,美国佐治亚大学的 Kang Li,以及美国弗吉尼亚大学的 Weilin Xu 共同指出:TensorFlow、Caffe、Torch 等深度学习框架对第三方开源基础库的过度依赖会导致其存在大量的安全威胁。TensorFlow、Caffe、Torch 等深度学习框架的使用可以让应用开发人员无需关注底层实现细节,大大提高了人工智能应用的开发效率。但是这些深度学习框架所提供的高效性也注定了框架自身的复杂性,而系统越复杂,就越有可能存在安全隐患,特别是这三大框架又都是搭建在众多第三方开源基础库之上的。

上述研究人员在分析了 TensorFlow,Caffe,Torch 这三大深度学习框架所使用的大量第三方开源基础库后,发现它们存在不少的网络安全漏洞,容易受到拒绝服务攻击、逃逸攻击、系统损害攻击的影响。注意,这是安全研究人员们首次对这三个框架进行安全分析,但他们仍然在这三个框架中发现了 15 多个安全漏洞,而这其中大部分漏洞都发现自开源计算机视觉库 Open CV 上的代码,共有 11 个漏洞。这些漏洞,比如内存访问越界漏洞,都能被黑客用来执行上述所说的三种网络攻击类型,都能被黑客用来篡改数据流,欺骗我们的人工智能应用。

研究人员表示,这不是深度学习框架的错,而是这些框架所依赖的第三方开源基础库的错。很多第三方开源基础库的漏洞都不能及时得到修复,而我们的深度学习框架却又过度依赖众多的第三开源基础库。迟早,这种代码库之间的过度依赖的现象会给每一位开发人员带来严重的安全隐患。

壹伴上传_17-9-27 11-08-25.jpg

麻省理工科技评论

From Tech to Deeptech