Quantcast
Channel: CodeSection,代码区,网络安全 - CodeSec
Viewing all articles
Browse latest Browse all 12749

译闻 | 人工智能距离被黑客袭击还有多远?

0
0
译闻 | 人工智能距离被黑客袭击还有多远?

一点号寻找中国创客15小时前


php?url=0FEfyjRCZN" alt="译闻 | 人工智能距离被黑客袭击还有多远?" />

每日一篇深度报道,重新定义中国创客


译闻 | 人工智能距离被黑客袭击还有多远?
越来越多的公司开始使用当今炙手可热的新科技--人工智能技术。但不幸的是,不久之后,黑客可能也要盯上人工智能。黑客们可能会用些错误数据来扰乱程序的正常运行,带来各种各样的麻烦。攻击机器学习系统轻而易举

伊恩 古德费洛,一名在OpenAI 工作的科学家,在最近的巴塞罗那人工智能大会上表示,人工智能系统极易遭到攻击。“现在,几乎你能想到的所有攻击手段都是可以实现的,攻击机器学习系统轻而易举,而系统维护难上加难”。

在最近几年,研究人员们已经阐明了几种操纵人工智能程序的手段,这些手段通过利用系统漏洞得以实现。由于缺乏真正的智能,这些系统其实是很脆弱的。比如说,黑客有可能用一个广告牌来扰乱无人驾驶汽车的观察系统,而汽车的前面原本是没有东西的。黑客还可以用极其微弱的信号误导语音控制助手采取不必要的行动,比如访问一个网站或者下载一段恶意软件。

古德费洛和其他科研人员也在想对策,有一种可行的措施是训练机器识别并过滤误导性信息,但是要做到防范所有可能的攻击无异于牵牛下井。

操纵人工智能系统可不仅仅是一个学术问题。宾夕法尼亚州立大学研究这个问题的教授Patrick McDanie说:”这是真真切切在发生的事。人工智能系统上运行着各种各样的功能,而在黑客眼中,这些功能代表着财富。组织有序、经验丰富的黑客们肯定会想到所有的攻击方式。”

机器人可能被挟持做空股票

McDaniel指出,多年以来,黑客们一直想要用计攻占机器学习系统。比如说,他们向学习算法提供错误邮件,邮件系统就会允许垃圾信息的进入。他说,不久的将来,更加复杂难解的攻击形式就会出现。

“黑客们的第一个攻击对象应该是在线分类系统”,McDaniel说。在线分类系统包括现代垃圾邮件过滤器,检测非法或版权材料的系统以及先进的机器学习为基础的计算机安全系统。

一份新的研究论文指出,这个问题的涉及面可能比之前更广。论文里讲到,相同的欺骗程序可以再次攻击不同的机器学习系统,甚至攻击一个黑客自己都没想到的大“黑盒子”系统。

黑客们还可以通过其他手段找到潜伏在广泛使用的机器学习工具中的bug。新的机器学习工具层出不穷,而且刚开始大多都可以免费在线使用,之后才会被运用于诸如图像识别或语言分析工具的主动性服务里。

在巴塞罗那的同一个会议,马里兰大学的一位博士生Octavian Suciu,尤其强调了广泛使用的工具里存在的这些漏洞。Suciu分析了这些程序的源代码,接着发现源代码可以被操纵。他发现一些工具存储信息的方式是有问题的,这就意味着有一大段的数据就可以改写一部分程序并改变其行为。

Suciu推测这个方法可以被用来操纵股票预测模型这类的智能程序,进而被用来做空市场。“如果一个股票预测模型告诉你股票会上涨,即便你原先觉得它会下跌,你可能就会因此改变你自己的想法。”

Viewing all articles
Browse latest Browse all 12749