Banner
首页> 产品服务> 内容
779彩票快三黑客如何攻击图神经网络?别小看土豪转账一分钱
- 2019-12-11-
 

  欢迎关注“创事记”微信订阅号:sinachuangshiji

  文/谭婧

  来源:deardata(ID:deardata)

  世上总会有骗子,人工智能时代也不例外。想起《天下无贼》里葛优说的那句:“我最烦你们这些打劫的了,一点技术含量都没有。”

  在人工智能的骗局里,最不缺的就是技术含量。

  当人工智能自动合成语音软件,模仿熟人的声音给你打电话的时候,还可以安慰自己“耳听为虚”。扭脸间,人工智能又在视频中给主人公换脸,让“眼见为实”变得十分尴尬。不过,博弈始终存在,人类也会欺骗人工智能,甚至攻击。

  欺骗AI图像识别的低级套路,早已问世

  比较常见的欺骗人工智能的套路是,在摄像头识别人脸时,在面部上贴上特殊纹路的纸片,这样人脸识别技术可能会失效,识别不出来,或者识别错误。请脑补,人们打扑克的时候会在额头和脸上贴纸条的惩罚方法。当然,不仅机器识别不了,贴多了,老妈也识别不了。

  再比如,一张喵星人的图片,经过有效的恶意攻击,人工智能可能将喵星人误判为一只汪星人。这种欺骗应用在自动驾驶领域会有极危险的情况。假如对无人驾驶汽车的视觉系统进行攻击,识别错误交通标志,可能会引发交通事故,传感器再多也防不住。这种恶意的攻击是在哪里动手脚呢?有的方法是将图片的像素值做一些微小的、人眼观察不到的变换,会使人工智能“晕了”。

  黑客再出击,如何攻破机器学习模型?

  如何有技术含量的欺骗人工智能?如何攻破机器学习模型?这个问题正在被前沿学术界所关注。

  众所周知,人工智能的深度学习技术已经成了警队的“天眼”,在特定环境下准确识别人脸图片的能力超过了人类。但是,在鲁棒性和泛化能力方面有缺陷。这种缺陷在不同环境下,会引发不同的问题。

  所以,有效地去攻击现有的机器学习模型是可能的。

  街角电线杆子,膏药小广告上写着:缺钱吗?朋友,骗过银行人工智能,实现贷款100万的授信额度。如果当黑客拥有了一项技术,可以攻击全天下计算机系统里的机器学习模型时,最想攻击哪里?人性的贪婪的目光总会落在银行身上。如果说武装劫匪的目标是银行大厦里的金库,那么互联网银行就是黑客的目标。

  若要实现小广告所示的黑产业务,作案时需要满足两个条件:

  条件一:某互联网银行的客户信用积分是用深度学习技术计算的,该银行信用系统中人工智能深度学习技术对转账人信用值这个特征非常敏感。在该银行信用系统的人工智能深度学习模型中,有没有与土豪的往来转账记录,将会作为贷款人贷款级别高低的一个依据。这一关键“特征”的改变会影响贷款额度。

  条件二:黑客为了欺诈贷款,想方设法让土豪转了一分钱,虽然只有一次转账,虽然交易数额极低。

  在一和二这两个条件都满足的情况下,恶意攻击取得胜利。一夜暴富的状况出现了:凭借土豪一分钱的转账记录,黑客改变了自己的信用评分。顷刻,银行信用系统识别将黑客判定为尊贵的高净值客户。

  一分钱的硬币,掉在路边都没有人去捡。但是,这一分钱的转账在“图结构”中,相当于与富豪有一条边相连。如果银行信用系统中人工智能深度学习技术对转账人信用值这个特征非常敏感,这一条边的增加,则举足轻重。其结果,可以是让黑客在顷刻间,拥有了可以向银行贷款100万的信用额度。

  这项攻击可以将金融机构置于巨大风险之下。如何解决呢?很遗憾,迄今为止没有办法彻底解决。不过为了解决这个问题所作的第一步的努力,是找到现有深度学习技术在这方面的漏洞,也就是神经网络脆弱的地方。

  学术界对此也非常关注,有一篇人工智能的顶级会议论文对这个问题进行了研究。论文出自清华大学朱军和美国佐治亚理工大学宋乐的研究团队,论文标题是《对抗性攻击用于图结构数据(Adversarial Attack on Graph Structured Data)》。这篇论文被收录于第三十五届ICML人工智能顶级学术会议,属于前沿研究领域。

咨询热线
0571-56325936