信息来源：mottoin

近年来，人们期待已久的AI商业前景已开始成为现实，AI驱动的系统已在许多商业运营领域得到应用，这些系统有助于实现手动任务的自动化、增强决策和其他人类活动。然而，AI技术若被恶意利用，同样也会带来巨大的负面影响。

AI模拟语音

上周三（7月10日），以色列国家网络局（INCD）发布了一种新型网络攻击的警告，威胁行为者现在能够使用人工智能（AI）技术来模拟公司高级管理人员的声音，进而欺骗他人从中获利。据国内新华社报道，最近INCD的运营中心已经接获到此类网络攻击的案例。

利用这种方法，威胁行为者能够指示公司工作人员执行诸如汇款之类的交易，以及在公司网络上发动恶意活动。

新威胁属于商业电子邮件欺诈（BEC）的范畴——通过电子邮件欺骗商业和政府组织，以使用社会工程学的方法诱骗员工为攻击者的利益行事。其中最常见的类型是网络钓鱼邮件和虚假发票：威胁行为者冒充成供应商，向公司提交发票并试图诱骗员工在极短时间内进行银行转帐，并提供机密信息或允许访问公司的网络。

此外，威胁者现在使用的攻击方法已经升级，包括使用基于人工智能的恶意软件，该软件可以模拟自定义人员的语音来拨打钓鱼电话。

目前市面上已经有一些应用程序，在听完特定语音20分钟后，就可以使用该语音说出用户输入的所有内容。根据INCD的说法，这样的新型攻击对于企业来说，可能造成极大的经济损失。

AI：以子之矛，攻子之盾

当组织采用人工智能来加强他们的安全工作时，网络犯罪分子也会采用敏捷软件开发，自动化和机器学习之类的东西，来潜在地利用人工智能来更好地识别和更快地利用网络漏洞，这一点也不足为奇。

由AI提供支持的自动化系统可以探测网络和系统，搜索可能被利用的未发现的漏洞。通过创建极其逼真的视频和音频或精心设计的电子邮件旨在欺骗目标个体的，AI还可用于使网络钓鱼和其他社交工程攻击更加复杂。

“过去两三年来，专家们一直在警告人工智能的危险方面，即网络犯罪分子可以利用它来迅速扩大其攻击覆盖范围，”CNBC的网络安全记者Kate Fazzini表示。

这些都不只是停留在理论上。在2017年，网络安全公司Darktrace在印度进行了一次攻击，该攻击使用了“初级”人工智能来观察和学习网络中正常用户行为的模式，用于侦察。该活动还可以开始解析特定用户的通信模式，以便能够模仿他或她的语气和风格，这比标准的社会工程尝试更有效、更有说服力。

另一个由AI驱动的开发是僵尸网络群的兴起，就像最近的Hide and Seek僵尸网络一样。Hide and Seek是一组自我学习的设备，这是世界上第一个通过自定义的对等协议进行交流的设备，可以同时识别和攻击不同的攻击载体。

AI攻击手段

据悉，目前至少有三种与人工智能相关的网络安全攻击手段。

首先是利用人工智能提高攻击效率。比如，现在黑客可以通过机器学习，分析社群媒体上的讯息、朋友圈等，依照这些个人化信息发起针对性攻击，提高钓鱼攻击成功率。此外，现在网络上也出现通过机器学习以及可自动识别图像的免费软件，让黑客可破解用来防御自动化攻击的验证码机制。

其次是黑客攻击AI系统。这是以一种改变系统的方法进行攻击，简单来说就是污染AI系统，或是找到AI系统弱点、绕过防御以进行攻击。以微软在2016年推出聊天机器人Tay为例。网络罪犯可以借助机器学习技术让它在每次的对话中改变回复话语，以至于该机器人在上线24小时候就出现了种族歧视的言论。其实不仅仅是聊天机器人，现在的技术也能做到入侵语音识别系统，只要在声音中插入噪音，就能彻底改变翻译结果，让机器说出特定语句。虽然这些看似无伤大雅，但由于AI已经被企业大量用于商业营运中，一旦被黑客知道模型如何训练和运作，就能借此机会破坏训练模型的数据来操控模型。比如，银行把AI导入借贷决策系统来分析申请人的收入、年龄、居住地、信用分数等，以决定是否批准该借贷，一旦找到方法绕过侦测，就算有很差的信用分数仍可贷款成功。

至于最后一种攻击手段，黑客看重的不是模型本身，而是用来训练AI模型背后的数据，而黑客已经可以窃取训练AI模型背后的数据。以图像识别系统为例，正常情况是，给出图片后，系统可以识别出人名，而在破解系统后，黑客只要拥有姓名，就能逆向重建图片。

黑客追求规模效应，他们试图攻击尽可能多的目标用户，同时降低自身的风险。人工智能和机器学习则是他们实现目标的完美工具。AI技术可以辅助黑客们决策攻击的对象、攻击的方式和时机等等因素。