天创培训:您身边的信息安全培训专家!
行业动态
黑客会通过欺骗语音助手进行欺诈吗?研究人员说会的!!

  语音辅助技术本应让我们的生活变得更容易,但是安全专家说,它伴随着一些独特的入侵风险。自年初以来,多个Nest安全摄像头用户反馈:陌生人侵入并向Alexa发出语音命令, 错误地宣布北韩的导弹袭击,甚至针对某个家庭,直接与孩子说话,把家里的恒温器调高到90度,大声辱骂。这些事件令人震惊,但语音助手沉默妥协的可能性会更大。


  Nest的所有者谷歌,最近开始支持将Google Assistant语音助手接入到Nest控制中心,之前谷歌被指责弱化了用户的密码并且未开启双重认证。但是,即使是具有强大安全性的语音助手,可能也容易受到更隐蔽形式的黑客攻击。在过去的几年里,美国、中国和德国大学的研究人员成功地利用隐藏的音频文件,让像Siri和Alexa这样的人工智能语音助手听从他们的命令。


  这些发现表明,黑客和欺诈者有可能劫持独立的语音助手设备,以及手机上的语音命令应用程序,以打开网站、购物,甚至关闭警报系统和解锁门禁,所有这些都不会让人听到有什么不妥之处。接下来,将详细解释,此类攻击是如何工作的,以及可能产生的后果。


  语音识别AI:能够识别人类听不到的音频


  这个安全问题的核心在于,为语音助手提供动力的神经网络比人类拥有更好的“听觉”。例如,人们无法识别餐厅背景噪音中的每一个声音,但人工智能系统可以识别。人工智能语音识别工具也可以处理超出人们所能听到范围的音频,许多扬声器和智能手机都可以接收这些频率。


  这个事实给了罪犯至少两种向语音助手发出“无声”命令的通道。第一是将恶意命令隐藏在白噪声中,就像2016年伯克利和乔治敦的美国学生做的一样。据“纽约时报”报道,学生们可以在网络视频和扬声器上播放隐藏的语音指令,让语音控制设备打开网站,并切换到飞行模式。


  这种攻击的另一个例子是来自德国波鸿鲁尔大学的研究人员。在九月份,他们被报道在相同的频率,但是声音更大的环境下成功编码。在简短的演示视频中,无论是人类还是流行的语音识别工具包Kaldi都能听到一个女人在读商业新闻故事。然而,在后台数据中,嵌入了只有Kaldi才能识别一个命令:“关闭安全摄像头并解锁前门。”专家说,从理论上讲,这种方法可以通过应用程序或广播大规模地使用,以窃取个人数据或进行欺诈性购买。这样的商品对于零售商来说可能很难筛选,因为它们来自一个可信的设备,并且使用有效的支付信息。


  另一种方法是通过启用在人类听觉范围之外的频率,来创建和播放命令。中国浙江大学的研究人员称之为DolphinAttack(海豚攻击)。通过在人类听觉范围以外的频率中创建和广播命令,这种类型的攻击依赖于超声波传输,这意味着攻击者必须靠近目标设备才能使其工作。但是研究人员已经利用这项技术以听不到的命令来让锁定的iphone拨出电话。他们说DolphinAttack(海豚攻击)还可以通过语音控制设备来拍照、发短信和访问网站。这可能导致恶意软件窃取个人数据、欺诈性购买以及敲诈或勒索。


  科技公司如何防范听不见的指令威胁


  亚马逊(Amazon)、谷歌(Google)和苹果(Apple)一直致力于语音助手的改进,尽管他们通常不会深入研究技术细节。研究人员在发表的一篇论文中建议,重新设计设备麦克风以限制来自超声波范围的输入,人类无法通过识别就消除或阻止携带特定信号或不可听见的命令。作者还建议利用机器学习的力量来识别最有可能用于不可听命令攻击的频率,并了解不可听命令和可听命令之间的差异。


  除了这些短期解决方案外,科学家和立法者还需要解决语音识别技术的安全性和有效性方面的长期挑战。在美国,目前还没有关于语音数据和隐私权的国家立法或监管框架。加州是第一个通过限制消费者语音数据销售和数据挖掘法律的州,但它仅适用于通过智能电视收集的语音数据。


  随着物联网的发展,语音识别用例的数量也在增加,而且随着玩家数量的增加,语音数据泄露的风险也将上升。这就增加了利用消费者的录音进行欺诈的可能性。共享音频文件比克隆信用卡或用硅胶复制某人的指纹要容易和快得多,这意味着语音数据对于有组织的罪犯有价值。预防欺诈的专业人员需要建立和维护清理双向消费者语音数据的数据库,以确保公司能够识别合法的客户联系人,并且商家可能需要在他们筛选订单时分析声音以获取先前欺诈事件的链接。


  如何保护您的语音控制设备


  目前,语音指令劫持的危险似乎主要是在理论上,但在最近回看过去的种种,已经向我们表明,欺诈者很快就会适应新技术。明智的做法是遵循安全措施,以保护您的设备免受语音黑客攻击,并以其他方式保护您的数据。为你的物联网设备使用保密等级高的密码。当你不使用手机时,请不要把手机打开。PIN保护您的语音助手任务,涉及您的家庭安全,个人数据,财务,或健康记录,又或者是根本不将这些信息链接到您的语音命令设备。


  对听不见的语音指令及其带来的风险的研究仍然相对较新,安全和科技行业已经看到,每一项新的进步都会给不良行为者提供新的机会。随着越来越多的研究人员发现了语音识别中人工智能的弱点,该行业有机会使其产品更加安全。与此同时,我们每个人都有责任保护我们的设备,并辨别我们与Alexa、Siri、Cortana及其他语音助手共享的信息类型。