智能助手,尤其是智能扬声器中的智能助手,必须始终在聆听。没有其他方法可以让他们随时准备回答您的问题或听从您的命令,无论您是否有触发短语。不幸的是,这也意味着他们将一直在接收和收听任何和所有音频以拦截命令。根据研究人员的问题,这些智能助手甚至可能遵循您可能听不到的那些命令。
加州大学伯克利分校的尼古拉斯·卡里尼和他的同事撰写的这篇论文实际上只是研究论文和演示的一连串最新论文,证明了这类“潜意识”攻击对始终聆听智能助手的智能扬声器和其他设备的功效。该理论很容易理解。几乎所有这些设备都旨在在各种频率(包括人耳无法听到的频率)上接收和分析音频,包括语音命令。换句话说,某人可以“播放”几乎无声的命令,该命令可以使智能助手执行用户从未要求过的操作。
去年,当中国研究人员从现成的零件中创建了一种设备来将这种听不见的命令发送给虚拟助手时,这一理论就付诸实践了。他们的原型很粗糙,需要与目标电话或扬声器紧密接近。但是从那以后,越来越多的研究人员对该理论进行了改进,甚至能够制造出在25英尺远的地方都能工作的理论。卡利尼的小组创造了一种更加巧妙的方法。他们将命令嵌入到普通音频中,例如录制的语音甚至音乐。
这三位聪明的助手制造商自然而然地捍卫了如何不那么容易利用各自的AI。亚马逊和谷歌都必须确保在执行操作之前发出命令的是用户的声音。另一方面,苹果限制了Siri可以通过语音执行的操作,并要求其中一些首先解锁iPhone和iPad。
但是,有关该主题的论文数量不断增加,应该引起关注。卡利尼希望他们的论文能引起用户和软件制造商的警觉,并担心犯罪分子可能已经抢先了。这也是法律必须赶上的领域,因为很少有关于向人类发送潜意识信息的法律,也没有这样的法律禁止将那些听不清的命令发送给其他人的机器。