防不胜防,犯罪分子利用AI伪造声音诈骗24.3万美元
- +1 你赞过了
【天极网网络频道】前几天,一款名为“ZAO”的APP在社交网络上蹿红。用户仅需上传一张照片,就可以将多部经典影视剧主角的脸,替换成用户自己的脸。事实上,这款APP用到的是深度伪造(Deepfake) 技术,即一种利用深度学习算法实现音、视频模拟和伪造的技术。
值得一提的是,深度伪造技术目前已经不仅能实现换脸,还可以通过深度学习模拟真人声音。据外媒报道,近日发生了一起以人工智能为基础的语音诈骗案件,又称vishing,让一家公司为此损失了24.3万美元。
有迹象表明,音频深度造假正变得出奇地准确。犯罪分子利用商业上可用的语音生成人工智能软件,以假扮拥有一家英国能源公司的老板。
随后,他们哄骗这家能源公司的首席执行官在一小时内将资金汇给一家匈牙利供应商,并保证转账将立即得到报销。该公司首席执行官听到了老板轻微的德国口音之后,并没有产生任何怀疑。
但结果是,这笔钱没有得到报销,骗子们还冒充这位德国老板要求另一笔紧急汇款。然而,这一次,这位英国首席执行官拒绝了这一要求。
事实证明,这位首席执行官汇给匈牙利的资金最终转移到了墨西哥和其他地方。
由此可见,利用人工智能技术模仿声音进行诈骗只是一个开始,它可能会成为企业和组织未来最头疼的问题。随着模仿声音的工具变得越来越逼真,犯罪分子利用这些工具牟利的可能性也越来越大。通过在电话中伪装身份,威胁行为者很容易获得原本属于私人的信息,并利用这些信息达到别有用心的目的。
2018年,设计反欺诈语音软件的网络安全公司Pindrop报告称,从2013年到2017年,语音欺诈案件增加了350%,638个电话中有1个是综合拨打的。
其实,任何事物客观上都有两面性,人工智能也不例外。一方面,它为技术的探索和创造提供了空间。另一方面,它也为犯罪、欺骗,以及欺诈提供了可能性。
最新资讯
热门视频
新品评测