小心,你的声音正在被“偷走”!腾讯朱雀实验室最新研究成果披露,声音安全不容小觑
北京时间4月16日,全球顶级信息安全峰会CanSecWest 2021正在召开中。腾讯朱雀实验室受邀参加,并进行了题为《The Risk of AI Abuse: Be Careful with Your Voice(AI被滥用的风险:小心您的声音安全》的分享。这也是连续第四年腾讯安全平台部旗下前沿安全研究团队的相关成果入选CanSecWest议题。
腾讯朱雀实验室的最新研究成果表明,VoIP电话劫持与AI语音模拟技术的结合将带来极大潜在风险,在分享中,实验室创造性地展示了用AI进行声音克隆并劫持电话的攻击场景。区别于此前脚本类的电信诈骗,这一新技术可实现从电话号码到声音音色的全链路伪造,攻击者可以利用漏洞劫持VoIP电话,实现虚假电话的拨打,并基于深度伪造AI变声技术生成特定人物的声音进行诈骗。
这里所说的VoIP是一种语音通话技术,经由IP来进行语音通话和参与多媒体会议,由于其使用便捷、成本低廉的特性,VoIP在全球范围内被广泛应用于办公电话场景中。而VoIP电话劫持是由于早期版本的VoIP存在被网络嗅探,并实施中间人攻击的风险,攻击者可利用漏洞篡改来电方的人名及电话号码,使得接听方的电话显示为预设的任意内容。
腾讯朱雀实验室研究显示,通过深度学习技术可实现语音模拟,根据源人物的说话内容合成具有目标人物音色特征的音频,输出伪造特定人物的声音。其实这项技术并不新鲜,在许多场景中已经应用,比如地图软件中的定制语音播报,就可以通过少量自己的声音来定制与自己音色极为接近的播放声音。
因此,在VoIP电话劫持中,利用少量被攻击者的声音,可以合成与被攻击者音色相似的任意内容的语音片段,再将虚假语音注入到电话中,就能达到以假乱真的效果,实现完整的电话欺骗链路。攻击者可以轻松拨打虚假电话,冒充被攻击者身份与目标人员对话。
针对这一潜在风险,腾讯朱雀实验室研究员提出了建议——基于“用AI对抗AI”的思路,使用AI技术提取真实语音和虚假语音的特征,再根据特征差异来分辨真实语音和生成语音。同时,企业和个人尽量使用新版本的VoIP协议电话,如SIP、SRTP等,以减少电话被劫持的风险。
实际上,目前涉及语音的攻击手段也愈加多样化。腾讯研究员介绍,通过向语音中添加微小扰动,或修改部分频谱信息,就可以欺骗语音识别系统。此外,通过将唤醒命令隐藏在不易察觉的音乐中,就可能唤醒智能设备进行对应操作。
腾讯云副总裁、腾讯安全平台部负责人杨勇表示,AI技术与传统安全攻击技术的结合,衍生了新的应用场景和与之对应的滥用风险,AI的数据、算法、模型、基础组件等核心要素更加需要安全的加持。腾讯朱雀实验室就一直致力于实战级APT攻击和AI安全研究,持续深耕现实网络安全,为AI技术的正向用、放心用保驾护航。
作为全球顶级信息安全峰会,CanSecWest一直以其权威性、热点性、前沿性而备受行业关注。本届CanSecWest2021将持续到4月30日,除了腾讯朱雀实验室,来自百度、Adobe、Macfee、IOActive、加利福尼亚大学河滨分校等全世界的顶级安全专家也悉数到场,并将围绕AI、云原生、物联网、可信计算等安全前沿技术领域展开探讨。
您可能也感兴趣:
官方微博/微信

每日头条、业界资讯、热点资讯、八卦爆料,全天跟踪微博播报。各种爆料、内幕、花边、资讯一网打尽。百万互联网粉丝互动参与,TechWeb官方微博期待您的关注。

想在手机上看科技资讯和科技八卦吗?
想第一时间看独家爆料和深度报道吗?
请关注TechWeb官方微信公众帐号:
1.用手机扫左侧二维码;
2.在添加朋友里,搜索关注TechWeb。
为您推荐
家长如何引导孩子安全上网 动画短视频来支招
脉脉:人工智能人才无35岁危机 算法岗应届生月薪3万起
消息称苹果成为台积电3nm投片首位客户
奇安信2022年上半年营收19.68亿 同比增长35.21%
晶圆代工商客户订单继续下滑 将影响四季度产能利用率
腾讯二季度经调整净利润281亿元 同比下滑17%
消息称亿纬锂能将为宝马在欧洲的电动汽车提供大型圆柱形电池
Polestar O2纯电概念跑车确认2026年量产 将命名为Polestar 6
外媒:三星电子236层NAND闪存预计年内开始生产
更多
- 腾讯Q2全面降本增效:退出非核心业务 营销费降21%员工减少5%
- 家长如何引导孩子安全上网 动画短视频来支招
- 脉脉:人工智能人才无35岁危机 算法岗应届生月薪3万起
- 奇安信2022年上半年营收19.68亿 同比增长35.21%
- 腾讯视频会员增速进一步放缓:Q2付费会员数1.22亿 同比下滑2.4% 环比下滑1.6%
- 腾讯二季度经调整净利润281亿元 同比下滑17%
- 2022年7月全国受理网络违法和不良信息举报1441.4万件
- 0元上牌、送车上门 京东摩托车自营服务北京率先上线
- 手握HUAWEI DriveONE纯电驱增程平台,AIOT问界M7助你轻松赢在起跑线
- 抖音上线溯源、打标等多项新功能 治理不实信息