首页 科技资讯 业界

Tensorflow漏洞频发 360安全专家建议构建一体化安全防御体系

近日,三六零(601360.SH,下称“360”) AI安全实验室对谷歌Tensorflow进行安全评测,共新发现71个漏洞,目前均已被谷歌确认并修复。据悉,在不到一年的时间里,360 A I安全实验室已经累计发现并帮助谷歌修复Tensorflow漏洞(CVE)98个,其中高危、严重漏洞共24个,在数量上均位列全球首位。

360 AI安全实验室负责人邹权臣指出,机器学习框架是人工智能基础设施的核心,作为目前最流行的机器学习框架之一,Tensorflow安全性问题直接关系到广大AI应用开发者和用户。然而,当前Tensorflow等开源机器学习框架缺乏严格的安全测试,可能存在严重的安全风险,一旦被攻击者恶意攻击,将会危及整个AI服务的可用性和可靠性,甚至有可能导致重大财产损失与恶劣的社会影响。

目前,360 AI安全实验室共发现机器学习框架漏洞150余个,涉及被广泛使用的Tensorflow,PyTorch等国内外7个机器学习开源框架,利用这些漏洞可造成任意代码执行、拒绝服务攻击、信息泄露等危害。

据介绍,能够发现这些漏洞,关键在于360 AI安全实验室旗下机器学习框架的安全评测平台AIFater。该平台能够从算法实现、漏洞类型、编译优化等多角度持续开展对机器学习框架的安全风险研究,采用动、静结合的分析方法对Python、C++、Go等不同语言中的不同漏洞类型进行全面系统的检测,检测过程着重关注从训练到推理、从数据到模型、从云端到终端过程中存在的安全风险。

除基本的安全性评测功能,AIFater基于丰富的安全专家知识库,能够提供对AI框架业务的定制化检测,如对计算图优化、图编译、分布并行等模块的安全性检测。

360 AI安全实验室隶属于360未来安全研究院,专注于人工智能与安全前沿技术研究。实验室发现AI框架、智能设备、AI应用等多维度AI系统安全风险,并提供安全评测和防护服务;开展AI赋能网络安全的研究工作,应用AI技术在恶意代码识别、流量分析、漏洞挖掘、涉诈APK检测等重要场景中取得突破性进展。

此外,实验室还承担了由科技部批复、360集团承建的“安全大脑国家新一代人工智能开放创新平台”的建设工作。该平台致力于解决人工智能系统安全风险、人工智能在网络安全领域创新成果落地难以及人工智能创新环境匮乏等问题,将赋能中小初创安全企业、垂直行业、人工智能产业,提升国家人工智能安全整体防御能力,打造人工智能“安全底座”。

360 AI安全实验室建议,各厂商应继续加强在框架安全方面的重视和投入,并协同硬件安全、算法安全、数据安全等软硬件各维度的安全防御技术,建立一体化安全防御体系。

官方微博/微信

每日头条、业界资讯、热点资讯、八卦爆料,全天跟踪微博播报。各种爆料、内幕、花边、资讯一网打尽。百万互联网粉丝互动参与,TechWeb官方微博期待您的关注。

↑扫描二维码

想在手机上看科技资讯和科技八卦吗?

想第一时间看独家爆料和深度报道吗?

请关注TechWeb官方微信公众帐号:

1.用手机扫左侧二维码;

2.在添加朋友里,搜索关注TechWeb。

手机游戏更多