近年来,随着机器学习、计算能力、存储能力以及云计算等技术发展,人工智能技术呈现出“井喷式”发展,家电、移动设备等各种硬件产品中都开始融入人工智能技术,AI人工智能的发展已成为大势所趋。
360智能安全研究院院长李康表示,智能和安全已经对抗很多年了,未来还会一直存在,“安全对抗应该是安全领域永恒的一个主题。”而随着人工智能的不断发展,对于AI安全的考虑也已经上升到了前所未有的高度来讨论。日前,移动安全联盟聚焦于AI技术与安全问题,于2018(第十七届)中国互联网大会会议期间成功举办2018中国人工智能移动安全高峰论坛。论坛上,来自各个领域的专家围绕“AI时代智能终端的攻与防”这一主题,对“AI人工智能与安全”进行了探讨。(来源数字化企业网)
AI人工智能与安全的博弈
人工智能技术对安全产业起到了极大的促进作用。北京大学郭耀教授表示,他目前正在用人工智能技术解决很多应用安全的问题,比如安全分析、广告欺诈监测、隐私分析等。
郭耀说认为,“应用在访问用户数据前会有一个非常长的条款,利用人工智能技术就可以对此进行聚类分析,然后对比相似功能的应用,如果100个应用做同样的事情,其他的都不需要电话号码,而有一个需要,那肯定是有问题的。”
但任何新兴技术都是一把双刃剑,AI技术在助力防护方的同时,也会成为攻击者的利器。
比如,目前大部分AI应用系统都基于已有的主流AI框架实现,而AI系统框架以及AI系统所依赖的软件实际上也存在安全漏洞。这些安全漏洞如果被攻击者利用,将会侵犯用户在终端和云端的隐私数据;更有甚者,攻击者还可以通过网络设备去控制智能家居的温度,或者更改家庭中设置的智能安防,从而造成人身安全和家庭财产。
AI人工智能本身存在安全问题
长虹信息安全灯塔实验室首席科学家唐博表示,对于智能设备厂商来说,AI促进了产品效能的提高,促进了用户使用体验的提升。同时会带来一些安全问题,也是预料之中的。
以智能电视为例,语音识别和人脸识别技术让电视机不再仅仅是单独的家电,而将会成为家庭交互终端的入口。但人工智能电视仍然会存在类似安全漏洞未修复、配置不当、越权操作等信息安全问题。不法分子能远程获取root权限,远程劫持电视设备,并进行开关摄像头、安装恶意应用、收集用户隐私生活信息等操作,这将造成用户隐私泄露或财产损失。(来源数字化企业网)
另外,冰箱,空调等都是属于智能家居,但这些电器自身并不带有智能的功能,不过是通过增加智能芯片,用一些IoT的解决方案将控制请求,参数与白电主板对接。目前IOT芯片层面上的漏洞可以导致白电大批量的被控制,同时在IoT云端,物联网协议这边存在漏洞也可以导致批量的智能家居设备受影响。
正如北京大学教授郭耀表示,智能产品的硬件多是国内生产,但是芯片多还是国外的,像安卓,RAM,小米的内核,包括Linux开源都不是国内自主研发的,技术层面的安全也存在着隐患。
所以,AI人工智能技术要真正走进寻常百姓家,安全仍是需要防范的较大风险。
AI人工智能与安全的平衡发展
如何打造人工智能的安全,使二者平衡发展,是目前乃至未来科技巨头需要重点研究的方向。对于AI和安全的关系,长虹安全实验室唐博认为可以为三个发展阶段。
个阶段,用AI的方法可以解决一些安全的问题,可以用AI的方法来识别攻击,可以通过大数据分析,分析流量和终端的一些情况,来识别一些异常流量或者一些攻击的行为。
第二个阶段,是用安全来保护人工智能,同时保护隐私。在人工智能的模型被“偷”,被“骗”的过程,需要对其进行安全保护。