大发体育

分享
大发体育>>科技>>正文

AI解锁无人时代 仍需数据安全保驾护航

2021-07-23 07:18:31 科技日报

  AI解锁无人时代 仍需数据安全保驾护航

  近几年,科技(ji)企(qi)业在推广新一代信息技(ji)术产品时,数据安全(quan)、数据隐私等问题广受诟(gou)病。数据作为驱动人工智(zhi)(zhi)能(neng)快(kuai)速发展的重(zhong)要基础,其(qi)安全(quan)也(ye)决定了人工智(zhi)(zhi)能(neng)的安全(quan)。人工智(zhi)(zhi)能(neng)的加(jia)速发展给数据的安全(quan)治理带来了新的机遇(yu)和挑战。

  验证码登陆、移动在线支付、人脸识别门禁……

  随着(zhe)新(xin)一(yi)代信息技(ji)术的(de)发(fa)展,互联(lian)网和人工(gong)智能技(ji)术应用蓬勃发(fa)展,数据也(ye)被视为一(yi)种(zhong)无形(xing)的(de)资产。然而,技(ji)术是一(yi)把双(shuang)刃剑,在(zai)给我们生(sheng)产生(sheng)活带来效率提升的(de)同时,伴(ban)随的(de)安全(quan)问题也(ye)不可忽视。

  近几年,科技(ji)企业(ye)在推广新一代信息技(ji)术(shu)产(chan)品时(shi),数(shu)据安全(quan)、数(shu)据隐私等问题广受(shou)诟病。数(shu)据安全(quan)成为当今数(shu)字(zi)化转型时(shi)代的关键紧迫(po)议题。

  在7月8日至(zhi)10日举行(xing)的2021世(shi)界人工智能(neng)大会上,数(shu)据安(an)全、数(shu)据治理、网(wang)络安(an)全等(deng)问题备受关(guan)注(zhu)。业界认为,在人工智能(neng)深入推进城(cheng)市数(shu)字化转(zhuan)型过程中,企业应积(ji)极(ji)主(zhu)动(dong)接受监管,推动(dong)产(chan)业健康持续发展(zhan)。

  数据安全治理面临新的机遇和挑战

  近日,桔视记录仪等25款App因存在(zai)严重(zhong)违法(fa)违规收集使用个人(ren)信息问题,被(bei)国家互联(lian)网(wang)信息办公室依(yi)据《中华人(ren)民共(gong)和国网(wang)络安全法(fa)》相关规定,通知应用商店下(xia)架(jia)。

  此(ci)前(qian)(qian),在上海车(che)展(zhan)特斯(si)拉(la)车(che)主维(wei)(wei)权事件中,特斯(si)拉(la)公布(bu)了维(wei)(wei)权车(che)主车(che)辆(liang)事发前(qian)(qian)半小时的(de)行(xing)车(che)数(shu)据(ju)。该行(xing)为(wei)引(yin)发了众多争(zheng)议:车(che)企该不该将行(xing)车(che)数(shu)据(ju)公开(kai)?人们如何确定(ding)数(shu)据(ju)的(de)可靠性?

  没有大数据(ju)(ju)的(de)收(shou)集(ji)和基础(chu),人(ren)工(gong)智能是无本之(zhi)木(mu)。数据(ju)(ju)作为驱动人(ren)工(gong)智能快速(su)发展的(de)重要(yao)基础(chu),其安全也决(jue)定了人(ren)工(gong)智能的(de)安全。人(ren)工(gong)智能的(de)加(jia)速(su)发展给数据(ju)(ju)的(de)安全治理带来(lai)了新的(de)机遇和挑战(zhan)。

  “大数据(ju)驱动业务的(de)开展(zhan),让(rang)数据(ju)安(an)全(quan)对城市运转(zhuan)变得前(qian)所(suo)未有的(de)重要(yao),数据(ju)一旦遭(zao)到攻击(ji),就意味着业务会停转(zhuan),将造成(cheng)严重的(de)经济损失(shi)和社会后果。”360公(gong)司(si)创(chuang)始人、董事长兼CEO周(zhou)鸿祎表示,最近几年,360公(gong)司(si)接到大量医院的(de)报警,称(cheng)医院网站(zhan)被勒索软件攻击(ji)之后不能进行手(shou)术(shu),不能给病(bing)人挂(gua)号看病(bing)。

  近年(nian)来,城(cheng)市也成为了网络(luo)勒(le)索(suo)的(de)(de)重要目标(biao),而(er)且网络(luo)攻击的(de)(de)对象不(bu)仅限于(yu)电脑、手机、设备、系统(tong),还逐渐扩展到数(shu)(shu)据(ju)。人(ren)工智能数(shu)(shu)据(ju)的(de)(de)获取、处理和(he)应用具有极强的(de)(de)隐(yin)私性与领域扩展性,关乎(hu)个人(ren)信(xin)(xin)息安(an)全(quan)甚至国家信(xin)(xin)息安(an)全(quan)。对政府(fu)、城(cheng)市公共事业单位(wei)的(de)(de)数(shu)(shu)据(ju)勒(le)索(suo),会造成城(cheng)市运转和(he)服务(wu)陷入停摆。今(jin)年(nian)5月,美国最大的(de)(de)燃油输送管线遭遇(yu)网络(luo)攻击被迫关停,导致(zhi)美国东海岸45%的(de)(de)汽油、柴油等燃料供应受到影响。

  业(ye)界认为,针(zhen)对上(shang)(shang)述情(qing)况,要让人工(gong)智能技术的头顶上(shang)(shang)高悬一把达摩克里斯之剑。

  数据输入、分析等过程都存在相应风险

  数(shu)(shu)据非(fei)法(fa)跨境流通可能危害国家(jia)主权和国家(jia)安全;数(shu)(shu)字(zi)信息的过(guo)度采集和非(fei)法(fa)使用,可能侵犯公(gong)民的权利和隐私;算(suan)法(fa)的偏好(hao)可能加剧(ju)社会的偏见或歧(qi)视,威胁(xie)公(gong)平正义;无人驾驶汽车紧急避险等智(zhi)能决策(ce)可能威胁(xie)特定人群的生命……

  全国政协社会(hui)(hui)和法制委员会(hui)(hui)副主任陈智敏在人工智能大会(hui)(hui)安全高(gao)端(duan)对话上指出,人工智能发(fa)展(zhan)与安全发(fa)展(zhan)风险(xian)同时(shi)并存,这不仅(jin)是一(yi)个技(ji)术(shu)问(wen)题(ti),也是一(yi)个安全问(wen)题(ti),同时(shi)还涉及伦理、法律(lv)和国际规(gui)则等相关(guan)问(wen)题(ti)。

  国家(jia)工(gong)业信(xin)息安全(quan)发展研究中心副主任何小龙在人工(gong)智能大会上表示(shi),人工(gong)智能带来的数据(ju)安全(quan)问题(ti)一(yi)方面加(jia)速(su)了传统数据(ju)安全(quan)问题(ti)。

  人(ren)工智能(neng)大规模的(de)(de)运(yun)用(yong)使得过度采(cai)集数(shu)据(ju)安全问(wen)题进一(yi)步加剧。另一(yi)方面(mian),也带来了新(xin)型数(shu)据(ju)安全的(de)(de)问(wen)题。人(ren)工智能(neng)的(de)(de)算法对数(shu)据(ju)具有(you)较(jiao)强的(de)(de)依赖性,可能(neng)会带来数(shu)据(ju)投毒等新(xin)型数(shu)据(ju)安全挑(tiao)战。

  算法、模(mo)型和数据(ju)(ju)构成机器学习三大基石(shi)。腾讯朱雀(que)实验室首席(xi)AI安全(quan)专家朱季峰在(zai)人(ren)工(gong)智能大会主题论坛(tan)上(shang)(shang)表示,以算法构建(jian)过程中(zhong)上(shang)(shang)下游(you)的(de)产业链来看,数据(ju)(ju)的(de)输(shu)入、数据(ju)(ju)的(de)分析、模(mo)型的(de)训练、模(mo)型的(de)决策、模(mo)型的(de)上(shang)(shang)线部署(shu)应(ying)用(yong)以及模(mo)型的(de)改造(zao)过程当中(zhong)都存在(zai)相应(ying)的(de)风险(xian)。

  例如(ru),在数据(ju)输入环(huan)节,如(ru)果攻(gong)击者(zhe)(zhe)控(kong)制了数据(ju)来(lai)源,或者(zhe)(zhe)攻(gong)击者(zhe)(zhe)能够对收集数据(ju)的设备本(ben)身产生(sheng)安(an)全攻(gong)击,最(zui)终将通(tong)过这个链(lian)条(tiao)影响到算法模型。如(ru)通(tong)过超声波(bo)影响陀螺仪,最(zui)终可以(yi)使无人机坠落。或者(zhe)(zhe)在模型决(jue)策阶(jie)段(duan),可以(yi)通(tong)过物(wu)理(li)攻(gong)击,使得(de)自动驾(jia)驶(shi)车(che)辆最(zui)终视觉识(shi)别系统(tong)出问题(ti),这样可能影响车(che)辆自动行驶(shi)或者(zhe)(zhe)对行人的判断(duan)。

  随着人工智能(neng)的(de)(de)应(ying)用(yong),技术的(de)(de)滥用(yong)带来失控风险。验(yan)证码验(yan)证机(ji)制首当其冲。朱季峰介绍(shao),早在2017年(nian),地下的(de)(de)黑产(chan)就(jiu)已(yi)经开始用(yong)机(ji)器学习的(de)(de)方法(fa)做二维码识(shi)别训练。资(zi)料表明,80%以上(shang)验(yan)证的(de)(de)准确性都可以通(tong)过机(ji)器学习算法(fa)自动(dong)完成线上(shang)的(de)(de)注(zhu)册,这就(jiu)产(chan)生了一系列(lie)的(de)(de)安全问题(ti)。

  3大系统共筑数据安全防火墙

  人(ren)脸识别技术依托于(yu)对海(hai)量视图数据的(de)分析,因而数据安全(quan)直接影响着人(ren)脸识别技术的(de)实战应用。人(ren)工智能技术在(zai)安防领域的(de)应用是技术寻求(qiu)落地进(jin)程最快、应用最早的(de)训练场。

  达闼创(chuang)始人、董事长兼CEO黄晓庆表示,从(cong)数(shu)(shu)据(ju)采集到数(shu)(shu)据(ju)处理到数(shu)(shu)据(ju)传输(shu),解决数(shu)(shu)据(ju)网(wang)(wang)络安(an)全问题(ti)有很多手(shou)段。从(cong)网(wang)(wang)络和数(shu)(shu)据(ju)角度要(yao)完(wan)成三个(ge)重要(yao)的任务——物理隔(ge)离、网(wang)(wang)络隔(ge)离、应用端到端的保护。

  除(chu)了技术,我国(guo)利用法律武器(qi)在(zai)数据立法上也(ye)做出(chu)了探索(suo)。

  今年6月(yue)(yue),我国颁布了(le)《数(shu)据(ju)(ju)(ju)安全法(fa)(fa)(fa)》,9月(yue)(yue)1日将开(kai)始正式(shi)实施(shi)。《数(shu)据(ju)(ju)(ju)安全法(fa)(fa)(fa)》提(ti)出以数(shu)据(ju)(ju)(ju)分级(ji)分类为(wei)核心,搭(da)建数(shu)据(ju)(ju)(ju)安全的监管制(zhi)度,要求强化落实各(ge)级(ji)数(shu)据(ju)(ju)(ju)处理(li)活动主体(ti)数(shu)据(ju)(ju)(ju)安全保(bao)护(hu)的义务与责(ze)任,为(wei)规范数(shu)据(ju)(ju)(ju)处理(li)活动,保(bao)障数(shu)据(ju)(ju)(ju)安全提(ti)供法(fa)(fa)(fa)律依据(ju)(ju)(ju)。另外(wai),《个人信(xin)息(xi)保(bao)护(hu)法(fa)(fa)(fa)(草(cao)案(an))》也即将进入三审阶段,两(liang)项法(fa)(fa)(fa)案(an)相辅相成,推动我国个人信(xin)息(xi)保(bao)护(hu)和数(shu)据(ju)(ju)(ju)安全治(zhi)理(li)进入全新阶段。

  在(zai)人工(gong)智能大(da)会“大(da)爱无疆·共(gong)生”论坛上(shang),清华大(da)学苏世民书院院长薛澜(lan)(lan)回(hui)顾人工(gong)智能治(zhi)理(li)模(mo)(mo)式(shi)(shi)历经回(hui)应(ying)式(shi)(shi)治(zhi)理(li)、集中治(zhi)理(li)和敏捷治(zhi)理(li)三个阶段。“现(xian)在(zai)我们进(jin)(jin)入了(le)(le)相(xiang)对比(bi)较(jiao)集中的(de)治(zhi)理(li)模(mo)(mo)式(shi)(shi)。该模(mo)(mo)式(shi)(shi)明确了(le)(le)国家加强行业监(jian)管,促进(jin)(jin)制度落地的(de)决(jue)心(xin),对暴露出来(lai)的(de)各种问题(ti)采取(qu)比(bi)较(jiao)坚决(jue)的(de)措(cuo)施落实监(jian)管规(gui)则,同时触(chu)及到需要进(jin)(jin)一步研究的(de)问题(ti)。”薛澜(lan)(lan)说(shuo)。

  目前,上海正研(yan)究(jiu)立项公共场所(suo)人(ren)脸识别分(fen)级分(fen)类(lei)应用规(gui)范(fan)的(de)地(di)方标准,将(jiang)成(cheng)为全(quan)(quan)国首个立项的(de)人(ren)脸识别的(de)地(di)方性标准;开展全(quan)(quan)市(shi)(shi)(shi)人(ren)工(gong)智能(neng)数(shu)(shu)据立法调研(yan),规(gui)范(fan)数(shu)(shu)据确权,数(shu)(shu)据共享等重要内容,推(tui)动可信人(ren)工(gong)智能(neng)的(de)研(yan)究(jiu)。上海市(shi)(shi)(shi)人(ren)大也正在起草《上海市(shi)(shi)(shi)数(shu)(shu)据条例》。

  此外,上海市数(shu)字(zi)证(zheng)书认(ren)证(zheng)中心、复旦大学计(ji)算(suan)机(ji)学院、上海交(jiao)通大学电子信(xin)息与电气工(gong)程学院、移动互联网系统与应(ying)用安全国家工(gong)程实(shi)验室(shi)(shi)、上海赛博网络(luo)安全产业创(chuang)新研究院共同发(fa)起筹建(jian)(jian)数(shu)字(zi)身份与数(shu)据流通信(xin)任(ren)技术实(shi)验室(shi)(shi),该实(shi)验室(shi)(shi)将基于数(shu)字(zi)信(xin)任(ren)技术的产学研生态合作,开展(zhan)隐私(si)计(ji)算(suan)、区块(kuai)链、前(qian)沿密(mi)码(ma)等(deng)数(shu)字(zi)信(xin)任(ren)技术攻关(guan)和产业应(ying)用,支撑城市数(shu)字(zi)化转型(xing)、数(shu)据要(yao)素市场构建(jian)(jian)和网络(luo)安全体系建(jian)(jian)设(she)。

  记者获悉,上海浦(pu)东新(xin)区将在数据(ju)(ju)资源共享、数据(ju)(ju)交易、数据(ju)(ju)开(kai)发利用等(deng)方面进(jin)行立法探(tan)索;临港(gang)新(xin)片(pian)区将试点(dian)开(kai)展(zhan)企业法人数据(ju)(ju)的(de)跨境流通(tong)的(de)安全评估和服务监(jian)管,加强个人数据(ju)(ju)的(de)全生命周(zhou)期安全监(jian)控和防护(hu)。

(编辑:吴晓薇)
大发体育版权所有,未经书面授权,任何单位及个人不得转载、摘编以其它方式使用。
关注大发体育微信公众号(微信搜索“大发体育”或“jwview”),看更多精彩财经资讯。
关于我们  |   About us  |   联系我们  |   广告服务  |   法律声明  |   招聘信息  |   网站地图

本网站所(suo)刊载信息,不代表大发体(ti)育观点。 刊用本网站稿件,务经(jing)书面授权(quan)。

未经授权禁止转载(zai)、摘编(bian)、复制及建立镜像,违(wei)者将(jiang)依法追(zhui)究法律责任。

[京ICP备17012796号(hao)-1]

违法和不良信(xin)息举报(bao)电话:18513525309 报(bao)料邮箱(可文字、音(yin)视频):zhongxinjingwei@chinanews.com.cn

Copyright ©2017-2021 tvrides.com. All Rights Reserved


北京(jing)中新经(jing)闻(wen)信息科技(ji)有限公司