ICC訊 近幾年,科技企業(yè)在推廣新一代信息技術(shù)產(chǎn)品時(shí),數(shù)據(jù)安全、數(shù)據(jù)隱私等問題廣受詬病。數(shù)據(jù)作為驅(qū)動(dòng)人工智能快速發(fā)展的重要基礎(chǔ),其安全也決定了人工智能的安全。人工智能的加速發(fā)展給數(shù)據(jù)的安全治理帶來了新的機(jī)遇和挑戰(zhàn)。
驗(yàn)證碼登陸、移動(dòng)在線支付、人臉識(shí)別門禁……
隨著新一代信息技術(shù)的發(fā)展,互聯(lián)網(wǎng)和人工智能技術(shù)應(yīng)用蓬勃發(fā)展,數(shù)據(jù)也被視為一種無形的資產(chǎn)。然而,技術(shù)是一把雙刃劍,在給我們生產(chǎn)生活帶來效率提升的同時(shí),伴隨的安全問題也不可忽視。
近幾年,科技企業(yè)在推廣新一代信息技術(shù)產(chǎn)品時(shí),數(shù)據(jù)安全、數(shù)據(jù)隱私等問題廣受詬病。數(shù)據(jù)安全成為當(dāng)今數(shù)字化轉(zhuǎn)型時(shí)代的關(guān)鍵緊迫議題。
在7月8日至10日舉行的2021世界人工智能大會(huì)上,數(shù)據(jù)安全、數(shù)據(jù)治理、網(wǎng)絡(luò)安全等問題備受關(guān)注。業(yè)界認(rèn)為,在人工智能深入推進(jìn)城市數(shù)字化轉(zhuǎn)型過程中,企業(yè)應(yīng)積極主動(dòng)接受監(jiān)管,推動(dòng)產(chǎn)業(yè)健康持續(xù)發(fā)展。
數(shù)據(jù)安全治理面臨新的機(jī)遇和挑戰(zhàn)
近日,桔視記錄儀等25款A(yù)pp因存在嚴(yán)重違法違規(guī)收集使用個(gè)人信息問題,被國家互聯(lián)網(wǎng)信息辦公室依據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》相關(guān)規(guī)定,通知應(yīng)用商店下架。
此前,在上海車展特斯拉車主維權(quán)事件中,特斯拉公布了維權(quán)車主車輛事發(fā)前半小時(shí)的行車數(shù)據(jù)。該行為引發(fā)了眾多爭議:車企該不該將行車數(shù)據(jù)公開?人們?nèi)绾未_定數(shù)據(jù)的可靠性?
沒有大數(shù)據(jù)的收集和基礎(chǔ),人工智能是無本之木。數(shù)據(jù)作為驅(qū)動(dòng)人工智能快速發(fā)展的重要基礎(chǔ),其安全也決定了人工智能的安全。人工智能的加速發(fā)展給數(shù)據(jù)的安全治理帶來了新的機(jī)遇和挑戰(zhàn)。
“大數(shù)據(jù)驅(qū)動(dòng)業(yè)務(wù)的開展,讓數(shù)據(jù)安全對城市運(yùn)轉(zhuǎn)變得前所未有的重要,數(shù)據(jù)一旦遭到攻擊,就意味著業(yè)務(wù)會(huì)停轉(zhuǎn),將造成嚴(yán)重的經(jīng)濟(jì)損失和社會(huì)后果?!?60公司創(chuàng)始人、董事長兼CEO周鴻祎表示,最近幾年,360公司接到大量醫(yī)院的報(bào)警,稱醫(yī)院網(wǎng)站被勒索軟件攻擊之后不能進(jìn)行手術(shù),不能給病人掛號(hào)看病。
近年來,城市也成為了網(wǎng)絡(luò)勒索的重要目標(biāo),而且網(wǎng)絡(luò)攻擊的對象不僅限于電腦、手機(jī)、設(shè)備、系統(tǒng),還逐漸擴(kuò)展到數(shù)據(jù)。人工智能數(shù)據(jù)的獲取、處理和應(yīng)用具有極強(qiáng)的隱私性與領(lǐng)域擴(kuò)展性,關(guān)乎個(gè)人信息安全甚至國家信息安全。對政府、城市公共事業(yè)單位的數(shù)據(jù)勒索,會(huì)造成城市運(yùn)轉(zhuǎn)和服務(wù)陷入停擺。今年5月,美國最大的燃油輸送管線遭遇網(wǎng)絡(luò)攻擊被迫關(guān)停,導(dǎo)致美國東海岸45%的汽油、柴油等燃料供應(yīng)受到影響。
業(yè)界認(rèn)為,針對上述情況,要讓人工智能技術(shù)的頭頂上高懸一把達(dá)摩克里斯之劍。
數(shù)據(jù)輸入、分析等過程都存在相應(yīng)風(fēng)險(xiǎn)
數(shù)據(jù)非法跨境流通可能危害國家主權(quán)和國家安全;數(shù)字信息的過度采集和非法使用,可能侵犯公民的權(quán)利和隱私;算法的偏好可能加劇社會(huì)的偏見或歧視,威脅公平正義;無人駕駛汽車緊急避險(xiǎn)等智能決策可能威脅特定人群的生命……
全國政協(xié)社會(huì)和法制委員會(huì)副主任陳智敏在人工智能大會(huì)安全高端對話上指出,人工智能發(fā)展與安全發(fā)展風(fēng)險(xiǎn)同時(shí)并存,這不僅是一個(gè)技術(shù)問題,也是一個(gè)安全問題,同時(shí)還涉及倫理、法律和國際規(guī)則等相關(guān)問題。
國家工業(yè)信息安全發(fā)展研究中心副主任何小龍?jiān)谌斯ぶ悄艽髸?huì)上表示,人工智能帶來的數(shù)據(jù)安全問題一方面加速了傳統(tǒng)數(shù)據(jù)安全問題。
人工智能大規(guī)模的運(yùn)用使得過度采集數(shù)據(jù)安全問題進(jìn)一步加劇。另一方面,也帶來了新型數(shù)據(jù)安全的問題。人工智能的算法對數(shù)據(jù)具有較強(qiáng)的依賴性,可能會(huì)帶來數(shù)據(jù)投毒等新型數(shù)據(jù)安全挑戰(zhàn)。
算法、模型和數(shù)據(jù)構(gòu)成機(jī)器學(xué)習(xí)三大基石。騰訊朱雀實(shí)驗(yàn)室首席AI安全專家朱季峰在人工智能大會(huì)主題論壇上表示,以算法構(gòu)建過程中上下游的產(chǎn)業(yè)鏈來看,數(shù)據(jù)的輸入、數(shù)據(jù)的分析、模型的訓(xùn)練、模型的決策、模型的上線部署應(yīng)用以及模型的改造過程當(dāng)中都存在相應(yīng)的風(fēng)險(xiǎn)。
例如,在數(shù)據(jù)輸入環(huán)節(jié),如果攻擊者控制了數(shù)據(jù)來源,或者攻擊者能夠?qū)κ占?A href="http://m.getprofitprime.com/site/CN/Search.aspx?page=1&keywords=%e6%95%b0%e6%8d%ae&column_id=ALL&station=%E5%85%A8%E9%83%A8" target="_blank">數(shù)據(jù)的設(shè)備本身產(chǎn)生安全攻擊,最終將通過這個(gè)鏈條影響到算法模型。如通過超聲波影響陀螺儀,最終可以使無人機(jī)墜落?;蛘咴谀P蜎Q策階段,可以通過物理攻擊,使得自動(dòng)駕駛車輛最終視覺識(shí)別系統(tǒng)出問題,這樣可能影響車輛自動(dòng)行駛或者對行人的判斷。
隨著人工智能的應(yīng)用,技術(shù)的濫用帶來失控風(fēng)險(xiǎn)。驗(yàn)證碼驗(yàn)證機(jī)制首當(dāng)其沖。朱季峰介紹,早在2017年,地下的黑產(chǎn)就已經(jīng)開始用機(jī)器學(xué)習(xí)的方法做二維碼識(shí)別訓(xùn)練。資料表明,80%以上驗(yàn)證的準(zhǔn)確性都可以通過機(jī)器學(xué)習(xí)算法自動(dòng)完成線上的注冊,這就產(chǎn)生了一系列的安全問題。
3大系統(tǒng)共筑數(shù)據(jù)安全防火墻
人臉識(shí)別技術(shù)依托于對海量視圖數(shù)據(jù)的分析,因而數(shù)據(jù)安全直接影響著人臉識(shí)別技術(shù)的實(shí)戰(zhàn)應(yīng)用。人工智能技術(shù)在安防領(lǐng)域的應(yīng)用是技術(shù)尋求落地進(jìn)程最快、應(yīng)用最早的訓(xùn)練場。
達(dá)闥創(chuàng)始人、董事長兼CEO黃曉慶表示,從數(shù)據(jù)采集到數(shù)據(jù)處理到數(shù)據(jù)傳輸,解決數(shù)據(jù)網(wǎng)絡(luò)安全問題有很多手段。從網(wǎng)絡(luò)和數(shù)據(jù)角度要完成三個(gè)重要的任務(wù)——物理隔離、網(wǎng)絡(luò)隔離、應(yīng)用端到端的保護(hù)。
除了技術(shù),我國利用法律武器在數(shù)據(jù)立法上也做出了探索。
今年6月,我國頒布了《數(shù)據(jù)安全法》,9月1日將開始正式實(shí)施?!?A href="http://m.getprofitprime.com/site/CN/Search.aspx?page=1&keywords=%e6%95%b0%e6%8d%ae&column_id=ALL&station=%E5%85%A8%E9%83%A8" target="_blank">數(shù)據(jù)安全法》提出以數(shù)據(jù)分級(jí)分類為核心,搭建數(shù)據(jù)安全的監(jiān)管制度,要求強(qiáng)化落實(shí)各級(jí)數(shù)據(jù)處理活動(dòng)主體數(shù)據(jù)安全保護(hù)的義務(wù)與責(zé)任,為規(guī)范數(shù)據(jù)處理活動(dòng),保障數(shù)據(jù)安全提供法律依據(jù)。另外,《個(gè)人信息保護(hù)法(草案)》也即將進(jìn)入三審階段,兩項(xiàng)法案相輔相成,推動(dòng)我國個(gè)人信息保護(hù)和數(shù)據(jù)安全治理進(jìn)入全新階段。
在人工智能大會(huì)“大愛無疆·共生”論壇上,清華大學(xué)蘇世民書院院長薛瀾回顧人工智能治理模式歷經(jīng)回應(yīng)式治理、集中治理和敏捷治理三個(gè)階段?!艾F(xiàn)在我們進(jìn)入了相對比較集中的治理模式。該模式明確了國家加強(qiáng)行業(yè)監(jiān)管,促進(jìn)制度落地的決心,對暴露出來的各種問題采取比較堅(jiān)決的措施落實(shí)監(jiān)管規(guī)則,同時(shí)觸及到需要進(jìn)一步研究的問題。”薛瀾說。
目前,上海正研究立項(xiàng)公共場所人臉識(shí)別分級(jí)分類應(yīng)用規(guī)范的地方標(biāo)準(zhǔn),將成為全國首個(gè)立項(xiàng)的人臉識(shí)別的地方性標(biāo)準(zhǔn);開展全市人工智能數(shù)據(jù)立法調(diào)研,規(guī)范數(shù)據(jù)確權(quán),數(shù)據(jù)共享等重要內(nèi)容,推動(dòng)可信人工智能的研究。上海市人大也正在起草《上海市數(shù)據(jù)條例》。
此外,上海市數(shù)字證書認(rèn)證中心、復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院、上海交通大學(xué)電子信息與電氣工程學(xué)院、移動(dòng)互聯(lián)網(wǎng)系統(tǒng)與應(yīng)用安全國家工程實(shí)驗(yàn)室、上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院共同發(fā)起籌建數(shù)字身份與數(shù)據(jù)流通信任技術(shù)實(shí)驗(yàn)室,該實(shí)驗(yàn)室將基于數(shù)字信任技術(shù)的產(chǎn)學(xué)研生態(tài)合作,開展隱私計(jì)算、區(qū)塊鏈、前沿密碼等數(shù)字信任技術(shù)攻關(guān)和產(chǎn)業(yè)應(yīng)用,支撐城市數(shù)字化轉(zhuǎn)型、數(shù)據(jù)要素市場構(gòu)建和網(wǎng)絡(luò)安全體系建設(shè)。
記者獲悉,上海浦東新區(qū)將在數(shù)據(jù)資源共享、數(shù)據(jù)交易、數(shù)據(jù)開發(fā)利用等方面進(jìn)行立法探索;臨港新片區(qū)將試點(diǎn)開展企業(yè)法人數(shù)據(jù)的跨境流通的安全評估和服務(wù)監(jiān)管,加強(qiáng)個(gè)人數(shù)據(jù)的全生命周期安全監(jiān)控和防護(hù)。