人臉識(shí)別、語音識(shí)別、智能算法推送……當(dāng)前，人工智能（AI）技術(shù)加速融入社會(huì)生活，伴隨著智能產(chǎn)業(yè)的蓬勃發(fā)展，各式各樣的海量數(shù)據(jù)也在人們的生活中被大量收集、存儲(chǔ)和利用。數(shù)據(jù)安全和隱私保護(hù)問題由此成為人工智能系統(tǒng)在開發(fā)和應(yīng)用中面臨的嚴(yán)峻挑戰(zhàn)。
在享受人工智能帶來高效和便利的同時(shí)，如何進(jìn)一步扎緊守護(hù)個(gè)人隱私和公共數(shù)據(jù)安全的藩籬？在近日召開的第十一屆吳文俊人工智能科學(xué)技術(shù)獎(jiǎng)?lì)C獎(jiǎng)盛典暨2021中國人工智能產(chǎn)業(yè)年會(huì)上，多位專家學(xué)者就此展開了探討。
人工智能數(shù)據(jù)安全挑戰(zhàn)諸多
在中國工程院院士潘云鶴看來，數(shù)據(jù)、算力、算法和知識(shí)、運(yùn)用、理論六個(gè)要素彼此依賴，共同構(gòu)成了我國人工智能2.0發(fā)展的新生態(tài)。其中，數(shù)據(jù)的地位不言自明。
然而，在人工智能不斷走入人們的工作和生活場(chǎng)景時(shí)，數(shù)據(jù)的采集、存儲(chǔ)和應(yīng)用也越來越面臨諸多風(fēng)險(xiǎn)。“概括來說，數(shù)據(jù)安全問題體現(xiàn)在五個(gè)方面：可復(fù)制、易泄露、來源廣、危害大、監(jiān)管難，這是由數(shù)據(jù)的特性決定的。”中國電子科技集團(tuán)第三十研究所研究員董貴山說。
在具體危害表現(xiàn)上，一方面，最常見的是對(duì)數(shù)據(jù)保密性的侵害，如在金融領(lǐng)域，通過網(wǎng)絡(luò)竊取人工智能系統(tǒng)用戶的交易賬單、理財(cái)情況來了解其個(gè)人資產(chǎn)狀況和基于在線行為的支付意愿，從而快速有效地定位金融詐騙的受害者和目標(biāo)群體；或是通過各種網(wǎng)絡(luò)漏洞，竊取大量用戶的指紋、虹膜、面孔、身形等個(gè)人隱私信息數(shù)據(jù)用于犯罪；也有一些手機(jī)應(yīng)用軟件違法違規(guī)收集用戶個(gè)人信息等用于商業(yè)目的。
另一方面也有對(duì)數(shù)據(jù)完整性和可用性的侵害，如通過技術(shù)手段對(duì)大數(shù)據(jù)進(jìn)行竄改、造假和干擾，對(duì)投入應(yīng)用的人工智能系統(tǒng)輸入非真實(shí)的訓(xùn)練數(shù)據(jù)，以獲得與目標(biāo)背道而馳的結(jié)果。“利用所獲取的數(shù)據(jù)，也可能出現(xiàn)更改、拼接、制作高度逼真的假視頻或音頻，用于視頻、語音詐騙乃至擾亂社會(huì)治安穩(wěn)定等情況，這一問題因此也越來越受到各國的高度關(guān)注。”北京師范大學(xué)互聯(lián)網(wǎng)發(fā)展研究院院長助理、網(wǎng)絡(luò)法治國際中心執(zhí)行主任吳沈括說。
實(shí)際上，人工智能數(shù)據(jù)采集、存儲(chǔ)、利用等方面所面臨的威脅，不僅侵害公民的合法權(quán)益，更加不利于人工智能相關(guān)產(chǎn)業(yè)的發(fā)展。山東大學(xué)信息科學(xué)與工程學(xué)院教授劉治舉例，如研發(fā)智能超聲技術(shù)——運(yùn)用機(jī)械手臂進(jìn)行胸腔和腹腔的超聲波掃描，需要為系統(tǒng)提供大量的人體超聲掃描數(shù)據(jù)，但若訓(xùn)練數(shù)據(jù)中摻雜著許多非正常或不規(guī)范的樣本，則最終的技術(shù)效果將大受影響，這也成為影響人工智能技術(shù)落地的一個(gè)關(guān)鍵因素。
安全立法監(jiān)管進(jìn)入快車道
在資源共享、信息互通的智能時(shí)代，扎緊安全的藩籬，法律無疑是紅線。
“挑戰(zhàn)之下，我們看到，中國在人工智能數(shù)據(jù)治理領(lǐng)域已經(jīng)形成了多層次、多維度的法律法規(guī)框架。”吳沈括介紹，近年來施行的民法典對(duì)肖像權(quán)、聲音權(quán)、隱私權(quán)和虛擬財(cái)產(chǎn)保護(hù)等都給出了明確的規(guī)制，而數(shù)據(jù)安全法、網(wǎng)絡(luò)安全法和個(gè)人信息保護(hù)法的陸續(xù)施行，表明了我國在數(shù)據(jù)安全立法方面已經(jīng)進(jìn)入了快車道，而《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》也于今年被列入到國務(wù)院立法工作計(jì)劃中。
然而，在專家看來，在法律規(guī)制方面，尚有一些亟待明確的問題。如數(shù)據(jù)的應(yīng)用價(jià)值和倫理判斷，劉治舉例，在智能醫(yī)療的應(yīng)用上常需要許多醫(yī)療數(shù)據(jù)，這些數(shù)據(jù)在所有權(quán)和使用權(quán)方面仍有許多不明確之處，亟須進(jìn)一步進(jìn)行確權(quán)，明確每一類數(shù)據(jù)的可利用范圍，這樣才能在法治監(jiān)管下，讓這些大數(shù)據(jù)最大限度地造福社會(huì)。
“相較于以前，對(duì)這些數(shù)據(jù)的應(yīng)用價(jià)值和倫理判斷評(píng)估，是不曾出現(xiàn)過的新要求，所以，不再是‘技術(shù)歸技術(shù)、法律歸法律’，而需要有一個(gè)價(jià)值綜合評(píng)估的過程。”吳沈括說。
而在上海社科院互聯(lián)網(wǎng)研究中心主任、研究員惠志斌看來，人工智能是面向未來的技術(shù)，需要在確保人類自身安全的情況下，讓技術(shù)向前發(fā)展。其中既需要以人為本，也需要責(zé)任明晰，隱私保護(hù)、算法公正的問題不僅需要法律規(guī)制，也需要技術(shù)支撐，而這一切仍需各方努力，任重道遠(yuǎn)。
對(duì)此，中國電子科技集團(tuán)有限公司科技委副主任卿昱介紹，“十四五”我國已啟動(dòng)了重點(diǎn)研發(fā)計(jì)劃“網(wǎng)絡(luò)空間安全治理”重點(diǎn)專項(xiàng)，圍繞一系列安全挑戰(zhàn)開展基礎(chǔ)性研究。其中，在安全治理方面，針對(duì)網(wǎng)絡(luò)空間存在的數(shù)據(jù)壟斷、濫用和泄露等問題，重點(diǎn)突破重要數(shù)據(jù)的安全保障、個(gè)人數(shù)據(jù)的隱私保護(hù)和跨境數(shù)據(jù)流動(dòng)的安全等核心技術(shù)，或?qū)樯鲜鰡栴}提供重要的解決方案。
法律規(guī)制和標(biāo)準(zhǔn)設(shè)立亟待完善
“不可否認(rèn)，人工智能的發(fā)展帶來了一系列嶄新的法律問題。”吳沈括建議，從長期來看，需要構(gòu)建特定化、專門化的法律體系，甚至為人工智能立法。而從當(dāng)下看，對(duì)于已經(jīng)或可能出現(xiàn)的數(shù)據(jù)安全問題，一方面，可以通過梳理和分析我國現(xiàn)有的相關(guān)立法規(guī)范，修正現(xiàn)行規(guī)定或增加新的執(zhí)法指南和司法解釋將其納入；另一方面，則可以通過構(gòu)想和設(shè)計(jì)迫切需要的專門規(guī)則，從國際治理和國內(nèi)治理兩個(gè)角度，引入新的特別條款加以應(yīng)對(duì)。
同時(shí)吳沈括認(rèn)為，在進(jìn)行法律規(guī)制時(shí)，介入產(chǎn)業(yè)領(lǐng)域也應(yīng)恪守技術(shù)中立原則，對(duì)于安全風(fēng)險(xiǎn)未超過社會(huì)的相當(dāng)性、控制度和容忍度的，不應(yīng)擴(kuò)大干預(yù)打壓；立法應(yīng)具有前瞻性，關(guān)注突出的潛在風(fēng)險(xiǎn)，探索適當(dāng)?shù)脑缙诟深A(yù)，如違法預(yù)備行為的識(shí)別與阻斷；在立法、執(zhí)法以及司法過程中必須注重實(shí)現(xiàn)各項(xiàng)法律規(guī)范體系性的相互銜接和適用延展性。
而在浙江省網(wǎng)絡(luò)空間安全創(chuàng)新研究中心主任陳鐵明看來，形成數(shù)據(jù)安全的標(biāo)準(zhǔn)也至關(guān)重要。“歸根結(jié)底，要讓人工智能的數(shù)據(jù)安全變得有秩序，要標(biāo)準(zhǔn)化，不僅需要給數(shù)據(jù)進(jìn)行分類分級(jí)，也要有明確的機(jī)構(gòu)對(duì)數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)規(guī)范化，而隨著技術(shù)又往前走，標(biāo)準(zhǔn)也要隨著繼續(xù)發(fā)展提升。”
董貴山則建議，在人工智能法規(guī)制度和數(shù)據(jù)標(biāo)準(zhǔn)的建設(shè)上，對(duì)于數(shù)據(jù)的有效流通、利用方面也要及時(shí)跟進(jìn)。“有良好的數(shù)據(jù)生態(tài)和數(shù)據(jù)安全生態(tài)，才能孕育出強(qiáng)大的人工智能，同行業(yè)或者跨行業(yè)的數(shù)據(jù)流通和應(yīng)用才能支撐更加復(fù)雜的人工智能訓(xùn)練和數(shù)據(jù)化轉(zhuǎn)型的要求，由此促進(jìn)人工智能和數(shù)字技術(shù)的發(fā)展。”
