安全是數字化時代的重要議題。隨著更多新技術、新場景的出現，安全的演進也一直在持續。
按細分領域劃分，早前圍繞安全的主要話題在網絡層面。但近年隨著數據量提升、數據泄露變得常見，數據安全產品、服務隨之成為產業熱點。而如今，伴隨生成式AI、大模型的出現，AI安全緊跟成為最被關注的議題。
在日前舉辦的2023西湖論劍·數字安全大會上，36氪觀察到，不少行業專家在談論數據安全的同時，同樣熱議AI安全。
安恒信息董事長范淵在2023西湖論劍·數字安全大會上表示，實戰化是安恒的基因之一。在過去的護網、重大活動安保過程中，安恒通過總結自己的經驗，沉淀出實戰化模型。"我們這兩年發現，AI+安全大腦在網絡戰形勢下的價值越來越高。"范淵表示。
而針對最新出現的、生成式AI的安全，范淵總結，當前出現了幾個新挑戰和機遇：首先，AI和大模型本身會存在不少安全風險；另外，ChatGPT這類應用會給自動化生成網絡安全工具和病毒木馬后門帶來幾百倍的效率提升；同時，AI+安全的智能化應用，也會為智能防護和響應帶來更大的機遇和成果。針對這些變化，范淵表示，安恒現在正在用相關海量數據和多個場景模型，在AI安全這個中模型上，覆蓋產品、平臺和服務3個維度，形成安全大腦。
"AI+安全，這個大幕剛剛拉開，未來還有更大的可能性。"范淵總結。
在會議中，中科院信息工程研究所副所長、大數據安全研究室主任王偉平教授同樣介紹了生成式人工智能數據安全風險分析和對策。王偉平總結，生成式人工智會帶來數據安全、內容安全、意識形態安全等方面的問題。
他認為，目前的生成式人工智能還是一個黑盒，人們無法很好地保障可解釋性。這種情況下，首先社會應該加強對個人安全風險意識的宣貫，盡量避免個人信息透露給AIGC；第二，要對社交媒體上虛假信息內容進行辨別，從源頭上避免給AIGC灌輸一些負面、虛假的輸入；同時也要加強涉密人員、涉密領域、涉密場所和涉密設備的監管，防止和ChatGPT類似系統產生關聯。
另外他還強調，應同時促進AIGC技術和安全防護技術的創新，因為在這個領域，"不發展就是最大的不安全"。他舉例，現在大家可以從輸入和輸出方面來抑制模型生成負面信息，并對人工智能智能生成的內容進行標記、鑒別、檢測和溯源。
在垂直場景方面，浙江工業大學網絡空間安全研究院副教授徐東偉，分享了自己對自動駕駛領域安全的觀察。
他介紹，自己的團隊在研究過程發現，自動駕駛所涉及的圖片、視頻或者語音智能感知算法存在一定脆弱性。"在輸入過程中添加非常微小的、人耳聽不到的噪聲，就會對智能算法產生一個非常極端的影響。"他表示，這可能會導致車輛誤判指令，從而對安全性產生影響。
而在數據層面，徐東偉表示，在智能網聯場景下的車輛軌跡預測或者車輛控制中，如果缺失或者數據不含噪聲，也會對控制算法、軌跡預測算法產生非常大的影響，也就是"魯棒性會很差"。
同時，如果基于聯邦學習或者區塊鏈構建數據安全共享機制，雖然數據共享會比較安全，但如果數據本身不準確，模型也會受到攻擊，同樣對最終產生的決策產生攻擊。
針對這些問題，徐東偉表示，未來他的團隊會關注三個方面：第一是如何基于AI設計車聯網的有效應用。第二是在車聯網應用過程中，如何從數據安全和模型安全兩方面保證車聯網應用的安全。第三是在測試的前提下，如何進一步研究車聯網應用過程中的魯棒增強和有效的安全防護。
總結來看，AI安全雖是新鮮事物，但從技術邏輯拆解，與會專家大多認為AI安全和數據安全存在一些相通之處。針對數據安全，范淵表示，安恒早前就一直強調應用安全、數據安全，未來在數據安全方面也會持續投入。
“公司今年一季度收入同比增長44%，是很健康的。而在三年前，我們就募資投入到數據安全治理、數據安全防護、數據安全應用、數據要素的研究中。所以過去這兩年可能也會感覺到好像利潤會受到影響，但是我覺得未來的十年是非常重要的。”范淵在采訪中表示。
