當下，人工智能成為新一輪推動產業變革的驅動力，在經濟、軍事、醫療、文化等各領域蓬勃發展。然而，任何新技術新應用都具有兩面性，人工智能技術及其應用為人們生產生活提供便利的同時，也帶來了安全隱患。如何讓人工智能最終走向樂觀變得尤為重要。
人工智能面臨安全隱憂
中國科學院院士何積豐教授在會上演講
人工智能技術威脅網絡空間安全。
中國科學院院士何積豐教授在“2018世界人工智能大會·人工智能安全高端對話”會上指出，在工業安全領域，人工智能既可以進行安全防范，包括攻防對抗、內容分析、代碼混淆、異常檢測等，也存在開發工具漏洞和算法具有不確定性等問題。針對安全問題，需建立主動防御的智能體系。
以自動駕駛汽車為例，其毫米波雷達、激光雷達、攝像頭等感知設備都可以被干擾，而且自動駕駛系統本身可能存在的漏洞，都會導致信息安全問題。騰訊科恩實驗室總監呂一平總監在會上表示，汽車行業目前處于網聯階段，通往自動駕駛階段還需一定時間，除了技術達標以外，更重要的是法律法規的問題。
車輛會因為地上的三個貼紙駛入旁邊車道(示意圖)
在人工智能安全領域，隱私性問題也是民眾普遍關心的問題。
人工智能的快速發展，可能加劇個人信息泄露，威脅個人隱私安全。對此，華東政法大學人工智能與大數據指數研究院院長高奇琦在去年大會上用了“透明人”概念，認為“未來人是‘透明人’，這恐怕是一個無法阻擋的趨勢。”
為研發人工智能而大量使用數據過程中，如果數據被濫用，也會觸及隱私安全。此前，美國百萬人使用的社交app——Ever通過“周末與爺爺”、“最佳時刻”等溫情的主題，誘導用戶上傳照片，未經授權使用人們照片進行面部識別技術進一步開發，并將這項技術出售給私營公司、執法部門和軍方，以此來大大提升其財務狀況。無獨有偶，社交網絡巨頭Facebook在過去兩年被爆出多起侵犯個人隱私的丑聞。
人工智能與安全需要平衡發展
人工智能時代，網絡空間安全威脅全面泛化，但是人工智能也可以成為網絡安全的“救世主”。如何平衡好人工智能與安全的關系，利用人工智能思想和技術應對各類安全威脅，是國內外產業界共同努力的方向。
騰訊公司安全管理部副總經理楊鵬致辭
為應對網絡安全，騰訊基于其黑產對抗經驗技術和反欺詐 AI 模型建造能力，打造出“賓果反詐騙防控系統”，自投入使用以來，全國重點詐騙區域詐騙號碼大幅下降接近70%，有效遏制了詐騙態勢蔓延。
作為人工智能領域的先行者，百度的人工智能安全平臺目前已有近百家合作伙伴，覆蓋超過1億部智能設備。可幫助廠商有效應對智能終端、智能車機面臨的各類安全風險，全面確保云、內外部通信、操作系統、應用、硬件、數據和手機終端安全。
在去年大會分論壇，眼神科技創始人兼CEO周軍介紹了人工智能在金融安全領域的應用，用人臉、指紋、虹膜等多模態生物識別技術識別技術幫助金融機構降本增效，增強安全認證。
圍繞著“人工智能帶來信息安全挑戰”，大會現場眾多專家、學者和產業精英都紛紛建言獻策，提出應對之道。
聯合國人工智能和機器人中心主任伊萊克利·伯利茲在會上演講
聯合國人工智能和機器人中心主任伊萊克利·伯利茲建議對現階段人工智能的發展充分評估，并建立起各方參與的協同合作模式；中國移動研究院首席科學家馮俊蘭女士指出，5G網絡服務眾多垂直工業，數據挖掘技術更易保護用戶隱私信息，并提出了“通信改變社會”的愿景，強調電信運營商應當加強與垂直行業的互信和協作；在碁震KEEN公司創始人兼CE王琦看來，最重要的是法律保障，用法律的手段讓人工智能行業的從業者加強自律，保持敬畏之心；上海優刻得信息科技公司CEO季昕華則表示，還需要技術手段對人工智能進行約束，“讓AI可以分析數據，但是不獲取數據，這應該是技術層面努力的方向”。
人工智能的安全問題與人工智能的快速發展相伴相隨，只有妥善解決安全問題，才能實現人工智能的長期可持續發展，而這個過程不僅是一個技術問題，更是一個社會問題、倫理問題。如何使用好人工智能這把“雙刃劍” ，是全世界所需解決的實際問題。
在即將于8月29日-31日舉辦的2019世界人工智能大會上，關于如何實現由傳統安全時代的強管理向AI時代強技術支撐下的核心管理轉變，業界權威們將再次為人工智能安全防護提供創新性的解決思路。
