“原來機器人永遠不要傷害人類的原則，現在看來已經被打破。所以，我們建議應該把AI最后的決定權交給人類，讓人來做最后的控制，而不是完全讓AI做自動的判斷、自動的決策。”7月27日，由中國互聯網協會指導、微博和新浪新聞主辦的人工智能領域峰會新智者大會在京順利召開。三六零集團創始人周鴻祎出席大會并發表主題演講。
他指出，面對人工智能帶來各種復雜安全挑戰，網絡安全行業應當被重新定義，將計算機安全、網絡安全升維到數字安全。其中，《國家安全戰略（2021年-2025年）》明確提出加快提升網絡安全、數據安全、人工智能安全等領域的治理能力，這也是國家戰略層面首次提出人工智能安全的概念，說明人工智能安全是數字安全的一部分。
演講中，周鴻祎指出AI已應用在戰爭中，不傷人原則已被打破。今年俄烏沖突中，烏克蘭軍隊就使用了美國的彈簧刀無人機，該無人機具備監視、偵察和打擊功能，在AI的加持下，單兵就能熟練掌握。“從人下指令，到AI自動識別、自動判斷、自主發起攻擊，我覺得就是一層薄薄的窗戶紙。所以把AI武器最后的決定權交給人類，讓人來做最后的控制至關重要。人工智能最后的底線必須是人。”周鴻祎說道。
除應用于戰場上外，人工智能安全也面臨著七重挑戰，包括：硬件、軟件、通信協議、算法、數據、應用和社會倫理。周鴻祎指出經典的“電車難題”就是很好的例證。面對電車選擇難題，AI程序該如何來做出判斷。與此同時，如果出了車禍，這個責任到底該誰來負？應該算AI的？算車廠的？還是算駕駛員的？這些AI安全問題，目前都還沒有明確答案。
然而，風險與機遇并存。對于人工智能的風險與積極作用，周鴻祎認為需辯證對待。在此方面，360一直高度重視人工智能安全，率先布局構建起人工智能安全能力體系。360不僅對自身積累的全球最大的安全大數據進行AI分析，形成了360云端安全大腦的原型，為行業或企業提供強大的數據和情報支撐；同時積極承擔“安全大腦國家新一代人工智能開放創新平臺”的建設；此外還牽頭研發的“人工智能安全測評與風險監測預警平臺”入選工信部“人工智能產業創新任務揭榜單位”名單，有效夯實了人工智能安全的底座。
值得關注的是，周鴻祎還直言僅靠一家企業不能解決所有威脅，需要注重生態合作，并表示作為中國數字安全的領軍企業，360愿意開放自身安全大數據，將產學研力量聯合起來，共建AI安全生態，集中推動數字安全的創新。
