社交機器人

 

　　風險隱憂

 

　　社交機器人在發展應用過程中日益介入人類社交領域，形成了算法設計下的“智能伴侶關系”。極速發展的人機關系要求對社交機器人進行倫理方面的審視，而且社交機器人所具有的虛擬對話、信息把關、輿論操縱等多重功能，對社會治理、國家安全與法律規制造成的風險隱患也日益凸顯。

 

　　第一，深度介入社會關系，破壞現有倫理機制。社交機器人是一種人工智能實體，以“人際交往方式”實現其所服務的實際環境的預定義和特定領域目標，“社交”一詞更多強調了智能系統通過社交方式而不是身體互動來實現功能。社交機器人作為一種擬人化機器人，帶來了人與機器人之間的混淆問題。社交機器人日益深入參與社會關系，使得我們無法在“對象”和“代理”之間設置一個適應社交機器人的本體論實體，這將對回答社交機器人“自主權利”究竟幾何這一問題造成巨大障礙。無論是從社會正義還是公共話語角度出發，社會關系的技術化傾向都是社交機器人深度介入社會關系帶來的隱患。人與機器人的混淆問題也誘發了更深層次的情感依戀風險。社交機器人帶來的人機互動，容易促使人類產生對機器人被動型的情感或認知依賴，造成人類主體情感能動性的退化。

 

　　第二，操縱社會話語走向，擾亂輿論安全秩序。社交機器人主要通過編程接口搜索特定的社交網絡或討論，作為虛擬對話參與者影響公眾意見與話題走向。其可以在社交平臺中模仿人類用戶的言論習慣生產和傳播信息，背后的利益方則利用這一特點不斷復制傳播特定關鍵詞和主題標簽，輔以社交網絡算法控制性能將指定內容炒作為熱點。社交機器人推動低可信度信息病毒式傳播的風險隱患，正在擾亂現有的輿論生態，影響公眾輿論，挑戰言論自由，將社交網絡變為虛假信息的土壤。

 

　　第三，挑戰多重隱私領域，招致社會信任危機。由于其自主性和潛在的社交聯系，社交機器人正在挑戰用戶的心理、身體、社會及信息四重隱私領域。人機交互的有關研究表明，人類傾向于將人類的能力賦予機器人，并將其擬人化，這對社會信息隱私也有潛在的風險隱患。社交機器人同樣具有人工智能等技術的不透明性所導致的黑箱問題，其越來越依賴基于云端的數據處理和大量的傳感器和執行器，使其成為高度復雜和不透明的系統，數據收集往往不為人知或被用戶誤解，這將影響用戶對自動化的整體信任。

 

　　第四，引起監管架構混亂，催生法律規制盲區。隨著社交機器人越來越多地進入人類的社會生活，也催生了新的法律規制盲區。比如，社交機器人是否只是單純的工具，應如何對待機器人，機器人是否應該擁有權利。即使承認機器人具有法律地位，那么應如何將其置于價值等級中？價值等級是由法律規定的，當前的法律體系認為人的生命處于受保護價值的最重要位置，在有可能的情況下不拯救人類可能被視為犯罪。有關研究表明，人們會犧牲機器人來拯救人類，但鑒于社交機器人日益發展的擬人化特征，這樣的行為是否會被定義為犯罪？而機器人與人類的相似性越來越高，是否會實施刑事或民事侵害行為？此類侵權行為由誰擔責、如何裁定等問題，均是社交機器人發展過程中面臨的法治困境。

 

　　治理路徑

 

　　社交機器人進一步融入人類社會生活勢在必行，其實踐的價值在于拓展和突破以往的技術情境，建構新型人機交互模式和社會關系。對社交機器人進行治理評估的目標是，擺脫和超越工具的束縛，正視社交機器人角色的多樣性，實現社交機器人與人類社會發展的有效融合。這要求推進對社交機器人的體系化治理。

 

　　第一，樹立批判與發展并行的技術價值理念。社交機器人作為一種新興技術形態，在治理方面被視為一項挑戰，這就要求以特定的技術價值思想指導技術動蕩風險治理。從治理的角度而言，我們很難從初期就追蹤每一個小規模但可能產生巨大影響的技術發展實例。更具有實操性的是，制定足夠廣泛且適用的指導性價值概念。一方面，面對社交機器人未來風險的模糊性，需要以批判性思維對人與機器之間的界限、機器的能動性與責任等問題進行反思，避免社交機器人擾亂人類對于人格、同理心以及社會組織的理解。另一方面，要以發展的眼光看待社交機器人實踐。社交機器人具有的技術潛力是不可否認的，我們要在摒棄技術決定論的基礎上支持技術創新，推進符合自然發展規律、倫理秩序與人性要求的技術發展。

 

　　第二，推進規制協調同進的技術實踐規范。推進社交機器人批判性發展需要技術規范創新與法律規則規制雙重作用，確保社交機器人在技術層與社會層協調發展。一方面，要判斷社交機器人對人機交互物理環境的理解度，以確定的規范規制技術發展保障社交機器人的可解釋性，嚴格限制技術發展所導致的人類對社交機器人理解能力失控的現象。這一目標的實現，需要對社交機器人的數字模型、計算范式、建模方法確定明確的監測指標。另一方面，要確定規范化的法律規則，避免出現技術發展牽著社會規則走的困境。面對社交機器人技術的快速變化，技術側立法需要具有一定的前瞻性與預見性，保證立法效率與社交機器人發展速度接軌，形成全面、明確、有力度的監管舉措，建立明確的問題反饋機制。

 

　　第三，構建社會多主體參與的技術治理框架。社交機器人涉及人類社會關系及生活方式的突破性轉型，技術治理需要政策制定者、社會倫理家、法律理論家、機器人工程師等主體廣泛參與，從未來法律與社會本體角度，對機器人與人類社會生活的互動關系進行推測性探索。對于社交機器人的技術治理框架，需要多主體從技術標準、道德標準、宏觀戰略等維度進行協同作業。目前，社交機器人已實現商業化落地并逐步規模化應用，現有的技術治理需要從純理論分析轉換至理論與實踐規范相結合，將“以人為本”的觀念貫徹于治理框架始終。可以將技術人員的技術經驗、研究人員的理論研究、市場人員的評估標準等專業化建議，與社會用戶的使用型反饋相結合，擴大技術治理框架的考量范圍。

 

　　第四，踐行全球協同治理的技術安全邏輯。針對社交機器人的倫理價值觀、決策分析、技術正義等問題，需要以全球化的方式解決，建立全球性的技術治理安全邏輯。一方面，需要提供一個民主和公平的實質性技術理論框架，建立具有明確性規范的邊界條件，保障社交機器人所產生的利益以及安全風險負擔分配是合理有效的。另一方面，要明確審視針對社交機器人相關技術的全球治理機構，定義相關技術治理的全球公共政策的領導角色，從頂層設計出發明確安全邏輯路線。

 

　　當前，社交機器人正在實現商業化落地及推廣，其在社會關系、輿論安全、法律責任等層面的影響正在顯化。雖然社交機器人在人類社會中的常規化應用還有很長的路要走，但社交機器人技術研究的快速發展正在幫助我們日益接近這一現實。因此，有必要在技術發展過程中制定前瞻性的方案策略，以便能夠對技術進步帶來的風險隱患作出有效、及時、合理的反應。