關注人工智能帶來的“認識論不公正”

 

　　概念考察與類型分析

 

　　作為認識論領域一個相對較新的概念，“認識論不公正”由弗里克在《認識論不公正：認知的權力和倫理》一書中首次提出。根據弗里克的定義，“認識論不公正”是“以知識者的身份對某人犯下的錯誤”。該術語揭示了一種獨特現象——由于社會偏見或刻板印象等原因導致某人的認知論地位被不公正地削弱。更寬泛地講，是指某類群體或個人的理性能力受到社會或他人的不公正對待。“認識論不公正”是一種歧視性的不公正，是因歧視性因素使得某人被排擠在認知活動之外或處于認識論的不利地位。歧視性的不公正不同于分配性的不公正，雖然對后者的關注同樣重要，但弗里克認為“它并沒有明顯的認識論上的問題”，因為那些被定性為認識論商品的東西在很大程度上是偶然的。所以，真正具有認識論意義的不公正應當是歧視性的不公正。

 

　　弗里克明確將“認識論不公正”區分為解釋學不公正（hermeneutical injustice）和證詞不公正（testimonial injustice）兩種類型。當“集體解釋資源的差距使某人在理解其社會經歷時處于劣勢”時，就會發生解釋學不公正。當沒有“集體解釋學資源”，即缺乏典型的語言類型和概念資源來談論和理解某些經歷時，遭受此經歷的人將被剝奪談論和理解自身經歷的機會。證詞不公正則是指“因偏見導致聽眾對說話者的證詞可信度的貶低”，因而不再被當作可靠證據或證詞的來源。這些偏見往往是系統性的，滲透在整個社會之中，證詞不公正便是其在認識論上的反映。以上理論資源，為揭示人工智能帶來的“認識論不公正”問題提供了有益的起點。

 

　　解釋學不公正

 

　　人工智能的認知非透明性特征，將引發解釋學不公正。認知非透明性是漢弗萊斯（Paul Humphreys）提出的概念，用于表征某些計算系統的內部過程和屬性的不可訪問性。雖然漢弗萊斯專注于計算模型和模擬，但該概念同樣適用于人工智能。由于運用了大量復雜的程序和方法（如機器學習、深度神經網絡、大數據分析等），人工智能具有明顯的認知非透明性特征。

　　人工智能的認知非透明性特征主要源于兩個方面。一方面，一些技術本身是不透明的。比如，深度學習和大數據技術具有典型的不完全可理解性和不可訪問性，使其結果難以被追溯或至多只能在事后獲得部分解釋。另一方面，一些社會性因素也帶來了認知非透明性。比如，人工智能中的算法和數據多為大型科技公司掌握甚至壟斷，為保持市場競爭和技術優勢，這些算法和數據通常會被視為商業機密而不被公開。

 

　　人工智能可以被視為一個復雜的非透明性系統，對其內部過程和輸出結果的理解遠遠超出人類個體的認知資源和能力。并且，人們對其經驗有效性也缺乏認知控制。這會導致人們（至少是非技術專家）在質疑其結果或理解其操作方面存在不少困難。尤其是當人工智能產生負面影響時，受影響群體明顯缺乏適當的概念資源來表達、概括和理解其所經歷的傷害，由此將導致解釋學不公正的發生。而當人工智能被應用于決策環境中時，其帶來的解釋學不公正將變得更加突出。

 

　　人工智能正在深刻改變人們的決策過程和環境，不少商業公司和政府的決策都開始有人工智能的參與。比如，一些科技公司會使用人工智能輔助招聘評估系統來篩選應聘者的簡歷。由于人工智能的認知非透明性特征，有可能導致應聘者難以理解公司的評估方式和被拒絕的明確理由。同時，人工智能也被廣泛應用于商業借貸領域，通過對申請人進行信譽評估來決定是否放貸及貸款額度。這時，借貸者往往無法知道銀行機構是根據哪些具體指標來評估其信譽等級并作出決策的。所以，人工智能參與決策的受影響者，或缺乏足夠的資源來理解自身遭遇的經歷，進而失去反駁、申訴甚至追責的權利。此外，人工智能參與的決策還可能包含或隱藏著一些政治目的或經濟利益，但由于其“黑箱式”運行，會導致使用者知之甚少，甚至有時連專家也無法訪問。這時，使用者明顯處于一種認識論上的不利地位，甚至受到超出認識論范圍的傷害。此類情況應予以關注和重視。

 

　　證詞不公正

 

　　雖然弗里克的證詞不公正被認為是發生在人類聽眾和人類說話者之間的事情，但在作為聽眾的人類與作為證詞或決策提供者的人工智能之間也存在類似狀況。人工智能或通過貶低人類證詞可信度，而成為一種新的認識論傷害的來源。因為基于對人類自身身份和行為數據的大量收集，人工智能或帶來一種新的認知權力不平等：目前人工智能經常被認為比我們更了解自己，從而削弱了我們對于自身可信度的支持。比如，在基于人工智能和大數據分析的行為預測和基于人類證詞的行為預測之間，可能有不少人會傾向于認為前者更加可靠。在這種情況下，證詞不公正在整個社會層面被結構性建立起來。

 

　　在人工智能面前，人類或不公平地貶低自身作為認知者的理性能力，認為其證詞可信度明顯低于人工智能的判斷。雖然基于數據挖掘技術的人工智能通常被認為可以消除部分人類偏見，但它也可能復刻或強化許多社會偏見，并在偽客觀性中將其“自然化”。所以，人工智能的“證詞”并不一定就比人類證詞更加可靠，我們需要警惕其中隱藏的偏見并消除對人類證詞的不公正處置。人工智能所帶來的證詞不公正，將在以下三個方面對人類產生不利影響。

 

　　其一，在一些重要的認識論活動（如知識生產、證據提供、理論驗證、決策判斷等）中，人類的參與能力和地位將被削弱乃至完全被排擠出整個認識論活動之外。人類或將不再被視為認識論活動的適當參與者。并且，這種重視人工智能決策和忽視人類證詞的實踐，或使我們錯過向人類個體學習的機會。

 

　　其二，由于人工智能的決策被賦予比人類證詞更多的權重，人類或逐漸失去作為認識論主體的信心和作為知識提供者的尊嚴。人類在繼續擁有認知能力的同時，因其證詞長期受到質疑和忽視，很可能會失去交流和理解自身經歷的動力，而最終選擇保持沉默。人類作為理性主體，創造知識和傳播真理不僅是人類理性能力的體現，也是人類尊嚴和價值的直接表達。對人類認識論主體地位的不公正削弱，將同“以人為本”的人工智能發展理念背道而馳。

 

　　其三，人工智能的數據缺失問題，將加劇對相關群體的證詞壓迫。缺乏關于特定社會事件或現象的數據，并不意味著該類事件或現象實際上不存在。人工智能基于過去已有數據對未來作出預測性判斷，容易忽視某些未被數據化的其他因素或強化已有偏見。未被數據化的一些社會群體的證詞或被排除于人工智能算法系統之外，其利益和立場或因此被忽視。所以，若缺乏對訓練數據的人工審查和輸出判斷的道德敏感性評估，人工智能可能會成為一種不負責任的創新。

 

　　總之，揭示人工智能帶來的“認識論不公正”問題，旨在呼吁更多學者和人工智能專家關注該問題，積極探索問題的解決之道。雖然這里所討論的直接傷害發生在認識論上，但這也會間接造成某些道德和社會后果。因此，加入認識論視角的人工智能倫理反思，將會變得更加充實和全面，進而促進人工智能更好發展。