如何用AI來對抗AI生成的虛假信息或陰謀論？
最近，美國麻省理工學院和康奈爾大學聯合研究團隊提出了一種利用AI聊天機器人來對抗虛假信息的新方法，試圖打破“陰謀論信仰根深蒂固且無法改變”這一觀念。
研究團隊研究了GPT-4 Turbo等大語言模型（LLMs）是否會利用其強大的信息獲取能力，并通過使用定制的對話反駁，來直接回應陰謀論信眾提出的具體證據，從而有效地揭穿陰謀論。
結果表明，LLMs能夠應對大量虛假信息的“攻擊”，并提供大量反證據，相較于人類難以處理的信息洪流，LLMs或許可以無限期針對錯誤信息生成反駁。
此前，據調查發現，由AI驅動的聊天機器人可以將陰謀論信眾（即使是那些最頑固的人）的錯誤信念平均減少20%，且效果至少可以持續2個月，并在各種不相關的陰謀論以及不同的人口統計類別中都有效。
該研究論文以“Durably Reducing Conspiracy Beliefs Through Dialogues with AI”為題，并以封面文章的形式發表在科學期刊《Science》上。
不過，研究團隊中的Bence Bago等人認為，這一方法可能只適用于經過充分論述的陰謀信仰，對于沒有合理依據的錯誤信仰，AI的有效性可能會有所下降。AI對話干預措施的可擴展性是一種理想狀態，它不僅能夠適用于陰謀論，還涵蓋偽科學、健康神話、氣候懷疑主義等領域。然而，這些類型的錯誤信念是否與陰謀論具有相同的糾正難度，仍有待進一步研究。
在《2024年全球風險報告》中，世界經濟論壇將AI放大虛假信息列為全球最嚴重風險之一。在此情況下，AI的潛在積極影響顯得尤為重要。
那么，AI威脅論的“終結者”是否是其本身？目前還未有定論。
