AI“模仿”人類聲音的能力日漸成熟，已經有部分用戶開始無法憑借第一反應來判斷說話者是人類還是人工智能。當前，AI 生成的語音被越來越多地用在語音通話中，例如廣告宣傳或推銷等領域。
據 TechRadar 北京時間今天報道，美國聯邦通信委員會（IT之家注：下文簡稱 FCC）正試圖打擊一些利用 AI 生成通話語音的不法行為和惡意企圖，并提出一項提案旨在加強對消費者的保護，使消費者免受“不受歡迎的”AI 自動電話的侵害。
FCC 的計劃將幫助“定義”AI 生成的電話和短信，從而使委員會能夠設置界限和規則，例如強制要求 AI 生成的聲音在撥打電話時披露它們的 AI 身份。
FCC 提出這項提案的背景，是 AI 開始被用于一些“不太正當”的通信活動。同時，這也將作為 FCC 打擊“AI 自動電話”作為騷擾、欺詐手段的努力之一。該提案將要求呼叫方披露 AI 生成的聲音和文字，通話開始時，AI 必須對其所“說”內容進行解釋，以及其使用的聲音的人工來源。據悉，任何未能遵守這一規定的組織將被處以重罰。
除了追查“AI 自動電話”的身份外，FCC 還希望推出一種工具，可在人們收到 AI 生成的電話語音和短信文本時發出提醒，尤其針對那些不受歡迎或非法的內容。據報道，這種工具可能包括性能更強的呼叫過濾器、基于 AI 的檢測算法，或者增強的來電顯示功能，用來識別、標記 AI 生成的電話。
