·加州共和黨眾議員杰伊·奧伯諾特是國會唯一擁有人工智能碩士學位的議員，他說，議員們甚至不理解這項技術(shù)：“令人驚訝的是，我花了太多時間向同事解釋，人工智能的主要危險，并不是眼睛里冒紅光的終結(jié)者T800。”
·歐盟委員會、歐洲理事會和歐洲議會預(yù)計最早于4月開始的三方談判中敲定《人工智能法》的細節(jié)。但是，ChatGPT很可能會導致談判陷入僵局。
得益于ChatGPT的流行，美國企業(yè)開始不斷嘗試使用人工智能賦能應(yīng)用場景。但與此同時，對人工智能的擔憂也在增加。《紐約時報》近日發(fā)表文章稱，美國政府似乎沒有跟上人工智能技術(shù)監(jiān)管的步伐，這可能會導致可怕的后果。
“由于未能建立相關(guān)體系，政策制定者正在為人工智能的惡意競爭創(chuàng)造條件。”政策研究機構(gòu)艾達·洛芙萊斯研究所（AdaLovelaceInstitute）所長卡莉·金德（CarlyKind）表示。
與美國不同，歐盟目前已經(jīng)在準備通過一項法案監(jiān)管人工智能，監(jiān)管內(nèi)容包括面部識別和關(guān)鍵公共基礎(chǔ)設(shè)施。該立法將要求人工智能公司對其技術(shù)進行風險評估，違反者可能會被罰款，最高可達其全球收入的6%。歐盟三大機構(gòu)預(yù)計最早將于4月開始的三方談判中敲定人工智能法案的最終細節(jié)。
多位美國議員呼吁監(jiān)管人工智能
最近幾周，美國多名國會議員對人工智能的危險發(fā)出了警告。
加州民主黨眾議員劉云平（TedLieu）今年1月在《紐約時報》的一篇評論文章中寫道，人工智能工具模仿人類的能力越來越強，他“嚇壞了”。另一位民主黨人、馬薩諸塞州眾議員杰克·奧金克洛斯（JakeAuchincloss）發(fā)表講話呼吁監(jiān)管人工智能，這段一分鐘的講話內(nèi)容由機器人撰寫。
弗吉尼亞州民主黨眾議員唐·拜爾（DonBeyer）表示，不要指望華盛頓很快就會采取行動，他提出的一項要求審計人工智能的法案未能獲得支持，拜爾認為原因是這個問題“對議員們來說并不緊迫”。
加州共和黨眾議員杰伊·奧伯諾特（Jayoberolte）是國會唯一擁有人工智能碩士學位的議員，他說，議員們甚至不理解這項技術(shù)：“令人驚訝的是，我花了太多時間向同事解釋，人工智能的主要危險，并不是眼睛里冒紅光的終結(jié)者T800。”
盡管幾名議員一直在推動加強人工智能的監(jiān)管，但美國當權(quán)機構(gòu)依舊保持沉默。
一直以來，華盛頓對人工智能收到的批評都保持了沉默。2015年1月，物理學家斯蒂芬·霍金（StephenHawking）和特斯拉首席執(zhí)行官、現(xiàn)在的推特所有者埃隆·馬斯克（ElonMusk）警告說，人工智能正在變得危險，可能導致人類滅絕，呼吁制定相關(guān)法規(guī)。2016年11月，第一次人工智能國會聽證會上，議員們兩次引用了馬斯克的警告，均遭到反駁和忽視。一些學者和人工智能研究機構(gòu)OpenAI的首席執(zhí)行官薩姆·奧特曼（SamAltman）駁斥了馬斯克的預(yù)測，還有一些議員強調(diào)了美國在人工智能發(fā)展方面保持領(lǐng)導地位的重要性。德克薩斯州共和黨參議員特德·克魯茲（TedCruz）表示，國會必須“確保美國在整個21世紀都保持全球領(lǐng)導者的地位”。
2021年，梵蒂岡、IBM和微軟提出“呼吁人工智能倫理”承諾，呼吁對人工智能技術(shù)的運作方式保持透明，尊重隱私并盡量減少偏見。該承諾還呼吁對面部識別軟件進行監(jiān)管，該軟件使用大型照片數(shù)據(jù)庫來確定用戶的身份。此后，在華盛頓，一些立法者試圖為面部識別技術(shù)制定規(guī)則，并對公司進行審計以防止歧視性的算法。
據(jù)《紐約時報》報道，以上這些呼吁和法案均無疾而終。
劉云平稱，今年1月，奧特曼拜訪了幾名國會議員，展示了新的人工智能模型GPT-4。奧特曼曾表示將支持政府監(jiān)管，而展示的GPT-4安全性也將更上一層樓。
但劉云平說，政府不能依靠個別公司來保護用戶。他計劃今年提出法案成立一個研究人工智能的委員會和一個監(jiān)管人工智能的新機構(gòu)。“OpenAI決定對其技術(shù)進行安全控制，但我們?nèi)绾伪ＷC另一家公司也會這樣做？”他問道。
歐盟的監(jiān)管態(tài)度更積極
《人工智能法》的主要立法者本尼菲和都鐸拉奇提議，在沒有人類監(jiān)督的情況下生成復雜文本的人工智能系統(tǒng)應(yīng)該是“高風險”名單的一部分，以阻止ChatGPT大規(guī)模生成虛假信息。
相較于美國，歐洲對于監(jiān)管的態(tài)度十分積極，歐盟委員會（EuropeanCommission）、歐洲議會（EuropeanParliament）和歐盟理事會（EuropeanCouncil）在2021年就提出了《人工智能法》（ArtificialIntelligenceAct）的草案，旨在禁止一些人工智能應(yīng)用程序的功能，如社交評分、操縱用戶和面部識別等。它還計劃把人工智能的一些具體用途指定為“高風險”，將開發(fā)人員綁定到更嚴格的透明度、安全和人力監(jiān)督要求上。但隨著ChatGPT的發(fā)布，該計劃被擾亂。
“這些人工智能就像發(fā)動機，它們是非常強大的引擎和算法，可以做很多事情，但其本身并沒有主觀意識。”羅馬尼亞自由派議員德拉戈·都鐸拉奇（DragoTudorache）說。他與意大利議員白蘭度·本尼菲（BrandoBenifei）一起，負責指導歐洲議會通過人工智能法案。
ChatGPT已經(jīng)促使歐盟機構(gòu)重寫了他們的計劃草案。歐盟理事會于去年12月批準了新版本的《人工智能法》草案，該法案將委托委員會為通用人工智能制定網(wǎng)絡(luò)安全、透明度和風險管理要求。
今年2月，《人工智能法》的主要立法者本尼菲和都鐸拉奇提議，在沒有人類監(jiān)督的情況下生成復雜文本的人工智能系統(tǒng)應(yīng)該是“高風險”名單的一部分，以阻止ChatGPT大規(guī)模生成虛假信息。
這一想法遭到了歐洲議會右傾政治團體的質(zhì)疑，甚至包括都鐸拉奇自己所在的自由派團體的部分成員。對議會立場有正式發(fā)言權(quán)的著名中右翼議員阿克塞爾·沃斯（AxelVoss）表示，該修正案“將使許多活動變得高風險，而這些活動根本沒有風險”。
但一些相關(guān)人士認為，該提議只是觸及了通用人工智能難題的表面，專注于人工智能政策的非營利組織“生命未來研究所（FutureofLifeInstitute）”的政策主管馬克·布拉克爾（MarkBrakel）說：“只是把文本生成系統(tǒng)列入高風險名單并不好。市面上還有其他通用人工智能系統(tǒng)，它們存在風險，也應(yīng)該受到監(jiān)管。”
兩位議員還在努力對ChatGPT和類似的AI工具施加更嚴格的要求。他們試圖對大型服務(wù)提供商實施更嚴格的限制，但同時對使用這項技術(shù)的日常用戶保持較寬松的制度。
本尼菲說，教育、就業(yè)、銀行和執(zhí)法等部門的專業(yè)人士必須意識到，如果使用者的目的是侵犯個人權(quán)利，那么人工智能技術(shù)會帶來極其嚴重的后果。
歐盟委員會、歐洲理事會和歐洲議會預(yù)計最早于4月開始的三方談判中敲定《人工智能法》的細節(jié)。但是，ChatGPT很可能會導致談判陷入僵局。
在場外，大型科技公司，包括微軟和谷歌等也在密切關(guān)注這一事件的進展。
負責微軟AI業(yè)務(wù)的娜塔莎·卡普頓（NatashaCrampton）說，歐盟的《人工智能法》應(yīng)該“保持對高風險用例的關(guān)注”，并表示ChatGPT等通用AI系統(tǒng)幾乎沒有被用于高風險活動，而是主要用于起草文件和幫助編寫代碼。
活動組織“歐洲合作觀察（CorporateEuropeObservatory）”最近的一項調(diào)查還表示，包括微軟和谷歌在內(nèi)的該行業(yè)企業(yè)一直在堅持游說歐洲的政策制定者們，以將ChatGPT等AI工具排除在對高風險AI系統(tǒng)施加的監(jiān)管之外。谷歌首席執(zhí)行官桑達爾·皮查伊（SundarPichai）2020年訪問布魯塞爾，呼吁對人工智能進行“明智的監(jiān)管”。
有趣的是，當詢問ChatGPT對監(jiān)管的看法時，它也認為人工智能可能需要監(jiān)管：“歐盟應(yīng)該考慮將生成式AI和大型語言模型指定為‘高風險’技術(shù)，因為它們有可能創(chuàng)造有害和誤導性的內(nèi)容。”它認為，歐洲應(yīng)該考慮實施一個負責任的開發(fā)、部署和使用這些技術(shù)的框架，其中包括適當?shù)谋Ｕ稀⒈O(jiān)測和監(jiān)督機制。
