但是 Facebook 關(guān)閉該項目的新聞已經(jīng)曝出半個多月了，而其 AI 聊天機(jī)器人「創(chuàng)造一種人類無法理解的語言」這事更是六月的舊聞了。為什么這件事現(xiàn)在又火起來了呢？
原因可能是 Facebook 的創(chuàng)始人馬克·扎克伯格剛剛與埃隆·馬斯克就 AI 威脅論的問題隔空吵了個架，余熱尚在，F(xiàn)acebook 被迫關(guān)閉「失控」的 AI 項目絕對是一波「打臉」的好戲碼，于是我們就看到一波鼓吹 AI 威脅論的聲音此起彼伏。
有關(guān)該事件的外媒報道
但我們在看了許多外媒文章之后發(fā)現(xiàn)，他們并沒有對此事追根溯源，從一開始，他們就把 AI 之間語法不通的英語句子看做了一種全新的語言，而 Facebook 的兩個聊天機(jī)器人 Bob 和 Alice 使用的依然是英語單詞，只是語法上沒有任何意義而已。
Bob:「I can can I I everything else."
Alice:「Balls have zero to me to me to me to me to me to me to me to me to."
翻譯過來是：
Bob：「我能能我我所有其他事。」
Alice：「球沒有對我對我對我對我對我對我對我對我對。」
這怎么看都是英語沒學(xué)好啊。
別激動！Facebook AI 根本就沒創(chuàng)造新語言，它只是在犯傻
Bob 和 Alice 的對話截圖
對于這件事，人工智能公司 iPIN 的創(chuàng)始人楊洋表示，其實這種機(jī)器亂語的情況早就有了先例，Google 的聊天機(jī)器人就出現(xiàn)過這種狀況，「說是新的語言太勉強(qiáng)，反而是將文字符號化，高階語言降為低階語言，或者說機(jī)器語言。」
「自創(chuàng)語言」的來龍去脈
6 月的時候，F(xiàn)acebook 人工智能實驗室發(fā)表了一篇文章，介紹了他們?nèi)绾谓?AI 與人類進(jìn)行談判，他們希望訓(xùn)練機(jī)器人不僅僅是在表面上模仿人類，而是真正的像人類一樣處理事情。
在這個項目上 Facebook 取得了一定的研究成果，他們的機(jī)器人在與人進(jìn)行談判時，人類甚至無法區(qū)分出對面的是機(jī)器還是人類。
但后來情況發(fā)生了變化。
Bob 和 Alice 之間的對話出現(xiàn)了上述那種語法不通的句子，據(jù) Facebook 人工智能實驗室的研究人員 Dhruv Batra 所說，對話系統(tǒng)出現(xiàn)故障的原因是因為「沒有針對英語語言的獎勵機(jī)制」。此前我們報道過，深度學(xué)習(xí)技術(shù)的一個延伸——加強(qiáng)學(xué)習(xí)（Reinforcement Learning）中，技術(shù)人員可以通過設(shè)立獎勵機(jī)制來規(guī)范機(jī)器自學(xué)習(xí)的方向，從而得到開發(fā)者更想要的深度學(xué)習(xí)結(jié)果，比如去年 AlphaGo 在升級的過程中就使用了這樣的技術(shù)，再比如在這個事件里，據(jù) Dhruv 的說法，如果研究人員在系統(tǒng)中編寫針對英語語法的獎勵機(jī)制，系統(tǒng)就會偏向于更符合英語語法的語言，也就不會出現(xiàn)現(xiàn)在的情況。
我們就此事采訪了 AI 平臺公司三角獸科技的創(chuàng)始人馬宇馳先生，他認(rèn)為「這應(yīng)該是一個小題大做的事情，在模型訓(xùn)練不完善的時候?qū)υ挘瑫蓄愃频那樾危斫獬蓻]完成的訓(xùn)練工作也許更合適。」
另外一邊 iPIN 的創(chuàng)始人楊洋也持有類似的觀點：「任何對話，加上 GAN（生成對抗網(wǎng)絡(luò)），再做一些語言價值預(yù)設(shè)作為反饋邏輯，很容易出現(xiàn)這種情況。其實用 GAN 來訓(xùn)練機(jī)器人編程，本來就是這么個思路。」
說到底，這就是個技術(shù)失誤，所謂「英語是一個非常復(fù)雜且難懂的語言，對機(jī)器學(xué)習(xí)來說不是很適合」，聽起來非常危言聳聽，好像 AI 像科幻電影里一樣，已經(jīng)開始「淘汰人類」了，但事實是，機(jī)器只是機(jī)器，他們不過是設(shè)定好的程序，你見過哪個程序員用英語寫程序的？
這一點是各類鼓吹 AI 真的發(fā)明了一種語言這種說辭的的文章沒有提到的。
項目關(guān)閉原因有待證實
談到 Facebook 關(guān)閉該項目的原因，馬宇馳先生的態(tài)度非常明確：「Facebook 關(guān)閉 AI 項目的原因不可能是這種，應(yīng)該是外面杜撰出來的」，報道中出現(xiàn)的問題「修復(fù)重置等等都可以（解決）」。
據(jù)外媒最初的報道，F(xiàn)acebook 的研究員 Mike Lewis 表示，他們關(guān)閉該項目的原因是因為目前的情況不符合他們的預(yù)期，「我們的目標(biāo)是讓機(jī)器人和人聊天」。
原文里并沒有給出詳細(xì)的采訪過程，也沒有被訪研究員的前后語境，加上文章從一開始就把它當(dāng)做是 AI 覺醒奇點前兆一樣的事件來看待，確實給人一種科幻成真的感覺，但這其實是有點誤導(dǎo)讀者的意思了，馬宇馳先生也對文章中的采訪內(nèi)容表示了質(zhì)疑。
宣傳以外，是人主觀放大了問題
事實上，在人工智能屢屢成為熱門事件的今天，人們在面對相關(guān)事件時其實夾雜著一點「對科幻的向往」，無論是《終結(jié)者》里的「天網(wǎng)」還是《生化危機(jī)》里的「紅皇后」，這些科幻故事中的機(jī)器反派往往叫人又愛又恨，在聽故事之后，人們往往有一種科幻成真的幻想情節(jié)，如果現(xiàn)實中出現(xiàn)了天網(wǎng)會怎樣？這也應(yīng)該是科幻片最迷人的地方之一吧。
《生化危機(jī)》中的紅皇后；圖源
此前美國的警衛(wèi)機(jī)器人 Steve 故障「投池」就引起了好一波關(guān)注，先是在社交媒體走紅，有引起了各大媒體的報道，機(jī)器人自殺的笑話瞬間登上新聞頭條成為了熱門話題。有人認(rèn)為 Steve 工作太無聊了自殺，有人認(rèn)為巡邏散步的 Steve 思考人生時迷了路……不管怎么說，都是典型的人的思維。
警衛(wèi)機(jī)器人 Steve 落水
但從官方的調(diào)查來看，Steve 落水的原因無非是下雨天氣影響或者障礙導(dǎo)致的緊急路線變更導(dǎo)致的，說到底都是尚待修復(fù)的 bug，不僅不是機(jī)器太過智能，反而是因為不夠智能導(dǎo)致的。
但外界對此的關(guān)心其實是有主觀選擇的，大眾對機(jī)器故障毫不在乎，但如果說是「工作無聊、投池自殺」就要吸睛得多。
而人們在對待類似的問題時，往往不由自主會去放大這樣的問題，微軟聊天機(jī)器人說臟話、機(jī)器人投池自殺、Facebook 聊天機(jī)器人發(fā)明語言……一個個事件累加起來給人一種 AI 越來越失控的感覺，但這種整體的感覺只是表層的感覺，沒有事實的依據(jù)，更沒有對每個問題進(jìn)行深度的探索，加之馬斯克、霍金等大腕發(fā)聲宣揚 AI 威脅論，群眾不自覺地就會站在技術(shù)真相的對立面。
在一次內(nèi)部培訓(xùn)中，創(chuàng)新工場 AI 工程院副院長王詠剛先生就曾表示，在 Google 內(nèi)部，技術(shù)人員甚至不愿意將目前大行其道的深度學(xué)習(xí)技術(shù)稱為人工智能。在他們看來目前家家戶戶熱議的人工智能還非常初級，遠(yuǎn)遠(yuǎn)談不上智能。
人工智能近幾年在商業(yè)上的發(fā)展是爆發(fā)性的，但在技術(shù)層面上，人工智能還在按部就班地原速進(jìn)步著，我們也沒有必要因為新聞里故作玄虛的「人工故障」而驚慌失措。
對大多數(shù)人來說，我們都希望人工智能取得突破性的發(fā)展來進(jìn)一步解放人類的初級勞動，但對之寄予厚望的同時，我們也應(yīng)該多了解一下人工智能行業(yè)內(nèi)真實的科技發(fā)展情況，沒有哪一項技術(shù)能在一夜之間取得全方面的突破，這一點是我們必須認(rèn)清的。科技發(fā)展也許很快，但人的學(xué)習(xí)和適應(yīng)能力更快，請相信，在「真·人工智能」到來的那天，人類一定早已做好了準(zhǔn)備。
