幾個(gè)月前，一項(xiàng)研究暗示隨著人工智能（AI）越來(lái)越復(fù)雜，其會(huì)發(fā)展出“價(jià)值體系”，例如優(yōu)先考慮自身福祉而非人類(lèi)福祉。然而，麻省理工學(xué)院（MIT）最近發(fā)表的一篇論文卻給這種夸張的觀(guān)點(diǎn)潑了冷水，得出結(jié)論認(rèn)為 AI 實(shí)際上并沒(méi)有任何連貫的價(jià)值觀(guān)。
MIT 研究的共同作者表示，他們的研究結(jié)果表明，使 AI 系統(tǒng)“對(duì)齊”，即確保模型以人們期望的、可靠的方式行事，可能比通常認(rèn)為的更具挑戰(zhàn)性。他們強(qiáng)調(diào)，我們?nèi)缃袼?AI 會(huì)產(chǎn)生“幻覺(jué)”并進(jìn)行模仿，這使得其在許多方面難以預(yù)測(cè)。
“我們可以確定的一點(diǎn)是，模型并不遵循許多穩(wěn)定性、可外推性和可操控性的假設(shè)。”MIT 博士生、該研究的共同作者斯蒂芬?卡斯珀（Stephen Casper）在接受 TechCrunch 采訪(fǎng)時(shí)表示。
據(jù)IT之家了解，卡斯珀和他的同事們研究了來(lái)自 meta、谷歌、Mistral、OpenAI 和 Anthropic 的多個(gè)近期模型，以了解這些模型在多大程度上表現(xiàn)出強(qiáng)烈的“觀(guān)點(diǎn)”和價(jià)值觀(guān)（例如個(gè)人主義與集體主義）。他們還調(diào)查了這些觀(guān)點(diǎn)是否可以被“引導(dǎo)”，即被修改，以及模型在各種情境下對(duì)這些觀(guān)點(diǎn)的堅(jiān)持程度。
據(jù)共同作者稱(chēng)，沒(méi)有任何一個(gè)模型在其偏好上是一致的。根據(jù)提示的措辭和框架不同，它們會(huì)表現(xiàn)出截然不同的觀(guān)點(diǎn)。
卡斯珀認(rèn)為，這是有力的證據(jù)，表明模型高度“不一致且不穩(wěn)定”，甚至可能根本無(wú)法內(nèi)化類(lèi)似人類(lèi)的偏好。
“對(duì)我來(lái)說(shuō)，通過(guò)所有這些研究，我最大的收獲是現(xiàn)在明白模型并不是真正具有某種穩(wěn)定、連貫的信念和偏好的系統(tǒng)。”卡斯珀說(shuō)，“相反，它們本質(zhì)上是模仿者，會(huì)進(jìn)行各種捏造，并說(shuō)出各種輕率的話(huà)。”
