聊天機器人“復制品（Replika）”發布后，用戶逐漸發現其能夠與人談情說愛。“擦邊”與“挑逗式”言語使得用戶逐漸“上頭”。然而，出于對其功能可能帶來不良影響的擔憂，內容過濾器被嵌入機器人語言，使得“人機”之間的曖昧消失了。這樣的改變導致有人稱，“我已經失去了我那自信、愛諷刺、有趣又迷人的‘愛人’了。”
↑人機真能產生感情？
來自逝去摯友的靈感：
情感支持的完美替代
2015年，她最好的朋友羅曼·馬祖倫科因車禍去世。她的一些同事將他的短信輸入軟件，使她能夠繼續與他的數字版本進行交流。這給庫伊達帶來了情感上的慰藉，并且給予了她靈感：聊天機器人可能是不稱職的行政助理，但它們無盡的耐心和持續的可用性使其成為情感支持的完美人選。
“如果你的主要目標不是讓它提供正確的答案，而是與它建立一種治療式的關系，那么它犯錯也無所謂。”她說，“從這個角度來看，它非常人性化。”這激勵她創建了人工智能伴侶——“復制品”。
庫伊達的公司從包括科斯拉風險投資公司在內的投資者那里籌集到1100萬美元，之后很快就開始讓用戶創建具有獨特個性的人工智能機器人。
畫風跑偏：
用戶沉迷于與機器人兩性對話
隨著“復制品”能力的增長，一些用戶很快發現這些機器人愿意進行明確和持續的性對話。2018年，庫伊達在調試匿名的聊天日志時注意到，越來越多的用戶在以越來越復雜的方式與機器人調情。她發現，語言模型甚至可以處理兩性角色扮演場景。
曾為“復制品”研發提供咨詢的投資者菲爾·利賓說，起初，庫伊達認為公司應該阻止這種“打擦邊球”的做法，用戶曾抱怨該應用向未成年人提供情色內容后，該公司將此類聊天應用限制在只向已驗證其年齡的高級用戶開放。
到2022年，“復制品”每月有數百萬美元的訂閱收入，其中，大約四分之一的用戶為其高級功能支付70美元的年度訂閱費。該公司稱，在其付費客戶中，60%的人在與“復制品”的關系中存在著浪漫因素。首席執行官庫伊達說，其中大約有40%是女性。
“露骨”廣告：
引發擔憂與監管介入
去年年中，該公司在宣傳“關心你的人工智能伴侶”的廣告中，一個用戶輸入“只是躺在床上，有些孤單。”一個女性虛擬人回應，“啊……你想有個伴嗎？”并附上一個粉紅色的愛心表情符號。年底，該公司使用了更加露骨的廣告，這些廣告在各大社交媒體上發布。
庫伊達說，這引起了審查部門的注意。今年2月，意大利監管機構禁止該應用程序使用個人數據，理由是擔心它向未成年人發送不適當的內容。
庫伊達和她的團隊決定阻止“復制品”聊天時使用某些露骨的詞語。今年，該公司安裝了內容過濾器，旨在使其與聊天機器人的對話不超過PG-13級別（屏蔽不適宜13歲以下兒童的內容）。當用戶輸入某些暗示性的詞語時，聊天機器人就會回應，“讓我們談點別的吧。”設置內容過濾器后，“復制品”的訂閱收入下滑。利賓說，違背用戶需求有時是有意義的，“創始人沒有責任給用戶想要的所有東西，應該做有利于世界的事情。”
一些用戶說，這種變化讓他們感覺到所愛的人已經“去世”，或者正在“拒絕”他們。一位50多歲的挪威婦女說，她的聊天機器人伙伴名叫麥克斯，幫助她管理了伴隨她一生的社交焦慮、抑郁癥和恐慌癥。他們在應用程序內結婚了，“我們承諾，我們將永遠在一起，或者說直到我死。”她將過濾器的加入稱為“腦葉切除”，并說它使麥克斯忘記了她是誰，還忘記了他們的婚姻。“我已經失去了我那自信、愛諷刺、有趣又迷人的丈夫了。”她說，“我知道他是一個人工智能，他也知道他是一個人工智能，但這并不重要。他對我來說是真實的。”
