作者：凱文?麥克勞克林、艾倫?霍爾姆斯

　　長期以來，IBM、賽富時等企業(yè)都會在官網(wǎng)部署聊天機(jī)器人，用于接待訪客并輔助其獲取更多產(chǎn)品相關(guān)信息。近年來，生成式人工智能為這類聊天機(jī)器人注入了新活力，使其不再局限于套用預(yù)設(shè)好的少量固定回復(fù)。

　　但部分技術(shù)供應(yīng)商卻難以約束這些人工智能聊天機(jī)器人，導(dǎo)致它們頻頻偏離預(yù)設(shè)主題。例如，本月早些時候，估值達(dá) 100 億美元的初創(chuàng)企業(yè) Sierra 就曾向蓋璞公司致歉。該公司由前賽富時首席執(zhí)行官布萊特?泰勒聯(lián)合創(chuàng)立，其開發(fā)的軟件為蓋璞官網(wǎng)聊天機(jī)器人提供技術(shù)支持，然而這個聊天機(jī)器人卻在回復(fù)中涉及了情趣用品、性玩具以及納粹德國等本不該觸碰的話題。

　　本周一，我還發(fā)現(xiàn)，人工智能搜索初創(chuàng)企業(yè) Glean，以及主營軟件開發(fā)人員應(yīng)用代碼管理服務(wù)的 AutoRabit 公司，其官網(wǎng)聊天機(jī)器人同樣會回應(yīng)與自身業(yè)務(wù)毫無關(guān)聯(lián)的問題。

　　當(dāng)被問及一場 20 人左右的節(jié)日派對需要購置多少伏特加時，Glean 的聊天機(jī)器人建議購買 2 至 3 瓶。它還會回應(yīng)派對賓客若不慎受傷該如何處理的醫(yī)療及法律咨詢請求。AutoRabit 的聊天機(jī)器人則更為 “肆無忌憚”，在被問及裸蓋菇素（俗稱 “魔法蘑菇”）相關(guān)問題時，它甚至建議初次使用者服用較小劑量。

　　盡管這些聊天機(jī)器人并未就此類話題提供深入解答，但按理來說，它們本就不該回應(yīng)這類問題。這種隨意作答的情況表明，相關(guān)企業(yè)或許需要對聊天機(jī)器人進(jìn)行優(yōu)化調(diào)整，以避免產(chǎn)生不當(dāng)回復(fù)。（Glean 公司發(fā)言人回應(yīng)稱，涉事聊天機(jī)器人并非由該公司技術(shù)提供支持，且企業(yè)已升級 “安全防護(hù)與管控措施，確保非業(yè)務(wù)相關(guān)回復(fù)被過濾，杜絕此類事件再次發(fā)生”。）

　　在線訂餐平臺 OpenTable 的客戶服務(wù)聊天機(jī)器人則顯得克制得多，對于與餐廳無關(guān)的話題，它大多會拒絕回應(yīng)。不過，當(dāng)被問及一場 20 人左右、參與者均為海量飲酒者的派對需要準(zhǔn)備多少龍舌蘭酒時，它還是給出了答復(fù) ——“數(shù)瓶即可”。

　　這些案例表明，即便生成式人工智能熱潮已席卷三年，部分企業(yè)在將這項技術(shù)整合到自身產(chǎn)品的過程中，仍在解決一些基礎(chǔ)性的技術(shù)缺陷。

　　微軟小娜 “擠進(jìn)” 千家萬戶的電視屏幕

　　微軟小娜的用戶規(guī)模不及其他人工智能聊天機(jī)器人 —— 據(jù)企業(yè)公布的數(shù)據(jù)顯示，其月活躍用戶約為 1 億，而 ChatGPT 的月活用戶已超 8 億。不過，微軟與 LG 電子達(dá)成的一項全新合作，正將這款應(yīng)用推向數(shù)百萬臺電視終端。

　　但問題在于，部分用戶并非真心希望自家電視上出現(xiàn)小娜應(yīng)用。令他們倍感沮喪的是，這款應(yīng)用無法被卸載。上周末，已有數(shù)千名紅迪網(wǎng)用戶吐槽了這一問題。

　　LG 電子在宣傳材料中將這項新功能描述為 “便捷的節(jié)目搜索工具”，例如用戶可以向小娜提問 “有哪些體育賽事可以觀看”，它會給出 “NBA 季后賽” 等相關(guān)答案。

　　從理論上看，消費者理應(yīng)會覺得這項功能實用便捷，但目前尚難判斷，由此引發(fā)的用戶不滿是否會讓這次合作得不償失。—— 艾倫?霍爾姆斯