速看：Bard 聊天機器人稱自己“已經(jīng)被谷歌關(guān)閉”，消息來源竟是網(wǎng)友編的帖子
2023-03-22 20:36:29|
來源：IT之家 作者：
(資料圖)
IT之家 3 月 22 日消息，谷歌昨天剛剛向英國和美國用戶開放了旗下聊天機器人 Bard，基于谷歌 LaMDA 通用語言預(yù)訓(xùn)練大模型的輕量級優(yōu)化版本，但是這款機器人在公開測試的第一天就出現(xiàn)了一個尷尬的錯誤，有用戶問它多久會被谷歌關(guān)閉，它錯誤地回答稱自己已經(jīng)被谷歌關(guān)閉了。
聊天機器人的回答出現(xiàn)事實錯誤并不新鮮，這也是目前此類大語言模型的主要問題之一，而且谷歌昨天也直截了當(dāng)?shù)卣f Bard 的回答將包含事實錯誤，那為什么還報道這個消息呢？并不是要故意挑 Bard 的毛病，而是這個錯誤比較有意思。
原來，Bard 的這個錯誤回答的消息來源是一個網(wǎng)友在 Hacker News 上開玩笑的帖子，他調(diào)侃稱谷歌會在一年內(nèi)關(guān)閉 Bard，過去谷歌確實關(guān)閉了很多自家的服務(wù)。Bard 沒有理解這個帖子的語境和幽默感，把它當(dāng)作事實分享給了用戶。
谷歌也承認(rèn) Bard 會包含一些事實錯誤，因為它是從網(wǎng)上獲取信息的，微軟的新必應(yīng)也有類似的問題。這個問題是基于大語言模型（LLMs）的人工智能所面臨的最大挑戰(zhàn)之一，隨著時間的推移，谷歌和微軟都會改進獲取信息的過程，但偶爾還是會出現(xiàn)一些問題。此外，Bard 還處于預(yù)覽階段，所以還需要經(jīng)過更多的公眾測試。
不過IT之家認(rèn)為，如何讓這些聊天機器人更好地辨別虛假消息，是這些科技巨頭需要嚴(yán)肅考慮的問題。
標(biāo)簽：
