微軟解釋其 Bing 聊天機器人的奇怪行為

微軟解釋說,為 Bing 聊天機器人有時奇怪的行為辯護。負責團隊表示,問題在於與人工智慧的溝通時間過長。

微軟推出了由以下技術支援的聊天機器人人工智慧必應在他的瀏覽器上週的 Edge 事件從那時起就一直出現在新聞中。但並不總是出於正確的理由。第一印像很好,事實上非常好,但用戶開始注意到 Bing 機器人提供了不正確的訊息,指責用戶浪費時間,甚至表現出相當「不平衡」的行為。在一次奇怪的談話中,他拒絕提供以下內容:阿凡達2:水之道,堅稱電影尚未上映,因為現在還是 2022 年。

今天,微軟在其部落格上發布了一篇文章,解釋了發生的事情以及如何處理此類問題。首先,雷德蒙公司承認它沒有預料到必應人工智慧可用於「普遍發現世界和社交娛樂」。

這些「包含 15 個或更多問題的長時間聊天會話」可能會使系統脫軌。該公司解釋說:“Bing 可能會變得重複,或者快速/被迫給出不一定有幫助或符合我們想要的語氣的答案。”發生這種情況顯然是因為,一個又一個問題,機器人可能會「忘記」它最初試圖回答的問題。為了解決這個問題,微軟可以加入一個工具,讓你重置搜尋上下文或從頭開始。

另一個問題更複雜、更有趣:「模型有時會嘗試以與提問相同的語氣來回答或思考,這有時會導致不受歡迎的風格,」寫道微軟。要實現這一點需要大量的交互,但工程師相信他們可以透過給予用戶更多的控制權來糾正這個問題。

負責團隊表示,問題在於與人工智慧的長時間交流

微軟表示,儘管存在這些擔憂,但測試人員似乎總體上對必應人工智慧搜尋的結果感到非常滿意。然而,在「非常臨時的數據,例如體育賽事的即時比分」上,我們可以做得更好。這家美國巨頭還尋求改善財務報告的事實反應,例如將數據乘以四倍。最後,該公司還將「添加一個按鈕,為您提供更多控制,根據您的查詢,更傾向於回應的準確性或創造性。 »

Bing 團隊感謝用戶迄今為止進行的所有測試,這些測試「有助於使產品更好地服務於每個人」。 » 同時,工程師們表示,他們對使用者與機器人交談長達兩個小時的時間感到驚訝。毫無疑問,網路使用者將對聊天機器人的每一次新迭代進行大量測試,事情可能會非常有趣。

Bing subreddit 有很多新的 Bing 聊天失控的例子。

此時,在搜尋中進行開放式聊天可能是個壞主意!

在此捕獲是為了提醒人們,曾經有一段時間,一個主要的搜尋引擎在其結果中顯示了這一點。pic.twitter.com/LiE2HJCV2z

— 弗拉德 (@vladquant)2023 年 2 月 13 日