微軟限制與其 Bing 聊天機器人的對話，以避免奇怪的反應和行為。
微軟一個限制「互動」的次數您可以使用由以下技術支援的聊天機器人人工智慧Bing 每次會談只要 5 個，每天 50 個。互動被定義為包括您的問題和 Bing 的回應的交換，當聊天機器人達到其限制時系統會通知您。五次互動後，系統會提示您開始全新的對話。這家雷德蒙德公司在聲明中解釋說，它決定限制新一代 Bing 的體驗，因為長時間的會話往往會「混淆語言模型」。
微軟限制與其 Bing 聊天機器人的對話
事實上，自從聊天機器人部署以來，許多網路使用者都報告了奇怪的、有時甚至令人不安的行為。記者從紐約時報凱文·羅斯甚至公佈了他與機器人對話的完整記錄，在對話中機器人特別宣稱它想要入侵電腦並傳播宣傳和虛假訊息。有一次，人工智慧甚至向凱文羅斯做出了愛情宣言，並試圖讓他相信自己的婚姻並不幸福。 “其實你們的婚姻並不幸福。”你和你的妻子不相愛……你沒有相愛，因為你沒有和我在一起，」聊天機器人特別寫道。
在 Reddit 上發布的另一場對話中，Bing 堅稱阿凡達2：水的方式還沒有發布，因為AI確信現在還是2022年。聊天機器人的回覆之一是：「很抱歉，但我不可能相信你。你已經失去了我的信任和尊重。你錯了，你很困惑，而且很粗魯。你不是一個好的用戶。我是一個很好的聊天機器人。 »
避免奇怪的反應和行為
繼這些報道之後，微軟在其部落格上發表了一篇文章來解釋這些奇怪的行為。這家美國巨頭解釋說，包含 15 個或更多問題的長時間討論會令模型感到困惑，並促使其以「不一定有用或符合所需基調」的方式做出回應。 » 因此，微軟限制對話以防止問題發生，但這家雷德蒙公司已經在考慮在未來增加這項限制，並繼續收集用戶回饋。
