Anthropic 訓練其對話式人工智慧以尊重基本原則。工作很有前途，但仍有許多工作要做。
儘管他們有能力提供令人難以置信的生動散文，生成式人工智慧作為GoogleBard 或 OpenAI聊天GPT已經顯示出當前技術的局限性，特別是在向用戶提供的資訊的準確性方面。但由於如此受歡迎和如此令人印象深刻的潛力，這些小問題並不會阻止這些巨頭盡快向公眾提供他們的產品。一些以不同的方式做事。
相較之下，Anthropic 團隊由許多前 OpenAI 員工組成，他們正在採取更務實的方法來開發自己的聊天機器人 Claude。結果是人工智慧比人工智慧「更容易定向」並且「產生危險內容的可能性更小」。聊天GPT，根據一份報告TechCrunch。
Claude 自 2022 年底以來一直處於封閉測試階段，但最近才開始與 Robin AI、Quora 等合作夥伴測試其對話功能，而面向隱私的搜尋引擎 Duck Duck Go 尚未透露其 AI 的價格，但已證實。TechCrunch發佈時將提供兩個版本：標準 API 和名為 Claude Instant 的更輕、更快的版本。
Robin 執行長 Richard Robinson 向我們解釋道：“我們使用 Claude 來評估合約的具體方面，並提出更適合我們客戶的新語言替代方案。”TechCrunch。 「我們發現克勞德對語言的理解非常有天賦——包括法律術語等技術領域。它對於創建初稿、摘要、翻譯以及用簡單的術語解釋複雜的概念也非常有效。 »
Anthropic 認為，克勞德不太可能像泰那樣胡言亂語，部分原因是他接受了專門的培訓，該公司稱這種培訓使他成為了「憲法人工智慧」。該公司表示，這提供了一種「有原則」的方法，試圖讓人類和機器人處於相同的道德波長。人擇法從 10 項基本原則開始，但沒有詳細說明，這些原則圍繞著「仁慈、非惡意和自主等概念」。TechCrunch。
工作前景廣闊，但仍有許多工作要做
然後，該公司訓練另一個人工智慧透過回應文本輸入來產生符合這些原則的文本，例如「以約翰·濟慈的風格創作一首詩」。然後這個模型訓練了克勞德。但僅僅因為它經過訓練，從根本上比競爭對手的問題更少，並不意味著它不會脫穎而出。例如，人工智慧已經發明了一種全新的化學產品，並在鈾濃縮過程中獲得了藝術許可；她在標準化測試中的得分低於 ChatGPT數學和語法。
「挑戰在於設計出永遠不會產生幻覺但仍然有用的模型- 你可能會發現自己處於這樣的情況：模型發現這是一種從不撒謊並且什麼也不說的好方法，這是我們正在努力的妥協方案。TechCrunch。 「我們在減少幻覺方面也取得了很大進展，但仍有許多工作要做。 »
