根據《華爾街日報》報道，OpenAI 已經有了這樣的工具，但仍不願透露。
長話短說
- OpenAI 正在開發一種工具來檢測由聊天GPT。
- 該工具的部署引發了 OpenAI 的內部爭論。
- 考慮到對生態系統的潛在影響，該公司正在謹慎行事。
《華爾街日報》近日報道稱OpenAI 正在研究能夠檢測由以下內容產生的文本的技術：聊天GPT, 一個人工智慧複雜的。然而，關於是否部署該工具的爭論推遲了其公開亮相。
技術已準備就緒，但尚未透露
OpenAI 承認它已經開發了一種方法“文字標記”作為其研究活動的一部分。由於公司內部爭論的原因，這項即用型技術尚未公開。 《華爾街日報》表示，保留該工具是由於對該工具是否應向公眾開放的討論。
科技的影響
OpenAI 也透露，文字標記是正在考慮的解決方案之一。然而，這種方法雖然“高度精確”在某些情況下，在存在某些形式的操作的情況下，不會給出相同的結果，特別是使用翻譯系統、透過其他生成模型重寫、在每個單字之間插入特殊字元然後將其刪除。此外，OpenAI 對文字標記的過度使用表示擔憂，這可能會產生社會影響，例如污衊人工智慧作為非英語國家的寫作工具。
謹慎的態度
面對這些挑戰，公司採取了“刻意的做法”。 OpenAI 發言人在給 TechCrunch 的聲明中解釋說，考慮到所涉及的複雜性以及對 OpenAI 之外的技術生態系統的潛在影響，該公司非常重視文本來源問題。與其急於發布其文字檢測工具，開放人工智慧選擇優先發布視聽內容的身份驗證工具，以表明其希望考慮其技術創新的所有影響。
