如何在電腦上本地運行生成式人工智慧?現在的操作相對簡單,儘管您需要有一台相當高效的機器才能正確利用它。
您可能已經測試了一個或多個引擎。生成式人工智慧作為聊天GPT或谷歌巴德。儘管這些雲端工具很受歡迎,但也可以將它們安裝在您自己的電腦上。透過這樣做,您可以獲得保密性,並且不必擔心無法使用。您仍然需要知道如何繼續。
首先,您需要一個程式來運行人工智慧,並且需要一個大型語言模型(LLM)來產生回應。這些法學碩士是文本產生器的基礎。 GPT-4是最新的,落後的聊天GPT,Google 最近部署了 Gemini,支援 Google Bard。如果您從未聽說過 LLM,這裡有一個簡單的解釋。法學碩士接受大量數據的培訓,並學習識別單字和句子之間的關係。換句話說,法學碩士是先進的自動校正引擎。他們並不真正「知道」任何東西,但他們知道單字應該如何組合在一起才能聽起來自然且有意義。從較高的層面來看,結果似乎是完全真實的。顯然比這更複雜,但這就是整體思路。
要經營自己的法學碩士,您不需要是一家大公司或其他任何東西:有幾個可供公眾使用的,包括 Meta's、LLaMa;其他是由研究人員和志願者開發的。總的想法是,如此容易獲得的法學碩士有助於創新並提高該主題的透明度。
在本指南中我們將使用LM工作室向您展示 LLM 的本機安裝。這是目前最好的選擇之一。免費使用並可在視窗、macOS 和 Linux。
第一步是從官網下載LM Studio並檢查所需的最低配置:使用LLM需要大量資源。您將需要一台支援 AVX2(最新機器)的 Windows 或 Linux 電腦或具有 Apple Silicon 晶片的 MacmacOS建議使用 13.6 或更高版本以及 16 GB RAM。在 PC 上,您至少需要 6 GB 的 VRAM。
軟體啟動後,您需要找到LLM來下載和使用。 LM Studio 最好的事情之一是它在主螢幕上向您推薦有趣的法學碩士。另外,如果您不知道,可以從此列表中進行選擇。
您會找到各種規模、複雜程度、資料來源、目標和速度的法學碩士。請毫不猶豫地搜尋網路以了解每個的具體情況。 LLM 的重量可達數 GB。
如果您在主畫面上看到您感興趣的法學碩士,請按一下「下載」。否則,您必須搜尋 URL 或將 URL 貼到頂部的文字方塊中。您將能夠看到每個法學碩士的規模和最後更新日期。您也可以過濾結果以查看下載最多的結果。
您可以根據電腦允許的數量安裝任意數量的 LLM,但如果您的系統上至少有一個,它將出現在「我的範本」面板中(點擊左側的資料夾圖示即可存取它)。從那裡您將能夠看到每個已安裝模板的資訊、檢查更新和刪除模板。
要開始生成文本,請透過左側的語音氣泡圖示開啟聊天面板。在頂部選擇要使用的模板,然後在底部的文字方塊中輸入提示。按 Enter 鍵。輸出結果將與其他法學碩士非常相似。
在右側,您可以控制許多與LLM相關的參數,例如如何處理長響應、將計算委託給GPU或管理“預先提示”,以告訴LLM始終以特定的方式響應例如,風格或語氣。
點擊左側的“新聊天”按鈕開始新對話,如果您需要返回舊聊天,可以在下面找到它們。產生回應完成後,您可以截圖、複製文字或使用相同的提示產生新回應。
現在你就擁有了!您擁有在本地使用法學碩士的所有基礎。 LM Studio 是一個非常好的入門點,如果您是一個完全的初學者,那麼它非常簡單。