LM Studio 本機大模型評測與硬體指南

在本機下載、測試並透過聊天、文件和 API 執行開放模型

lmstudio.ai
LM Studio screenshot

LM Studio 是一款在使用者自己的電腦下載、執行與比較語言模型的桌面應用程式。它提供聊天、文件檢索、模型參數控制、命令列,以及相容常見格式的本機 REST API。本機推理可讓提示詞、檔案與聊天記錄留在裝置,但這項隱私優勢取決於是否真正選用本機模型及本機工具;選配的雲端模型與網頁搜尋會採用不同資料路徑。

選擇電腦真正跑得動的模型

先閱讀官方系統需求,再把可用記憶體或統一記憶體、GPU 支援和剩餘磁碟空間與模型下載量比較。參數數量不等於實際記憶體需求,量化程度、上下文長度、快取與並行請求都會改變使用量。建議從較小的量化模型和適中上下文開始,關閉耗用記憶體的程式,實際測量載入時間、生成速度和記憶體,再決定是否下載更大版本。能勉強載入但經常使用交換空間的模型,日常體驗可能不理想。

準備一組不含機密的測試,讓兩個模型回答相同的事實、擷取與格式任務,記錄延遲及資源,並以原始資料核對。使用文件聊天時要打開檢索段落;流暢回答仍可能漏掉某頁、表格或掃描文字。各模型授權不同,重新散布權重、輸出或提供衍生產品前,應閱讀模型卡和授權條款。

離線執行、本機 API 與付費雲端

應用程式與模型檔下載後,本機聊天和文件工作可以斷網運作。搜尋及下載模型、取得更新、雲端推理與網頁搜尋仍需要網路。桌面應用程式隱私政策區分裝置端處理與選配雲端服務,因此輸入敏感資料前應確認目前模型和啟用的工具。

開發者可以透過 LM Studio API提供模型服務。沒有跨裝置需要時,只綁定 localhost。若開放區域網路或遠端存取,應設定驗證、防火牆與可信任用戶端;模型在本機不代表公開端點自動安全。

本機應用程式有免費層,雲端推理則依用量購買額度。費率和限制可能變動,請查看最新價格。電力、儲存與下載流量仍是使用者成本。

LM Studio 能完全離線嗎?

已下載的本機模型和檔案可以離線使用;搜尋、下載、更新與雲端功能需要網路。

LM Studio 免費嗎?

本機使用有免費層。選配雲端推理消耗已購額度,使用前應核對條款。

LightPDF部分免費
AI PDF 編輯器、轉檔與文件對話,支援 Web、桌面與行動裝置
AI生產力和文件工具人工智慧OCR工具 · 人工智慧演示生成器 · AI工作流程自動化工具 +1開啟