LM Studio 本地大模型评测与硬件指南

在本机下载、测试并通过聊天、文档和 API 运行开放模型

lmstudio.ai
LM Studio screenshot

LM Studio 是一款在用户自己的电脑上下载、运行和比较语言模型的桌面应用。它提供聊天、文档检索、模型参数控制、命令行,以及兼容常见格式的本地 REST API。本地推理可以让提示词、文件和聊天记录留在设备上,但这种隐私优势取决于是否真正选择了本地模型与本地工具;可选的云端模型和网页搜索会走不同的数据路径。

选择机器真正跑得动的模型

先查看官方系统要求,再把可用内存或统一内存、GPU 支持和空余磁盘与模型下载量进行比较。参数量不等于实际内存需求,量化等级、上下文长度、缓存和并发请求都会改变占用。建议从较小的量化模型和适中的上下文开始,关闭占内存的应用,实际记录加载时间、生成速度和内存,再决定是否下载更大版本。能够勉强载入但频繁使用交换空间的模型,日常体验可能很差。

准备一组不含机密信息的测试,让两个模型回答相同的事实、提取与格式任务,记录延迟和资源,并用原始资料核对结果。使用文档聊天时,要打开被检索到的段落;流畅的回答仍可能漏掉某页、表格或扫描文字。不同模型的许可也不同,在重新分发权重、输出或基于模型提供产品之前,应阅读模型卡与许可证。

离线运行、本地 API 与付费云端

应用和模型文件下载完成后,本地聊天与文档工作可以断网运行。搜索和下载模型、获取更新、云端推理及网页搜索仍需要网络。桌面应用隐私政策区分了设备端处理和可选云服务,所以输入敏感内容前,应确认当前模型与已启用工具。

开发者可以通过 LM Studio API提供模型服务。没有跨设备需求时,应只绑定 localhost。若开放局域网或远程访问,需要配置身份验证、防火墙和可信客户端;模型在本地,并不代表暴露的端点自动安全。

本地应用提供免费层,云端推理按用量购买额度。费率和限制会变化,请查看最新价格页。电费、存储空间和下载流量仍是用户成本。

LM Studio 能完全离线吗?

已经下载好的本地模型和本地文件可以离线使用;搜索、下载、更新和云功能需要联网。

LM Studio 免费吗?

本地使用有免费层。可选云推理消耗购买的额度,使用前请核对当前条款。

LightPDF免费+付费
AI PDF 编辑器、转换器与文档对话,覆盖 Web、桌面与移动端
AI 效率与文档工具AI OCR 工具 · 人工智能演示生成器 · AI工作流程自动化工具 +1访问
Z.ai免费+付费
基于 GLM 的网页 AI 助手,支持聊天、文件、幻灯片、应用原型与 Agent 任务。
AI 助手与聊天机器人AI 编程助手 · AI 应用生成器 · 人工智能演示生成器访问