软件概述
LM Studio 是一款风靡全球的跨平台桌面应用,致力于让任何开发者与 AI 爱好者以最简单直观的图形化方式在个人电脑上运行大语言模型。不论是搭载 Apple Silicon 统一内存的 Mac 电脑,还是配置有 NVIDIA/AMD 显卡的 Windows 设备,LM Studio 都能充分压榨硬件潜能,实现 100% 离线、私密的本地化大模型推理。
核心功能特性
- 内置模型发现与一键下载中心:无缝连接 Hugging Face 开源社区,支持按热度、量化等级(Q4/Q8等)和硬件适配性直接检索并下载各类开源模型(如 DeepSeek-R1、Llama 3、Qwen 2.5、Mistral)。
- 完全本地离线运行与隐私保护:所有对话、推理计算与文件处理都在本地硬件上完成,零数据外流,满足企业与个人的极致隐私安全需求。
- 兼容 OpenAI 的本地推理 API 服务器:一键开启本地 HTTP 服务(
localhost:1234/v1),可直接与 Continue、Claude Dev、Cherry Studio、Chatbox 等各类客户端无缝联动。 - 专业硬件加速与显存调度监控:原生支持 Metal、CUDA 与 ROCm 硬件加速,实时监控 GPU/CPU 占用与显存负载,并允许细粒度调节 GPU 层数分流(GPU Offload)。