软件介绍
DeepSeek 是一款由深度求索官方开发的 AI 助手,用户可以通过它与全球领先的 AI 模型进行互动交流。其 API 格式与 OpenAI 兼容,使用起来非常方便。LM Studio 则是一个专注于本地部署大语言模型(LLM)的平台,旨在简化 LLM 的使用和管理。它支持离线运行模型,并提供直观的界面,方便用户进行文本生成、模型微调和文档交互。
LM Studio 兼容 Mac、Windows 和 Linux 系统,支持在本地运行多种大模型,如 Llama 3.2、Mistral、Phi、Gemma、DeepSeek 和 Qwen 2.5。它还支持 OpenAI 本地服务器,并提供中文界面,方便更多用户使用。
LM Studio Mac版下载
主要功能
这是一个桌面应用程序,专门用于在本地运行大语言模型。
它提供了一个用户熟悉的聊天界面,操作起来非常顺手。
通过 Hugging Face,用户可以轻松搜索和下载所需的模型。
它还具备本地模型和配置管理功能,方便用户统一管理。
主要特点
离线运行:用户可以在本地设备上运行模型,无需依赖云端服务器。
本地文档聊天:新版本增加了与本地文档互动的功能,用户可以直接从文件中提取信息。
兼容性强:支持与 OpenAI 兼容的本地服务器,以及多种流行的大语言模型。
Hugging Face 集成:用户可以直接从 Hugging Face 仓库下载兼容的模型文件。
模型发现:通过应用中的 Discover 页面,用户可以探索新的、值得关注的大语言模型。
使用教程
第一步,下载 LM Studio 客户端,打开安装程序,选择“仅为我安装”。
第二步,选择一个空间充足的盘作为目标文件夹,这样后续的模型可以统一存放,便于管理。注意:文件夹名称必须使用英文!
第三步,点击下一步完成安装,桌面上会出现 LM Studio 的图标。
第四步,打开客户端,点击右下角的设置,将语言切换为“简体中文”。
模型存放及部署设置
第一步,下载 Deepseek-R1 模型文件,注意不能随意存放。打开客户端,选择“模型目录”,然后点击“更改”。
第二步,在 D 盘新建一个文件夹,命名为 models000,注意文件夹名称不能包含符号或中文。
第三步,在 models000 下新建文件夹 001,再在 001 下新建文件夹 002,将下载的 R1 模型文件复制到 002 文件夹中。
第四步,回到 LM Studio 的模型目录,可以看到刚刚复制的模型文件。
第五步,点击聊天界面,选择模型加载按钮。
第六步,选择模型后点击加载,等待完成。可以选择添加“快速注意力”功能。
用户评论