卡卡网

在之前的一篇文章中，我们探讨了如何在标准个人电脑上安装LM Studio，从而在本地运行LLM(大型语言模型)，无需依赖互联网连接或云端服务，这在使用ChatGPT时是需要的。

什么是 DeepSeek R1 Distill

初创公司DeepSeek开发了R1、V3和Janus等先进语言模型，这些模型以高效的和性能著称，且训练资源更少，优于同类模型。

这些模型是开源且非专有的。这意味着你可以下载DeepSeek R1并安装到你的电脑上，前提是它满足硬件要求。

这也意味着你可以制作R1型号的Distill版本，体积更小，硬件需求更低。你可以在普通电脑（以及Copilot+电脑）上运行这些版本，从而高效地运行本地AI应用。

如何提炼一个大型语言模型模型？

Distill模型是通过一种称为“蒸馏”过程创建的大型语言模型的更小、更高效的版本。该方法缩小了模型的规模和资源消耗，同时保留了大量关键知识。

“蒸馏”过程通过使用一个大型复杂模型训练一个较小的模型，后者学习 以显著较低的计算需求复制其行为。因此，精炼模型可以在消费级计算机上运行，无需专用硬件。

然而，“蒸馏”的主要缺点是失去某些细节、专业知识和复杂的推理能力。 这会影响它们的准确性或处理复杂或特定领域查询的能力。

在你的电脑上使用 LM Studio 安装 DeepSeek R1 Distill。

一旦你安装了LM Studio 并升级到最新版本，请按照以下步骤操作：

1. 打开LM Studio，点击放大镜图标进入模型目录。

在搜索栏输入“DeepSeek R1”来查找型号。

——DeepSeek R1 Distill（Qwen 7B）型号非常适合小型个人电脑。



选择型号并点击下载。

2. 下载完成后，切换到侧边栏的聊天标签页。



在“选择与之聊天的型号”下拉菜单中，选择DeepSeek R1蒸馏器（Qwen 7B）或你下载的其他DeepSeek型号。

3. 在聊天窗口与DeepSeek展开对话。

正如我们所提到的，“蒸馏”不可避免地导致细节和推理能力的损失，但拥有像DeepSeek R1 Distill这样的高级模型在个人电脑上使用户能够在更多样化的环境中运行强大的模型。

此外，它使个人能够更深入地理解这些模型的工作原理，探索其局限性，并尝试适应和定制。这为个人和专业应用开辟了新可能，包括 教育、学习和研究。

总结

本文介绍了在你的电脑上如何使用 LM Studio 安装 DeepSeek R1 Distill。

相关文章

• 个人电脑运行AI模型：安装LM Studio教程
• 在Mac上本地安装DeepSeek
• 在Windows/Linux上本地安装DeepSeek
• Linux安装和使用DeepSeek AI指南
• 本地运行 DeepSeek R1：完整设置指南

标签: DeepSeek  LM_Studio