技术频道导航
HTML/CSS
.NET技术
IIS技术
PHP技术
Js/JQuery
Photoshop
Fireworks
服务器技术
操作系统
网站运营
Python技术
AI技术

赞助商

分类目录

赞助商

最新文章

搜索

在带有图形界面的Mac上本地安装DeepSeek

作者:admin    时间:2026-5-12 14:25:8    浏览:

在前文中,详细介绍了在带有图形界面的Windows/Linux上本地安装DeepSeek的过程步骤,本文将继续介绍在带有图形界面的Mac上本地安装DeepSeek。

Mac上本地安装DeepSeek

运行DeepSeek-R1所需的硬件要求

本地运行 DeepSeek-R1 需要性能强的显卡,理想情况下是 NVIDIA 显卡,显存(12GB+)以保证良好的速度,至少需要16GB至32GB的系统内存和快速的NVMe存储。对于较小型号(7B/14B),16GB+内存和3060/4060显卡即可使用,而较大的32B+型号则需要24GB+显存(例如RTX 3090/4090)。

硬件需求分解:

  • 显卡(关键):强烈推荐使用NVIDIA显卡支持CUDA。
  • 最低配置(7B/14B):8GB–12GB 显存(例如RTX 3060,4060 Ti)。
  • 推荐(32B):24GB 显存(例如 RTX 3090、4090)。
  • Mac:Apple Silicon M1/M2/M3,配备至少16GB统一内存(32GB+优先)。

系统内存:

  • 最低容量:16GB(小型号)。
  • 推荐:32GB–64GB+(以避免瓶颈并应对更大机型)。

存储容量:

  • 512GB–1TB NVMe SSD。型号范围从4GB到超过20GB。

CPU:

  • 现代AMD Ryzen 5/7或Intel Core i5/i7。

在Mac上本地安装DeepSeek

Mac面临的挑战包括:

  • DeepSeek 型号需要 CUDA(NVIDIA GPU),而苹果硅片不支持该 CPU。
  • 你需要使用 金属性能着色器(MPS) 或 基于CPU的推理 ,而不是CUDA。
    没有专用显卡,性能会慢很多 。

步骤1:安装自制软件和依赖系统

如果你还没安装 Homebrew,请先安装:

/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"

该命令安装 Homebrew,一个适用于 macOS 和 Linux 的包管理器,简单来说,它的作用如下:

  • /bin/bash -c: 在 Bash 壳内运行命令。
  • $(...):在括号内执行命令。
  • curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh: 从 GitHub 下载 Homebrew 的安装脚本并运行。

本质上,这个命令会自动获取并运行 Homebrew 安装脚本,使得安装 Homebrew 变得轻松,无需手动步骤,详细安装过程请看文章如何在Linux安装Homebrew包管理器

然后,安装所需的依赖:

brew install cmake protobuf git-lfs

该命令可通过 Homebrew 在 macOS 或 Linux 上安装 CMake、Protobuf 和 Git LFS。每个部件的作用如下:

  • brew install:使用自制软件安装软件包。
  • cmake: 一个帮助生成编译软件构建文件的工具。
  • protobuf: 代表协议缓冲区,用于序列化结构化数据,常用于机器学习和 API。
  • git-lfs: 是 Git 大型文件存储的缩写,帮助管理 Git 仓库中的大型文件。

该命令确保这些关键开发工具被安装。

第二步:搭建虚拟环境

创建虚拟环境以避免冲突:

python3 -m venv deepseek_env
source deepseek_env/bin/activate
pip install --upgrade pip

步骤3:安装DeepSeek模型和vLLM

DeepSeek 与支持 macOS 上金属性能着色器(MPS )的 vLLM 配合效果最佳 :

pip install vllm torch transformers accelerate

该命令使用 pip 安装多个 Python 包,pip 是 Python 的包管理器。每个部件的作用如下:

  • pip install安装 Python 库。
  • vllm:一款高效运行大型语言模型的高性能推理引擎。
  • torch:核心PyTorch库,用于深度学习和神经网络计算。
  • transformers:Hugging Face 提供的库,用于处理像 GPT 和 Deepseek 这样的预训练模型。
  • accelerate:优化深度学习模型执行,实现高效的多GPU和混合精准训练。

该命令确保你拥有高效运行AI模型所需的所有工具。

然后,安装DeepSeek模型:

pip install deepseek-ai

步骤4:运行MPS(苹果硅片)的DeepSeek模型

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_id = "deepseek-ai/deepseek-coder-6.7B"
device = "mps" if torch.backends.mps.is_available() else "cpu"

tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id).to(device)

prompt = "Explain the theory of relativity in simple terms."
inputs = tokenizer(prompt, return_tensors="pt").to(device)
outputs = model.generate(**inputs, max_length=100)

print(tokenizer.decode(outputs[0], skip_special_tokens=True))

这个 Python 脚本加载并运行 DeepSeek-Coder 6.7B,这是一个用于文本生成的 AI 模型。以下是详细说明:

1. 导入必要的库

  • transformers: 处理模型和分词器加载。
  • torch:用于张量计算和硬件加速。

2. 搭建型号和设备

  • model_id: 规定了DeepSeek-Coder模型。
  • device:如果有,使用Apple Silicon的MPS(金属性能着色器),否则默认使用CPU。

3. 加载 Tokenizer 和 Model

  • 分词器将文本转换为模型能理解的格式。
  • 模型被加载到指定的设备上。

4. 处理输入并生成输出

  • 输入提示“Explain the theory of relativity in simple terms.”被分牌化。
  • 模型根据输入生成文本。

5. 解码与打印输出

  • 输出从标记转换回人类可读文本并显示。

该脚本允许在本地硬件上进行基于文本的AI推理,使其在代码完成、内容生成等方面非常有用。

步骤5:安装并运行图形界面

为了获得 易用界面,安装 文本生成Web UI:

git clone https://github.com/oobabooga/text-generation-webui.git
cd text-generation-webui
pip install -r requirements.txt

然后,运行界面:

python server.py --model deepseek-ai/deepseek-coder-6.7B --device mps

现在,在浏览器中打开 https://localhost:5000 与DeepSeek交互。

该命令启动一个运行 DeepSeek-Coder 6.7B 进行推理的 Python 服务器。

  • python server.py: 运行脚本server.py,这很可能启动 API 或推理服务器。
  • --model deepseek-ai/deepseek-coder-6.7B: 规范了DeepSeek-Coder 6.7B模型用于处理请求。
  • --device mps:运行该模型于苹果硅芯片的MPS上进行硬件加速。

这种设置允许通过API或本地接口提供AI生成的响应。

DeepSeek 实现常见问题排查

1. CUDA 内存不足错误

  • 减少批量。
  • 启用梯度检查点。
  • 用上torch.cuda.empty_cache()

2. 推理性能慢

将模型转换为TorchScript以优化推理:

scripted_model = torch.jit.script(model)

使用 ONNX 运行时加速推理:

pip install onnxruntime

哪种配置最适合你?

  • Mac(Apple Silicon):使用 MPS配合vLLM 和 文本生成Web UI 或 LM Studio。
  • Mac(Intel):使用 CPU推理 (较慢)或运行于 Docker Linux环境。

在本地机器上部署DeepSeek,相比云端解决方案,专业人士拥有更多的灵活性、隐私和定制性。最后有几点需要注意

  • 本地运行 DeepSeek需要大量资源。
  • 为了最佳性能, 建议使用 带CUDA的NVIDIA显卡 。
  • 在Mac上运行, MPS是CUDA的最佳替代方案,但性能会更慢。

总结

本文详细介绍了在带有图形界面的Mac上本地安装DeepSeek的过程步骤,本指南涵盖了你需要了解的硬件需求、优化设置。

相关文章

标签: DeepSeek  
本站声明:本站为非经营性网站,文章内容来源或整理于网络,本站不提供软件下载服务,侵删联系:webkaka#foxmail.com
x