技术频道导航
HTML/CSS
.NET技术
IIS技术
PHP技术
Js/JQuery
Photoshop
Fireworks
服务器技术
操作系统
网站运营
Python技术
AI技术

赞助商

分类目录

赞助商

最新文章

搜索

Linux安装和使用DeepSeek AI指南(详细图文)

作者:admin    时间:2026-5-12 11:50:5    浏览:

DeepSeek R1 最近因其先进的推理能力而声名鹊起。从隐私角度看,能够完全离线运行AI模型(且资源有限)是一大优势。

通过本地处理数据,组织可以将敏感或受监管的信息保存在本地,降低数据泄露的风险。在这篇文章中,我将在Linux系统上搭建DeepSeek,使用图形界面进行交互,并将其集成到Python脚本中。

1. 在WSL上安装CUDA

根据你的设置,你可以直接进入本文的第二部分。在我的设置里,我用的是WSL。要在Ubuntu中启用CUDA,我通常遵循以下步骤:

sudo apt update
sudo apt install build-essential
wget https://developer.download.nvidia.com/compute/cuda/12.6.2/local_installers/cuda_12.6.2_560.35.03_linux.run
sudo sh cuda_12.6.2_560.35.03_linux.run

我的nvidia-smi输出:

在Ubuntu中启用CUDA

你也可以用脚本/usr/local/cuda-12.6/extras/demo_suite/deviceQuery检查安装的成功情况。

2. 安装Ollama

Ollama 是一个强大的工具,能够在云端创建和运行 LLM 应用。它简化了开发流程,提供灵活的部署选项,同时便于应用管理和扩展。你可以下载并安装:

curl -fsSL https://ollama.com/install.sh | sh

安装Ollama
安装Ollama(点击图片放大)

3. 下载DeepSeek

最后我们可以下载DeepSeek模型。DeepSeek-R1 配备了多个源自 Qwen 和 Llama 架构的精炼模型,每个模型都针对不同的性能和资源需求进行定制。

这些模型的尺寸各不相同。例如,1.5b型号大约2.3 GB,7b型号大约4.7 GB,70b型号超过40 GB。我自己选择了默认的deepseek-r1型号。

1.5b型号所需的资源更少,而14b和32b等型号则更注重高性能。点击这里查看所有型号。

下载DeepSeek
下载DeepSeek(点击图片放大)

如图所示,下载后立即切换为提示。

4. 使用 Chatbox

Chatbox 提供了与AI模型交互的用户友好界面。安装后,打开设置,选择“OLLAMA API”作为模型提供者,然后选择你偏好的 DeepSeek 模型。如果没有错误,它会自动识别最近安装的型号。

使用 Chatbox
使用 Chatbox(点击图片放大)

在下面的图片中,我让它生成一个能够从远程服务器下载名为not_malicious.zip的文件的Python脚本,它完成了。脚本甚至会检查状态码并处理潜在的异常情况。

使用DeepSeek AI
使用DeepSeek AI(点击图片放大)

5. Python 示例

DeepSeek 提供了一个与 ChatGPT 完全兼容的 API。你可以直接跑pip3 install openai开始。在我的配置中,我会用ollama Python包。

python3 -m venv venv
source venv/bin/activate
pip3 install ollama

我编写了一个简单的脚本,从模型中请求五个网络安全最佳实践,结果如下:

用于与 DeepSeek 交互的 Python 脚本
用于与 DeepSeek 交互的 Python 脚本(点击图片放大)

结果
结果(点击图片放大)

结论

本文详细介绍了在Linux系统上搭建DeepSeek,使用图形界面进行交互,并将其集成到Python脚本中,这个指南对新手来说非常有参考作用。

相关文章

标签: DeepSeek  
本站声明:本站为非经营性网站,文章内容来源或整理于网络,本站不提供软件下载服务,侵删联系:webkaka#foxmail.com
x