本地部署大模型这件事,被 Ollama 简化到了「装软件」的程度。本文以跑通 DeepSeek 为例,三大系统通用,跟着做十分钟见效。Ollama 本体可从官网获取,源码包在本站镜像也有收录。
第一步:安装
- Windows / macOS:官网下载安装包,双击装好,任务栏出现小羊驼图标就是在运行了
- Linux:官方一键脚本 curl -fsSL https://ollama.com/install.sh | sh
第二步:拉模型并对话
打开终端(Windows 用 PowerShell),输入:ollama run deepseek-r1:7b。第一次会自动下载模型(约几个 GB,看网速),下完直接进入对话界面,输入问题回车即答。想换通义千问就是 ollama run qwen3:8b,命令规律一致。
模型大小怎么选
- 内存 16G / 无独显:7B~8B 的量化版,速度可用
- 显存 12G 以上:14B 体验明显更好
- 显存 24G:可以挑战 32B,回答质量再上台阶
- 拿不准就从 7B 开始——先跑起来,比参数表重要
第三步:配个聊天界面(可选但推荐)
终端对话适合尝鲜,日常使用建议装 Open WebUI(本站有部署教程与镜像):Docker 一条命令起来,浏览器里就是类 ChatGPT 的完整界面,还能管多个模型与历史对话。
常用命令速查
ollama list:看已下载的模型ollama pull 模型名:只下载不运行ollama rm 模型名:删除腾空间- 对话里输入
/bye退出
© Copyright Notice
文章版权归作者所有,未经允许请勿转载。
THE END










Please log in to view comments