DeepSeek-R1 发布时最出圈的动作,是官方把 R1 的推理能力「蒸馏」进了一批小模型,R1-Distill-Qwen-7B 就是其中最受欢迎的一个(Hugging Face 下载 31 万+)。本站已把它的 GGUF 版镜像到下载中心,国内可直接高速下载。
蒸馏是什么:一分钟讲清
让大模型(老师)生成大量带完整思考过程的问答,再拿这些数据去训练小模型(学生)。学生学的不是答案,是「怎么一步步想」。所以这个 7B 最大的特点是:回答前会先写一大段思考过程(思维链),再给结论。
拆解:它的脾气要先摸清
- 底座:基于 Qwen2.5-Math-7B 强化而来,数学与代码推理是重点培养方向
- 长思维链:难题它会想很久、写很长,质量上去了,但速度与 token 消耗也上去了——闲聊拿它问「你好」,它也能给你想出一篇小作文
- 参数讲究:官方建议温度 0.5-0.7(常用 0.6)、不要在提示词里加「请一步步思考」之类的指令,它自己会想;系统提示词官方建议留空
怎么用
- Ollama 官方库:ollama run deepseek-r1:7b
- 用本站镜像手动导入:下载下方 GGUF 后按本站《HF 模型导入 Ollama 全流程》操作,适合网络不便直连拉取的环境
效果怎么样
在数学竞赛题、逻辑题、算法题上,它的表现远超同尺寸普通模型,这是蒸馏最值钱的地方;短板同样明显:输出冗长、日常问答啰嗦、中文闲聊的自然度不如指令版模型。定位结论:把它当「解题专用机」,日常对话另配一个指令模型,这是社区玩家的主流用法。
本站高速下载
下载 DeepSeek-R1-Distill-Qwen-7B GGUF(Q4_K_M,约 4.7GB,本站镜像)
原模型主页:huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B(GGUF 量化由 unsloth 社区提供)
© Copyright Notice
文章版权归作者所有,未经允许请勿转载。
THE END










Please log in to view comments