DeepSeek-R1-Distill-Qwen-7B 拆解:把大模型的「会思考」装进 7B

DeepSeek-R1 发布时最出圈的动作,是官方把 R1 的推理能力「蒸馏」进了一批小模型,R1-Distill-Qwen-7B 就是其中最受欢迎的一个(Hugging Face 下载 31 万+)。本站已把它的 GGUF 版镜像到下载中心,国内可直接高速下载。

蒸馏是什么:一分钟讲清

让大模型(老师)生成大量带完整思考过程的问答,再拿这些数据去训练小模型(学生)。学生学的不是答案,是「怎么一步步想」。所以这个 7B 最大的特点是:回答前会先写一大段思考过程(思维链),再给结论。

拆解:它的脾气要先摸清

  • 底座:基于 Qwen2.5-Math-7B 强化而来,数学与代码推理是重点培养方向
  • 长思维链:难题它会想很久、写很长,质量上去了,但速度与 token 消耗也上去了——闲聊拿它问「你好」,它也能给你想出一篇小作文
  • 参数讲究:官方建议温度 0.5-0.7(常用 0.6)、不要在提示词里加「请一步步思考」之类的指令,它自己会想;系统提示词官方建议留空

怎么用

  • Ollama 官方库:ollama run deepseek-r1:7b
  • 用本站镜像手动导入:下载下方 GGUF 后按本站《HF 模型导入 Ollama 全流程》操作,适合网络不便直连拉取的环境

效果怎么样

在数学竞赛题、逻辑题、算法题上,它的表现远超同尺寸普通模型,这是蒸馏最值钱的地方;短板同样明显:输出冗长、日常问答啰嗦、中文闲聊的自然度不如指令版模型。定位结论:把它当「解题专用机」,日常对话另配一个指令模型,这是社区玩家的主流用法。

本站高速下载

下载 DeepSeek-R1-Distill-Qwen-7B GGUF(Q4_K_M,约 4.7GB,本站镜像)

原模型主页:huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B(GGUF 量化由 unsloth 社区提供)

© Copyright Notice
THE END
喜欢就支持一下吧
Likes6 Share
评论 Be the First to Comment
Avatar-AI源码站
欢迎您留下宝贵的见解!
Submit
Avatar-AI源码站

Nickname

Cancel
NicknameEmojiCodeImageQuick reply

    Please log in to view comments