Deepseek本地部署(内置32B和14B模型)2月21更新

Deepseek本地部署(内置32B和14B模型)2月21更新

傻木
2025-02-21 / 1 评论 / 367 阅读 / 正在检测是否收录...

首次使用需要联网下载 install open-webui 组件(过程是自动的)
之后就不用联网了

deepseek本地部署由剑二十七制作分享 更新地址 https://www.jian27.com/html/1396.html (此版压缩包40gb+)

以下本站独家负优化(优化后带两个模型总体积14.4gb)

模型已替换为 Q2量化版,显存占用大幅降低,6gb以上黄皮显卡可玩

在显存不够情况下,优先选择降低精度且模型体量大的
例如14b Q2量化版,远比8B fp16好的多
就好比人家说砒霜有毒会毒死人
0.000000000000000000000001毫克砒霜也是砒霜,我不相信能毒死我
在体量面前谈量化,那就是扯淡

模型只保留了14b和32b,14b 实际运行占用5.5gb显存,32b占用约11gb显存

可以自己替换喜欢的模型,原则上gguf后缀的模型都可以,例如有些无限制模型等等
怎么替换请自行研究,不做解答

默认的管理员账号是jian27@126.com 或者 123@123.com 密码都是 1234 进去后 自行修改

刚刚更新的版本只是优化了根目录,看起来更简洁,更适合强迫症患者
优化了根目录

14b.jpg

另附DeepSeek从入门到精通.pdf https://abpyu.lanzoul.com/ieqGO2nk1gsb

首次启动时,点击开始使用

首次启动.jpg

输入昵称(随便输) 默认账号是 123@123.com 密码都是 1234 进去后 可以自行修改
这一步可能会白屏,浏览器什么都没显示,这一步别急,大约需要等几秒钟

填写昵称.jpg

更新信息.jpg

视你电脑硬件情况,选择模型,一般8gb以下N卡选择14b即可,最低显存要求6gb就能跑14b
12gb以上显存可以跑32b
右上角有详细设置,还有账户设置等等
可以设置联网搜索,这个需要申请API,属于各家搜索引擎收费项目,不是本项目要收费
更多好玩的,请自己摸索

选择模型.jpg

通过百度网盘分享的文件:DeepSeek-tool_V3.03.7z
回复后,刷新可见下载链接

1

评论 (1)

取消
  1. 头像
    水墨十里
    Android · Google Chrome

    非常不错的,感谢分享

    回复
网站版权本人所有,你要有本事,盗版不究。 sam@gpcb.net