麦克雷

标题: 笔记本deepseek本地部署32b要什么配置 [打印本页]

---

作者: Mrnaurxnzoxof    时间: 昨天 13:49
标题: 笔记本deepseek本地部署32b要什么配置
小白不是很懂
想本地部署deepseek+知识库，目前网上看到的方案基本是ollama+anythingLLM/cherry studio
但是ollama部署32b好像需要24g显存
想问一下如果要买一台笔记本可以跑32b模型有什么比较好的选择？
倾向性价比方案应该选游戏本还是mac，或者有没有可能扩展坞外接显卡
有无大神指教一二

---

作者: Richardtuh    时间: 昨天 13:50
笔记本扩展性不如台式，而且价格也偏高，散热也是个问题。我不太推荐你用笔电玩DeepSeek
(, 下载次数: 1)

上传

点击文件名下载附件

此外，我没有Apple设备，不好说

---

作者: xiao_cao    时间: 昨天 13:50
32g内存+4090显卡，勉强能跑

---

作者: biergaici    时间: 昨天 13:51
推荐40系显卡，如果没有最好不要急着上32b，搞个14b也差不多了，或者7b

---

作者: j49288103    时间: 昨天 13:51
建议租个服务器
(, 下载次数: 1)

上传

点击文件名下载附件

---

作者: bigworm    时间: 昨天 13:51
基本别想了 我台式4070显存跑32b直接爆了 我估计得4090才跑的动
(, 下载次数: 0)

上传

点击文件名下载附件

---

作者: 艾的民    时间: 昨天 13:52
笔记本4070可以32b，但需要用上共享显存，回复比较慢

---

作者: kpzjm60    时间: 昨天 13:53
2080TI 22G显存的能不能跑32B

---

作者: hank4459801    时间: 昨天 13:53
搞个12g显存的就行了，GitHub里已经有量化好的模型，保险起见挑一个32g内存的吧，越快越好，就算找不到合适的模型，那内存跑也不至于太慢

---

欢迎光临 麦克雷 (https://mavom.cn/)

Powered by Discuz! X3.5