搜索
查看: 98|回复: 4

[折腾] 站在局外看DeepSeek本地部署

[复制链接]
发表于 2025-2-12 09:20:04 | 显示全部楼层 |阅读模式

2025年春节,DeepSeek 引发了一场声势浩大的 AI“淘金热”,国内主流电商平台也开始一茬接一茬地收割韭菜。
得益于 DeepSeek 的开源策略,本地部署 DeepSeek R1 的教程也成为新一轮收割韭菜的 AI 秘籍。
尽管许多卖课博主声称能轻松运行满血版 DeepSeek R1,但满血版 R1 模型参数高达 671B,仅模型文件就需要 404GB 存储空间,运行时更需要约 1300GB 显存。
对于普通玩家来说,运行的条件苛刻,且门槛极高。
海外博主已经整理出相关配置供大家参考。只要 GPU 等于或超过 VRAM 要求,模型仍然可以在规格较低的 GPU 上运行。但是设置不是最佳的,并且可能需要进行一些调整。

b0c302c0d90880b3fff3656a3c85dfb2_interlace1.jpg


Hugging Face 的工程师马修·卡里根在 X 平台展示了运行完整 DeepSeek-R1 模型,Q8 量化,无蒸馏的硬件 + 软件设置,成本大约为 6000 美元。

39f4697c7421af35f161cea45efe8117_interlace1.jpg



在本地部署效果就不尽如人意。面对具体问题时,它无法准确“按图索骥”,或者干脆胡编乱造,准确率堪忧。
对绝大多数用户来说,老老实实用官方版或者使用第三方平台才是目前最优解,它不需要投入昂贵的硬件成本,也不用担心性能受限。


回复

使用道具 举报

发表于 2025-2-12 10:20:03 | 显示全部楼层
没折腾,瞧瞧GPU配置,看来只能看看
网上利用DeepSeek的各种捞金手段层出不穷
回复

使用道具 举报

发表于 2025-2-12 12:41:33 | 显示全部楼层
必须是用不起,有免费的就用免费的吧。
回复

使用道具 举报

 楼主| 发表于 2025-2-12 22:57:29 | 显示全部楼层
现在割韭菜的人一批又一批,韭菜一茬又一茬!
回复

使用道具 举报

发表于 2025-2-13 14:42:52 | 显示全部楼层
jyssysz 发表于 2025-2-12 22:57
现在割韭菜的人一批又一批,韭菜一茬又一茬!

这个必须有矿才能用得起,因为硬件要求很高。
回复

使用道具 举报

联系我们(Contact)|手机版|萝卜头IT论坛 ( 苏ICP备15050961号-1 )

GMT+8, 2025-2-21 05:07 , Processed in 0.101065 second(s), 22 queries , Gzip On.

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表