至强吧 关注:22,915贴子:155,862
  • 23回复贴,共1

有没有2666的机主朋友把deepseek部署到本地?

只看楼主收藏回复

听说内存带宽和大小越大越好,64g终于有用武之地了吗


IP属地:湖北来自Android客户端1楼2025-02-09 14:40回复
    没意义,有评测的,DDR4 2400双路8通道勉强能玩一玩,当然你要是14b及以下模型那无所谓了。


    IP属地:安徽来自Android客户端2楼2025-02-09 16:52
    回复
      没必要。更没意义


      IP属地:辽宁来自iPhone客户端3楼2025-02-09 17:11
      回复
        我一直不知道这玩意怎么部署这个不是吃gpu吗我14700 4060 ddr4 3600 64g没部署我打算买个服务器玩下


        IP属地:河南来自Android客户端4楼2025-02-09 18:33
        收起回复
          速度太慢根本没用只是能装上能运行而已


          IP属地:福建来自Android客户端5楼2025-02-09 18:50
          收起回复
            14b可以32b很慢


            IP属地:广西来自iPhone客户端6楼2025-02-09 21:49
            回复
              我的2666v3,590,跑8b感觉很慢7b好一点。1.5b最快


              IP属地:重庆来自Android客户端7楼2025-02-09 22:10
              回复
                已经部署了,很方便,几分钟的事


                IP属地:北京来自Android客户端8楼2025-02-09 22:19
                回复
                  我试了4080跑14B效果很差,有1T用户跑满血了,挺慢,自己用的话,应该也不错。


                  IP属地:山东9楼2025-02-10 10:10
                  回复
                    2667可以部署 RTX3808跑的8B 速度还行


                    IP属地:广东10楼2025-02-10 11:53
                    收起回复
                      无所谓 估计5700xt 跑不了


                      IP属地:广东来自Android客户端11楼2025-02-12 23:20
                      回复
                        我4060ti16装过14b,评价是蒸馏模型不太行,用嘴臭回答那些梗图的提问根本不回答,不如直接用底膜千问2。用32B的话,因为瓶颈在U和内存所以直接给我干卡死,见图。


                        IP属地:广东来自Android客户端12楼2025-02-13 16:48
                        回复
                          需要Tesla显卡跑deepseek的可以找我 新手不建议入手


                          IP属地:上海来自iPhone客户端13楼2025-02-13 23:50
                          回复
                            只能完14B的很快,32爆显存,一秒才三到四个字


                            IP属地:广东来自Android客户端14楼2025-02-13 23:52
                            回复
                              不懂就问 这个模型能干嘛?


                              IP属地:山东来自Android客户端15楼2025-02-14 09:21
                              回复