网页资讯视频图片知道文库贴吧地图采购
进入贴吧全吧搜索
图拉丁吧 关注：7,663,233贴子：129,047,605
  • 5回复贴，共1页
求助

4张2080ti和4090跑ai算力差距大吗

只看楼主收藏回复

我这边想配一个跑ai语言模型的机器，不清楚是4张2080ti 22g显存魔改要好还是一张4090要好，88g的显存在大语言模型的微调和推理速度上有什么明显的优势吗？我主要是用于大语言模型和bert-vits2的语音模型推理和训练，求解哪个好一点，感谢大神
IP属地:福建来自iPhone客户端1楼2024-03-16 10:54回复
    顶一顶
    IP属地:福建来自iPhone客户端2楼2024-03-16 18:50
    回复
      ddddd
      IP属地:福建来自iPhone客户端3楼2024-03-17 07:23
      回复
        我最近刚刚买了4张雷索的2080ti 22GB版本，然后把之前的七彩虹4090 24GB卖了，现在有点后悔。首先你CPU得够，我用的线程撕裂者5975WX，4张2080ti勉强和一张4090差不多。因为至少Tensorflow的模型如果用4卡，是在CPU进行数据交互。模型分隔没做过，理论上深度学习唯显存论，如果你模型和数据足够大，那就上4张2080ti做并行，或者做模型分隔串联。否则4090怎么都是最优选择。
        IP属地:河南4楼2024-03-21 20:19
        收起回复
          联系方式
          IP属地:山东来自iPhone客户端5楼2024-09-18 15:46
          回复

            扫二维码下载贴吧客户端

            下载贴吧APP
            看高清直播、视频！
            • 5回复贴，共1页
            发表回复
            发贴请遵守贴吧协议及“七条底线”贴吧投诉
            内  容:
              查看全部
            发 表
            保存至快速回贴

            发布成功
            去贴吧APP订阅抽奖结果通知
            扫码进入贴吧APP
            ···········
            开奖后第一时间站内信通知
            ···········
            中奖结果全员公示