显卡方面预算8000,目前在3090Ti和双卡Quadro RTX 5000之间纠结。
平时主要使用的AI应用:stable diffusion、SoVITS4.1、ChatGLM等大语言AI模型。听说20系以下显卡可用显存会砍半,故不考虑。运行大语言模型貌似显存容量更重要一些,这么看来双卡Quadro RTX 5000有32GB显存,应该更合适。而SoVITS4.1貌似只能使用单卡进行模型训练,我从copilot那里问的在主板支持的情况下,通过nvlink连接的两张Quadro显卡可以在Windows系统中当成一张显卡进行调度,不知道信息有没有误。
有精力和时间进行折腾,别的不用管,无脑冲性价比就行了!#ai#
平时主要使用的AI应用:stable diffusion、SoVITS4.1、ChatGLM等大语言AI模型。听说20系以下显卡可用显存会砍半,故不考虑。运行大语言模型貌似显存容量更重要一些,这么看来双卡Quadro RTX 5000有32GB显存,应该更合适。而SoVITS4.1貌似只能使用单卡进行模型训练,我从copilot那里问的在主板支持的情况下,通过nvlink连接的两张Quadro显卡可以在Windows系统中当成一张显卡进行调度,不知道信息有没有误。
有精力和时间进行折腾,别的不用管,无脑冲性价比就行了!#ai#