如果您是个人用户并希望进行模型训练,使用Transformers框架时,建议选择RTX 4090。如果预算有限,可以考虑购买二手的RTX 3090或RTX 3090 Ti。不过,购买二手显卡时需谨慎,避免购买到矿卡或裸卡。如果您不使用Transformers,RTX 4080是一个不错的选择,预算更紧的话,可以选择RTX 4070 Ti,甚至是二手的RTX 2080 Ti或RTX 3060。
如果您的目标是编写大型语言模型,RTX 4090仍是最佳选择,二手的RTX 3090和RTX 3090 Ti也可作为经济实惠的替代。如果不涉及大型语言模型的编写,RTX 4070 Ti或RTX 4080则是合适的选择,预算更有限时,可以考虑RTX 2080 Ti,甚至是RTX 3060。
对于短期训练小数据集或小模型,租用云服务器是一个经济实惠的解决方案,能有效降低成本。
如果您的目标是编写大型语言模型,RTX 4090仍是最佳选择,二手的RTX 3090和RTX 3090 Ti也可作为经济实惠的替代。如果不涉及大型语言模型的编写,RTX 4070 Ti或RTX 4080则是合适的选择,预算更有限时,可以考虑RTX 2080 Ti,甚至是RTX 3060。
对于短期训练小数据集或小模型,租用云服务器是一个经济实惠的解决方案,能有效降低成本。