
场景: 1 、跑开源的大模型,做自己的知识库 2 、偶尔自己做一点微调
希望价格不要太高,几千块能搞定的那种,求推荐
1 Brunuh2Ville2 2024-05-11 12:27:47 +08:00 via Android 吃显存,16g 起步,最好 24g |
2 codehz 2024-05-11 12:31:59 +08:00 你这还不如直接租在线的,几千块够用好久了 |
3 ShadowPower 2024-05-11 12:32:42 +08:00 P40 改散热 x2 |
4 lllabmaster 2024-05-13 08:32:10 +08:00 via iPhone 阿里云 PAI 能免费用 3 个月 |
5 jedeft OP @lllabmaster 求链接 |
6 wencan 2024-05-14 21:20:02 +08:00 llama.cpp 加 量化,不要 gpu 也可以跑大模型 |