普通的 Linux 服务器怎么跑 tensorflow?

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

已注册用户请登录

这是一个创建于 2076 天前的主题，其中的信息可能已经有所发展或是发生改变。

已经是训练好的模型了，投入生产环境也很吃算力，一般的服务器没有独立显卡啊，难道只能跑 cpu 版本,cpu 速度很慢，没法用啊，或者给服务器搞一块强劲显卡？

9 条回复 2020-04-15 11:37:29 +08:00

ZRS

2020-04-09 14:43:42 +08:00

配显卡或者专门做 Inference 的硬件，有不少做解决方案的公司

herozzm

2020-04-09 14:51:18 +08:00

@ZRS 有专门的 gpu 服务器吗?二手的是否可用？

ZRS

2020-04-09 14:52:59 +08:00

@herozzm 有啊，不过生产环境捡二手不合适吧...有生产环境有需求不如考虑租云服务商的服务，比自己配硬件弹性好也更可靠

tomczhen

2020-04-09 14:56:12 +08:00 via Android

老黄不让数据中心用游戏卡，捡二手专业卡真的性价比有点低，虚拟化也是一堆坑等着。

herozzm

2020-04-09 15:15:22 +08:00

@tomczhen
@ZRS
准备上一个 Quadro K620 二手显卡试试

formaxin

2020-04-09 23:11:50 +08:00 via Android

cpu 慢那就只能上 gpu 了，nvidia-docker 蛮香的

formaxin

2020-04-09 23:13:17 +08:00 via Android

再就是优化下模型，减枝蒸馏之类的

herozzm

2020-04-09 23:54:35 +08:00

@formaxin docker 19.3 以后都集成了，不用单独 nvidia-docker

q428202849

2020-04-15 11:37:29 +08:00

独立显卡服务器了解一下
1 、I3-2100 8G 500G 5M 2IP GTX730 2G 显卡
2 、I5-3470 8G 1T 10M 2IP GTX730 2G 显卡
3 、I7-3770 8G 1T 10M 2IP GTX730 2G 显卡