什么配置的电脑能把 OpenAI 的 Whisper 跑快一点 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
请不要在回答技术问题时复制粘贴 AI 生成的内容
athomas
V2EX    程序员

什么配置的电脑能把 OpenAI 的 Whisper 跑快一点

  athomas 2023-02-17 10:52:33 +08:00 5677 次点击
这是一个创建于 972 天前的主题,其中的信息可能已经有所发展或是发生改变。

我现在的 Macbook (具体型号如下)跑 Whisper 太慢了,20 分钟的视频都能跑上 1+小时(大模型)请问什么配置电脑能让它跑快点呢?新的 Macbook M2 会好很多吗?还是必须得上 Windows 带超强显卡的笔电?

MacBook Pro 13-inch, 2020 Core i5 Graphics Intel Iris Plus Graphics 1536 MB Memory 16 GB 3733 MHz

13 条回复    2023-02-17 16:20:47 +08:00
WonderfulRush
    1
WonderfulRush  
   2023-02-17 11:01:39 +08:00
如果代码没有针对 mps(mac arm gpu 加速)的话, 最后还是用 cpu 跑,提升应该不会很大。所以配 n 卡可能得到的提升比较稳定。
windyboy
    2
windyboy  
   2023-02-17 11:04:19 +08:00
显卡
neopenx
    3
neopenx  
   2023-02-17 11:11:42 +08:00
MPS 默认跳过 intel 集显。所以你 100%是 CPU 在跑。
你换 M2 还不如去租 GPU ,M2 pro 的 MPS 性能也就 1060 水平,跑 Transformer 惨不忍睹
king888
    4
king888  
   2023-02-17 11:14:39 +08:00
要不试试云运算,paperspace ,按需付费
Bromine0x23
    5
Bromine0x23  
   2023-02-17 11:19:59 +08:00
显卡拉满
mercury233
    6
mercury233  
   2023-02-17 11:21:58 +08:00
我用的 3060 12G 跑日语同人音声,CPU 只占用两三个核,GPU 吃满,显存 11G 多,大概是 1.2-1.6 倍速(二十分钟音频十多分钟跑完),但有时遇到 BUG 就慢了
lookStupiToForce
    7
lookStupiToForce  
   2023-02-17 11:46:06 +08:00
好东西,支持
lookStupiToForce
    8
lookStupiToForce  
   2023-02-17 11:46:31 +08:00
@lookStupiToForce #7 回错贴了,无视掉我...
yesvods
    9
yesvods  
   2023-02-17 13:00:49 +08:00
啥场景需要重度依赖 whisper ?
Volekingsg
    10
Volekingsg  
   2023-02-17 14:34:24 +08:00
TabGre
    11
TabGre  
   2023-02-17 14:58:29 +08:00 via iPhone
没有啥好办法
lin98
    12
lin98  
   2023-02-17 15:48:34 +08:00
@Volekingsg 这个快很多
deesan
    13
deesan  
   2023-02-17 16:20:47 +08:00
该换 PC 和 N 卡了
关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     6213 人在线   最高记录 6679       Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 27ms UTC 02:40 PVG 10:40 LAX 19:40 JFK 22:40
Do have faith in what you're doing.
ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86