chatgpt API 速度问题 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
calano
V2EX    OpenAI

chatgpt API 速度问题

  •  
  •   calano 2023-04-07 11:07:31 +08:00 5788 次点击
    这是一个创建于 917 天前的主题,其中的信息可能已经有所发展或是发生改变。

    在站里搜了下大家的讨论都说挺快的,但是为什么我调用的时候就非常慢,通常要将近 20 秒

    开始以为是需要 stream 流,现在采用了只快了那么一点,总体依然很慢

    自己的服务器中转或者使用公共的中转代理都这个速度,想问问大家还有可能在哪里有问题?

    难道是现在免费账号送的额度限速了?

    <-- SOL tip topic -->
    15 条回复    2023-04-13 01:07:05 +08:00
    xenme
        1
    xenme  
       2023-04-07 11:08:43 +08:00 via iPhone
    大概率代码问题,之前用了一个 bot ,也是很慢,后来更新了一次后就飞快了。
    qiayue
        2
    qiayue  
    PRO
       2023-04-07 11:20:00 +08:00
    只要开了 stream ,那么基本上第一个字,可以在一两秒内返回。
    可以试试我开源的这个 php 版本 https://github.com/qiayue/php-openai-gpt-stream-chat-api-webui
    可以看看下面测一个提问时间日志,第一条数据,会在后端接收到请求后立即返回,第二条数据来自于接口返回第一个字时。两个时间相差 1.5 秒左右。也就是提问后,1.5 秒,前端就可以开始显示第一个字了。
    popok
        3
    popok  
       2023-04-07 12:41:51 +08:00
    一开始我也觉得好慢,直到我的免费体验额度到期,然后自己充值了一些 api 金额,那个速度就起飞了。

    所以我感觉:免费的就是给你限速的
    calano
        4
    calano  
    OP
       2023-04-07 14:44:16 +08:00
    @xenme 换了一套代码感觉快了一些,但是还是比较慢,可能确实得加钱吧
    calano
        5
    calano  
    OP
       2023-04-07 14:45:06 +08:00
    @popok 我也感觉是,用了几种方法都不太满意,先等额度到期吧
    calano
        6
    calano  
    OP
       2023-04-07 18:34:41 +08:00
    @qiayue 你的 key 是付费版的吗,我在想是不是跟这个有关,我的还没到期,是免费额度
    winterx
        7
    winterx  
       2023-04-08 00:54:18 +08:00
    @popok 请问你是怎么充值的
    popok
        8
    popok  
       2023-04-08 01:18:32 +08:00 via Android   1
    @winterx depay 虚拟卡,开 plus 和绑定 api 扣费账户都没问题。期间遇到一次拒绝您的信用卡,换了一个美国 ip 就好了。个人认为,只要 ip 够纯净,就能成功。
    Alexo00000
        9
    Alexo00000  
       2023-04-10 01:55:01 +08:00
    之前 API 还是很快的 基本两三秒响应,这几天开始 API 访问慢的要死,基本都要十几二十秒,网页版倒是很快
    想尝试绑定 Depay 卡,一直提示卡片被拒绝,换了好几个不同国家的 IP 都不行
    不知道是卡的问题还是 IP 问题,之前这张卡和 IP 购买网页 plus 都没问题
    Alexo00000
        10
    Alexo00000  
       2023-04-10 02:36:21 +08:00
    更新:刚刚用阿里云美区 ECS 起了个 Windows 系统,直接远程桌面用浏览器完成了绑卡,看来还是 IP 问题
    绑完卡马上测试 API 调用,响应速度立马快到飞起
    同一个 API KEY ,绑卡前响应 20 秒起,绑卡后立马 3 秒内响应,差异太明显了
    Alexo00000
        11
    Alexo00000  
       2023-04-10 02:42:01 +08:00
    绑卡后,不光是 API 初始响应速度提升,stream 的返回速度也明显加快
    这么区别对待,OpenAI 吃相太难看
    calano
        12
    calano  
    OP
       2023-04-10 10:20:55 +08:00
    @Alexo00000 确实现在太慢了
    BeginMan
        13
    BeginMan  
       2023-04-12 13:00:16 +08:00
    确实比较慢,就最近两天发现很慢,之前都很快。
    xiangxihenli
        14
    xiangxihenli  
       2023-04-12 21:33:52 +08:00
    现在太慢了,调接口,先等 20 秒,20 秒之后才正常输出....太狗了
    seelight
        15
    seelight  
       2023-04-13 01:07:05 +08:00
    换了个号绑卡试了下, 立刻飞快了, 不用怀疑, 就是限制了免费试用的速度, 和时间地域无关, vercel 的服务可靠性还是值得信任的.
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     2861 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 27ms UTC 14:19 PVG 22:19 LAX 07:19 JFK 10:19
    Do have faith in what you're doing.
    ubao snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86