官方 deepspeek v3 api 开始阉割了 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
lyxxxh2
V2EX    OpenAI

官方 deepspeek v3 api 开始阉割了

  •  1
     
  •   lyxxxh2 265 天前 3086 次点击
    这是一个创建于 265 天前的主题,其中的信息可能已经有所发展或是发生改变。

    前几天我用 deepspeek 给商品分类。 效果挺不错的。

    接口速度平均 10s,但是不需要速度,分类了一万个商品。

    https://i.imgur.com/Jqbblhl.png

    昨天

    程序运行几分钟就停止了,看打印速度也不对劲。

    https://i.imgur.com/jteKECt.png

    1. 5 秒? 太快了

    2. 分类分数居然有 0.8? 之前我见过最低都是 0.9 。

    我就猜测是阉割了。

    他有时候返回: "content":"```json\n{\"id\":821,\"name\":\"奶茶\",\"score\":0.9}\n```"}

    导致我 json 解析失败。

    于是我给他加上一条:- 禁止返回带```的

    今天

    还是没效果,照样返回 ```json```

    之前一万个商品都返回正常,现在每隔几十个商品就带```json```

    估计分类也没之前准确。

    19 条回复    2025-04-08 08:21:24 +08:00
    shintendo
        1
    shintendo  
       265 天前
    v3 昨天更新了新版本 v3-0324 ,可能有关系
    SantinoSong
        2
    SantinoSong  
       265 天前
    不是阉割了, 是 v3 换版本了
    NoManPlay
        3
    NoManPlay  
       265 天前
    应该是 v3 更新导致的,可以试试深度思考,还是基于之前的 v3 版本
    lyxxxh2
        4
    lyxxxh2  
    OP
       265 天前
    估计就是 v3 更新导致的。
    虽然速度快了,但是我又没要求。
    更新了,对我来说: 变智障了
    iamsad3508
        5
    iamsad3508  
       265 天前 via Android
    Livid
        6
    Livid  
    MOD
    PRO
       265 天前
    用 vLLM 跑的 qwen 可以指定 JSON 输出格式:

    t/1101310
    bjzhou1990
        7
    bjzhou1990  
       265 天前
    API 不是可以指定输出 json 吗,还会出现这种情况吗
    zfjdif
        8
    zfjdif  
       265 天前   1
    AI 解析日常操作 replace("```json", "").replace("```","")

    顺便推荐一个 python 库: https://github.com/mangiucugna/json_repair 。能够实现 JSON 补全,stream 返回有用。
    zfjdif
        9
    zfjdif  
       265 天前
    @bjzhou1990 还是会遇到,可能官方也是使用 prompt 实现的,保证不了稳定性。。。
    zqqian
        10
    zqqian  
       265 天前
    可以试试这个逻辑:

    # 尝试解析 JSON 结果
    try:
    # 如果结果包含在 ```json ``` 中,提取内部内容
    if "```json" in translated_text:
    translated_text = translated_text.split("```json")[1].split("```")[0].strip()
    elif "```" in translated_text:
    translated_text = translated_text.split("```")[1].split("```")[0].strip()
    import re

    json_match = re.search(r'```json\s*([\s\S]*?)\s*```|({[\s\S]*})', translated_text)
    if json_match:
    json_str = json_match.group(1) or json_match.group(2)
    result = json.loads(json_str)
    else:
    # 如果没有找到 JSON 格式,尝试直接解析
    result = json.loads(translated_text)
    akiyamamio
        11
    akiyamamio  
       265 天前
    我还以为依赖 AI 输出 JSON 就我一个呢,原来都在这么干。
    我就是感觉不管是 DeepSeek 还是通义或者别的什么 AI ,就很不稳定,有时候会输出些别的乱七八糟的东西,还以为是我提示词问题或者根本就不应该这么用……
    9hills
        12
    9hills  
       265 天前
    直接用上面提到的 json_repair ,不用搞奇技淫巧
    lyxxxh2
        13
    lyxxxh2  
    OP
       265 天前


    文档有说的,我压根没看。
    lyxxxh2
        14
    lyxxxh2  
    OP
       265 天前
    ```
    5. 返回格式必须严格按照以下 JSON 格式,不要添加任何其他内容:
    {"id": number, "name": "string", "score": number}
    注意:
    - id 必须是数字类型,不能带引号
    - name 必须是字符串类型,必须带引号
    - score 必须是 0-1 之间的小数,表示分类的可能性
    - 不要返回 markdown 格式或其他任何格式
    EOT],
    ['role' => 'user', 'content' => "请为商品\"{$product_name}\"选择最合适的分类"]
    ],
    'temperature' => 0.1
    ]);
    ```


    我这样给的,之前稳定。
    现在不行,估计加`{type:'json_object'}`就行了。
    (temperature => 0.1 curosr 帮我改的... 压根没这个)
    LeeReamond
        15
    LeeReamond  
       265 天前
    插个题外话问个,现在其他家谁家有新版 v3api 可用了嘛?官网的充不了钱呀
    suitts
        16
    suitts  
       265 天前
    @LeeReamond 官网 api 慢得很,欧派和火山的 api 比较快。欧派有新版 v3 了, 不过限流比较严格。
    lyxxxh2
        17
    lyxxxh2  
    OP
       264 天前
    @LeeReamond 官网已经可以充钱了啊
    s7964926
        18
    s7964926  
       252 天前 via iPhone
    最新的 v3 确实有问题…
    s7964926
        19
    s7964926  
       252 天前 via iPhone
    对了,补充一下我在使用官方输出 json 的时候遇到的问题。
    你要小心他本身的转义。如果你的输出内容里有一些很独特的字符,比如\fs 这种,会被替换为换页符。
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     1555 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 34ms UTC 16:26 PVG 00:26 LAX 08:26 JFK 11:26
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86