是使用 openai api 的 tools 参数,还是自己写提示词 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
请不要在回答技术问题时复制粘贴 AI 生成的内容
connecting
V2EX    程序员

是使用 openai api 的 tools 参数,还是自己写提示词

  •  
  •   connecting 69 天前 1714 次点击
    这是一个创建于 69 天前的主题,其中的信息可能已经有所发展或是发生改变。

    各位大佬,请问你们聊天调用工具,是使用 openai api 的 tools 参数,还是自己写提示词呢?

    哪个效果好?我看到 cursor 的提示词自己描述了 functions ,好像效果也不错。

    13 条回复    2025-08-02 20:31:05 +08:00
    wentx
        1
    wentx  
       69 天前
    tools + prompt
    connecting
        2
    connecting  
    OP
       69 天前
    @wentx openai 的 tools ,是不是只会返回一个 tools_call? 我发现理应调用 N 个的,一次次给我。这样 token 多算了很多。
    wentx
        3
    wentx  
       69 天前
    @connecting #2 这个跟模型有关系,还有 prompt 也有一定的关系,如果你是要让他一次返回多个 tools 的话,可以在 prompt 里面描述一下你的具体需求
    razertory
        4
    razertory  
       69 天前   1
    典型的非 tool call 的实现比如 cline 的这段代码 https://github.com/cline/cline/blob/main/src/core/prompts/system.ts#L27

    如果真需要返回多个,前提是你的多个 tool-call 没有先后依赖关系。这种情况下要么走 cline 这种方式,通过魔改 prompt 也能实现,要么把这些 tools 合并成一个方法,前提是工具提供方配合。
    connecting
        5
    connecting  
    OP
       69 天前
    @razertory 懂了,感谢,研究一下,应该会合并一下看看,写 prompt 应该要调很久
    chairuosen
        6
    chairuosen  
       69 天前
    自己写提示词协议,自己解析。对接豆包 1.6 发现它不小的概率不按照 openai 的格式返回导致解不出 tools_call ,只能一个模型写一个对应的 adaptor ,豆包大概率会返回<|FunctionCallBegin|><|FunctionCallEnd|> 这个格式,可能是它训练时加进去的私有协议,只能跟它写一样的不会出错
    zuou
        7
    zuou  
       69 天前
    可以试试 Qwen3-235B-A22B-2507 ,这个模型会“疯狂”调用工具,批量调用和多轮调用效果都挺好,应该是专门训练的
    @connecting
    blakezhaothinks
        8
    blakezhaothinks  
       69 天前
    我们这边是 tools 定义严格的 schema ,在 prompt 中告诉模型什么场景调用什么工具。
    NizumaEiji
        9
    NizumaEiji  
       69 天前
    tools 也就是 function call 吧
    这个现在主流的 llm api 都应该是支持的吧 手写 prompt 再解析交互就有点复杂了
    mmdsun
        10
    mmdsun  
       69 天前 via iPhone
    模型不支持 tools call 可以这么来。
    SSang
        11
    SSang  
       69 天前
    先用默认的呀,哪个你觉得不满意再去调整他
    EscYezi
        12
    EscYezi  
       68 天前 via iPhone
    最好两个都有,提示词里引导 llm 何时/如何调用工具,定义写在 tools 里。
    Seulgi
        13
    Seulgi  
       68 天前 via iPhone
    用的框架是把 tools 按 schema 组装到 prompt 里。react 那种模型。我觉得有点垃圾,因为一次 tool call ,tool 结果会再次组装到 prompt ,每次 tool call 都会把整个 prompt 重新发一次。我觉得这个好像是不是不太对,太浪费 token 了
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     891 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 25ms UTC 20:00 PVG 04:00 LAX 13:00 JFK 16:00
    Do have faith in what you're doing.
    ubao snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86