如何科学的衡量 copilot 这类编程助手对研发的提效水平? - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
JkCola
V2EX    GitHub Copilot

如何科学的衡量 copilot 这类编程助手对研发的提效水平?

  •  
  •   JkCola
    JkCola 2024-10-10 22:09:09 +08:00 1565 次点击
    这是一个创建于 430 天前的主题,其中的信息可能已经有所发展或是发生改变。
    1 、大家都知道:开会评审、理解需求、追问补充细节也很占时间。
    2 、大家也知道:技术方案制定、代码 review 、上线观察的工作耗时必不可少。
    3 、大家也知道:向 copilot 描述需求内容、UI 细节等,额外增加了自己的沟通成本。
    4 、大家还知道:很多业务需求是零散着改动多个已有的文件,充满了逻辑细节,而不是宣传 DEMO 里的从 0-1 搞个无业务逻辑的玩具出来。

    但是,你如何科学的衡量 copilot 之类工具(包括最近火热的 cursor ),用 or 不用,对研发效率的影响是多少?
    哪些结果指标和过程指标、怎么统计。而不是主观感觉提升了 x%。
    5 条回复    2024-10-11 20:10:30 +08:00
    vsitebon
        1
    vsitebon  
       2024-10-10 22:12:06 +08:00
    代码行数直接统计 OR 完成任务时效统计
    JkCola
        2
    JkCola  
    OP
       2024-10-10 22:20:36 +08:00
    @vsitebon 行数是 copilot 角度的效果指标,也就是说 copilot 能帮忙写出多少行可被提交的代码,非效率类指标。
    完成任务的时效,充满了开会评审、需求细节沟通等干扰;包括需求的大小是不一样的,这个月偏大,下个月可能全是小需求,怎么做都快。
    ztm0929
        3
    ztm0929  
       2024-10-10 22:24:34 +08:00 via iPhone   2
    https://github.blog/news-insights/research/research-quantifying-github-copilots-impact-on-developer-productivity-and-happiness/

    我没细看文章,不过应该可以做参考(辩证地看,作为商品,它一定会存在自夸的成份的)
    如果有用请点个没币了
    vsitebon
        4
    vsitebon  
       2024-10-11 10:22:20 +08:00
    @JkCola #2 对于工程师来说,大需求和小需求也可以量化的,举个例子,你写一个视图本来要用十天,结果现在你三天就解决了,这个就是明显的效率差异。对比历史同期的类似任务能算得出大概的数据
    JkCola
        5
    JkCola  
    OP
       2024-10-11 20:10:30 +08:00
    @ztm0929 这文章内容确实不错,感谢推荐。
    关于     帮助文档     自助推广系统     a href="https://blog.v2ex.com/" class="dark" target="_blank">博客     API     FAQ     Solana     3218 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 23ms UTC 11:24 PVG 19:24 LAX 03:24 JFK 06:24
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86