gomoon 桌面端大模型效率工具(代朋友发,他没有帐号)「项目已开源」 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
mumu
V2EX    分享创造

gomoon 桌面端大模型效率工具(代朋友发,他没有帐号)「项目已开源」

  •  
  •   mumu 2024-07-08 09:07:44 +08:00 2552 次点击
    这是一个创建于 467 天前的主题,其中的信息可能已经有所发展或是发生改变。

    起因是 ChatGPT 使用在国内实在使用困难,使用魔法创建的账号也时常遭到封禁,所以想到了使用一些国内 API 供应商的办法通过 API Key 的形式使用 ChatGPT 。

    尝试了很多通过 API Key 来一键部署和使用大模型的网页和软件,但感觉总是差那么点意思。

    于是在去年 12 月份,我萌生了自己做一个大模型桌面工具的想法,并在一个月后有了第一个版本。

    八个月过去了,这个软件已经迭代了 13 次版本。我是个对细节比较挑剔的人,所以直到现在,认为这个工具已经能用好用的情况下,才决定拿出来和大家一起分享下(官网地址):

    image.png

    工具介绍

    Gomoon 的名字来源于 赛博朋克:边缘行者 的中 Lucy 的愿望:『去月球』。

    使用 Gomoon ,你只需要将购买的厂商 API key 填入到设置页面,就可以使用对应的大模型了,同时也可以通过本地调用的方式使用本地大模型。

    以下是模型 API 配置示例图:

    image.png

    助手功能

    Gomoon 内置了一些常用的助手,例如翻译助手,计算器,前端专家等。你可以直接使用这些助手进行提问:

    image.png

    当然,你也可以点击助手进入助手页面,自行配置助手。(这里助手也可以和对应的模型绑定,例如我在用前端助手时需要 GPT4 ,但是翻译助手 3.5 就够了。)

    Gomoon 的助手支持一键导出和导入功能,可以在助手页面和对话页面下方的小工具中点击体验。

    未来 Gomoon 还会在官网加上在线上传和分析功能,争取让大家能更方便的使用助手功能,免费获取更多实用的助手能力。

    两种对话模式

    Gomoon 有两种对话模式,分别是『问答』和『连续对话』。你可以把合适的助手对应创建在两种模式中。

    Gomoon 的『问答模式』适合一些需要一次性的回答,例如翻译,总结,计算器,报错分析等。Gomoon 在这种模式下,每次只会携带当前对话的上下文,目的是让每一次对话的 Token 使用量尽量减少,更加省钱,而且没有上文的干扰,准确度也会有所提高。

    而『连续对话』则是正常的对话模式,每次都会携带本次对话的所有内容,适合一些连续提问的场景。在连续对话中,你可以对每段对话进行删除、重新生成、中途更换助手和二次编辑,大大提高对话的灵活程度。

    快捷键

    Gomoon 默认可以使用 ctrl/cmd + G 的形式唤醒或者隐藏,当你把它置顶时,这一功能十分有效,你可以把它摆在 IDE 一旁,边提问边工作,相当于多出来一个 Mentor 。

    当然快捷键也是可以随意设置的,只要在配置页面进行修改就可以了。

    另外,Gomoon 还支持双击复制来快速问答,这一个交互灵感来源于 DeepL 。当你需要对单词翻译,或者代码报错分析的时候,就可以使用这一快捷键。

    你只需要划选对应的文字,然后ctrl + c + c, 就可以快速调用起 Gomoon 了。使用方法如下所示:

    m0ctz-vzbu3.gif

    小工具

    Gomoon 内置了很多小工具,例如发送文件,解析图片文字,解析链接等等。你可以在对话栏直接使用粘贴键来将多种类型的内容上传。Gomoon 支持你任意的区组合发送内容(注意:如果你需要对图片直接进行提问,则需要使用 GPT4 或 Ollama 支持等图片解析的模型,其他模型则可以使用 Gomoon 自带的图片文字识别功能来提取图片文字)。

    Gomoon 同时支持你将对话内容进行导出,支持 markdown 和图片(长截图)两种形式,可以快速的将对话结果分享给其他人。

    当然,上述的这些配置都是存储在你本地的,项目也已经开源,所以你不用担心自己的数据会被泄露或者盗用。

    对话历史

    连续对话时,当你新建了一个对话,Gomoon 会自动将上一次的对话保存在对话历史中。

    在对话历史界面,你可以收藏一些对话历史来快速查找。同时 Gomoon 还支持拷贝历史,使用搜索框精确查找历史内容,一键清除非收藏历史等。

    当你需要使用某一次的对话,只需要点击对应的历史,其就会快速呈现在对话页面。

    记忆胶囊

    image.png

    所谓的记忆胶囊,就是可以将你上传到 Gomoon 的 markdown 文档进行本地向量化存储,并打包成一个胶囊,此时当你选择了这个胶囊后,对其进行提问,就可以快速得到对应的答案。

    例如,这里有一份你所在团队的私域知识,这些知识并不能在网络上查询到,但同时也是你日常需要使用到的知识。这个时候你就可以将这些知识存入到 Gomoon 的记忆胶囊中,后续当你就可以直接对当前记忆胶囊进行提问,获取到你想要的答案了。

    Gomoon 中内置了一个『 Gomoon 使用指南』的记忆胶囊,可以供大家快速体验记忆胶囊神器的能力:

    眼尖的同学可能会发现,这个功能和 RAG 系统可以说是如出一辙。是的,Gomoon 的记忆胶囊功能,本质上就是一个 embedding 模型 加向量知识库。不同的是,这些能力都是在本地的。也就是说它完全免费并且安全。

    在性能上,经过尝试,16g 内存的 mac 和 windows 电脑都可以完成记忆胶囊存储和查询的能力。

    主题

    Gomoon 除了上面一直看到的默认主题之外,还有『月光白』配色,一款亮色系的颜色,适合那些喜欢白色主题的同学: image.png

    对了,Gomoon 默认支持响应式布局,也就是说你可以把 Gomoon 自定义成自己喜欢的尺寸,其中的内容会尽量的产生对应的自定义布局。

    最后

    Gomoon 是我在工作之余做的一款开源工具,诚然,现在市面上包括大模型官方已经有很多类似的工具,在做之前总是担心会做成一个很鸡肋的产品。

    好在最终我自己也想通了,本质上这个桌面应用就是送给自己,送给大家的礼物,所以把它做好的唯一标准,也就成为了怎么让其用着爽,用着实用。

    所以 Gomoon 的每一个能力的出现,都是在我的日常工作中需要了这个能力,或者有朋友提出了自己的需求。

    所以希望大家也能够尝试一下这个工具,如果觉得好用,还请在 github 帮我点上一个免费的 star ;如果觉得不好用,可以随时在官网页面点击左上角加入群聊,提出你宝贵的建议。我这人最是听劝。

    第 1 条附言    2024-07-08 13:07:37 +08:00
    19 条回复    2024-07-09 16:10:04 +08:00
    DjvuLee
        1
    DjvuLee  
       2024-07-08 09:15:03 +08:00
    支持!界面挺好看的。
    mumu
        2
    mumu  
    OP
       2024-07-08 09:52:12 +08:00
    界面支持两种配色,gomoon 和白月光,介绍里面的截图是 gomoon 的配色类似深色配色,白月光则为浅色
    CommandZi
        3
    CommandZi  
       2024-07-08 10:04:25 +08:00
    说实话,相比 123pan 下载,我宁愿去官网下载旧版本
    keethebest
        4
    keethebest  
       2024-07-08 10:10:23 +08:00
    为什么 GitHub 上不更新下载了
    Xi
        5
    Xi  
       2024-07-08 11:34:28 +08:00
    用来 kimi 的 key ,挺好的,就缺这样一个简单易用的桌面助理
    Xi
        6
    Xi  
       2024-07-08 11:37:18 +08:00
    对了,让你朋友加一个开机启动吧,win 系统。
    lekai63
        7
    lekai63  
       2024-07-08 11:37:22 +08:00 via iPhone
    支持楼主,但同时我有一问:

    蕾丝工具,网页端其实很多,且要调 api 肯定还是联网。那么对于普通用户,浏览器书签栏点一下 vs 开个软件,到底有啥区别。

    书签当然也可以做成桌面快捷方式(或弄成 PWA )跟桌面软件一样
    buyno1
        8
    buyno1  
       2024-07-08 12:00:48 +08:00
    @mumu 调用这些 api 收费吗
    mumu
        9
    mumu  
    OP
       2024-07-08 12:17:41 +08:00
    @buyno1 现在国内很多都是免费的,可以直接去申请,gpt 也有免费的
    mumu
        10
    mumu  
    OP
       2024-07-08 12:19:24 +08:00
    @CommandZi 就第一次,后面可以直接在线更新的,设置最底下有个检测更新的链接
    mumu
        11
    mumu  
    OP
       2024-07-08 12:23:46 +08:00
    @Xi 我回头给他说,让他加上自动开机启动,如果急需,可以手动添加到启动项里面。
    mumu
        12
    mumu  
    OP
       2024-07-08 12:26:52 +08:00
    @keethebest 特意问询了他,其表示一来是网速迟缓,时常上传至一半便中断了;二来有部分内容不太便于翻墙。起初也未曾提及要发布于 v2 的,是我向他提议,而后协助他发布的此篇内容。
    Cancer0204
        13
    Cancer0204  
       2024-07-08 16:52:47 +08:00
    这个模型,能不能支持填多个,或者我直接使用 oneapi 去自己请求配置的模型呢
    mumu
        14
    mumu  
    OP
       2024-07-09 01:00:58 +08:00
    @Cancer0204 chatgpt 的自定义模型,可以设置。
    buyno1
        15
    buyno1  
       2024-07-09 09:46:09 +08:00
    @mumu 能给一些免费申请的地址吗
    mumu
        16
    mumu  
    OP
       2024-07-09 10:40:55 +08:00
    @buyno1 [chat any where]( https://github.com/chatanywhere/GPT_API_free)
    [silconcloud]( https://cloud.siliconflow.cn?referrer=cly7313wc004vchq0cf3ui2ny)
    [deepseek]https://www.deepseek.com/
    其他的,程序上面有注册的链接,你可以直接点击,现在 qwen 、文心都有免费的额度。
    maemolee
        17
    maemolee  
       2024-07-09 14:17:10 +08:00
    有点难用,已经在设置里添加了自定义大模型,为什么首页上选不了啊?还是说这个不用选,都是自动切换的?

    mumu
        18
    mumu  
    OP
       2024-07-09 16:04:12 +08:00
    @maemolee 可能是个 bug ,我给你反馈一下给作者。
    mumu
        19
    mumu  
    OP
       2024-07-09 16:10:04 +08:00
    找作者确认过来,他不小心提交了一次代码,但是那个不是最新的。晚点会打包一个新版本发上去
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     1519 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 28ms UTC 16:36 PVG 00:36 LAX 09:36 JFK 12:36
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86