这是一个创建于 509 天前的主题，其中的信息可能已经有所发展或是发生改变。
这可能是目前最简单的本地大模型+知识库部署方案
大模型所有基础功能永久免费
功能特色
无需 docker,无需命令行操作，无需 GPU
基于 ollama ，直接将大模型打进包，选择一个大模型，下载 zip 包，解压，运行即可
无需任何配置，开箱即用
支持 win10,win11 ，mac11+
图形界面，不用自己安装 webgui
自带 embedding 库，支持上传 pdf,docx,txt,md 创建知识库
文档翻译工作流，一次翻译整本书
知识树，从大模型压榨数据
离线使用，所有数据都在本地，充分保护隐私
更多的应用正在开发中：视频字幕翻译，长文写作工具...
本地大模型的三大优势
1.隐私敏感数据保护
2.不依赖网络，可在无网环境使用
3.无限 token ，对于密集计算应用，比如翻译整本书，比云端订阅更划算
欢迎大家下载使用，多提意见
 | 1 creazyrabbit 2024-07-23 13:41:15 +08:00 翻译用哪个模型比较好 |
 | 2 iorilu 2024-07-23 14:46:30 +08:00 换一个模型就要重下一套软件? 不能安装多模型吗 |
 | 3 mumbler OP @creazyrabbit #1 gamme2 9B 翻译超强，比 qwen2,llama3 都强得多，跟 deepl 没有肉眼区别 |
| 4 mumbler OP @iorilu #2 一个包一个模型，需要哪个启动哪个，这个设计是为了做到开箱即用，否则还涉及到下载模型操作，其实 r 软件不大，模型大小占包 90%以上 |
 | 5 tailaqumos 2024-07-23 19:56:19 +08:00 via Android 本地模型有提供 api 接口吗 |
| 6 mumbler OP @tailaqumos #5 可以全部提供，包括 AI ，知识库，向量索引的 api ，我们正在做一个框架，方便启动 api 开发的应用 |
 | 7 SWALLOWW 2024-07-24 15:23:04 +08:00 我次奥，试试 |
| 8 SWALLOWW 2024-07-24 15:24:43 +08:00 这些模型和能力能不能有个可视化图形让我们这些小白参考选择啊~大大 |
| 9 mumbler OP @SWALLOWW #8 不知道怎么选择，无脑选 gemma2 9B 就行了，中文能力，逻辑能力都一流，特别翻译能力超过 qwen2 ，各种模型排行榜可以看 https://chat.lmsys.org/?leaderboard |
 | 10 DaiShu888 2024-07-25 10:02:26 +08:00 Gemma2_27b 的模型什么时候出？ |
| 12 DaiShu888 2024-07-28 19:10:05 +08:00 悄悄地问下，能调教个 AI 女友出来吗？无限制 NSFW 的那种 |
| 14 DaiShu888 2024-07-28 22:31:59 +08:00 所以楼主就搞一个稳定的 NSFW 模型，肯定卖爆了 |
| 15 DaiShu888 2024-07-29 10:33:24 +08:00 楼主什么时候能让本地模型获得网络访问和搜索权限，并且把搜索结果一键添加到知识库。 封装本地模型就是为了使用方便，但如果本地模型不能自己上网搜索东西，这个模型也没有什么用的。 还有，能不能搞个预设的提示词库，类似 chatgpt 的 AI 商店。或者支持微调和手动添加提示词。 我说的这些功能好像你们都有，但用起来又好像不是我们这种小白要的东西，说实话还是有点门槛。 |
 | 17 flymeto 2024-08-27 21:22:31 +08:00 长文本翻译不行哎,不能自己设置修改最大字符量么 |
Select Language