![]() | 1 cander0815 OP 请问有大佬知道吗?应该如何部署 |
2 hefish 213 天前 anyhingllm 非常傻,他 rag 只支持定长切片,实测基本不可用。网上搜的文档例子都很牛,碰到自己跑就完蛋。。 这个这个可能是模型的限制吧。 这个是 text-to-text 的模型吧。。。找个 text/image to text 的模型试试看。。。 |
![]() | 3 coefu 213 天前 anythingllm 原生的嵌入模型 all-MiniLM-L6-v2 不是多模态的,并且也没有提到 vision 模型的集成,ds 的 671b 是 moe 专家模型,里面有原生 vision 处理的能力。 |
![]() | 4 coefu 213 天前 或者你把嵌入模型 改成 granite3.2-vision ,然后看看情况。 |