这是一个创建于 328 天前的主题，其中的信息可能已经有所发展或是发生改变。
怎么学习和入手呢
目前就看和使用过 huggingface 上 gpt2 示例。
model 相关的 api 不知道怎么查找，比如像使用 gpt2 的 qa 类任务应该如何来做。
本地能跑起来 gpt2 的示例，换成 llama2 的 7b 模型直接就结束了，是因为集显性能原因跑不起来吗
预训练怎么做，上传语料线上训练还是直接本地训练 本地预训练有示例么，简单点的
求教想深入学 ai ，我应该怎么继续下去
 | 1 YsHaNg 328 天前 via iPhone 深入的不太清楚 简介强大美观就用 ollama+open webui docker 直接装 显存不够大就不用 cuda 之类的 tag cpu 跑推理也还行 至少大内存能堆参数量 你不在乎延迟后台放着慢慢跑 路由器再设置端口转发提供公网服务 |
 | 2 Donaldo 328 天前 本地部署： - 命令行：ollama - 图形界面：LM Studio 二者都会提供 OpenAI 格式的 API ，另外你参考一下自己的显存大小和模型大小，太大的就会跑不起来或者要借助 CPU ，所以很慢。 |
 | 3 hertzry 328 天前 via iPhone |
| 8 YsHaNg 328 天前 via iPhone @iv8d 针对终端用户包装生态好 社区很多应用 对应的前端更新很快 https://openwebui.com/ 也有一键 docker run 用 ollama tag 就是前后端数据库一体 再加载好模型就能用 |
 | 11 miaoxiaomayi 101 天前 @Donaldo 不是说 lm 没有 openai 的 api |
Select Language