这是一个创建于 241 天前的主题，其中的信息可能已经有所发展或是发生改变。
楼主是做经济学研究的，近期工作涉及到利用 LLM 进行文本分类。在查文献（主要是经济学交叉应用类）时，我观察到一个趋势：作者们倾向于获取特定任务的标注数据，然后在 BERT 、ERNIE 等模型上进行微调，以完成分类。
由于我的技术背景有限，对于这种方法的选择及其替代方案有些疑问，想听听大家的专业意见：
1.微调的实际可行性： 用专门的分类数据去微调一个通用预训练模型，会不会损失模型基础性能，导致在遇到与微调数据不太一样的文本时，表现反而变差？
2.是否可以直接使用 GPT 等模型替代： 现在有许多能力非常强大的 LLM ，似乎可以通过给出清晰的指令（ Prompt ）就能完成很多任务。对于文本分类来说，直接使用这类强模型+好 Prompt ，相比于“训练”一个基础模型，是不是一种更高效（开发时间短、可能效果还好）的选择？在这种情况下，应该如何验证分类的准确性？
我主要想理解这两种技术路径的适用场景、优缺点以及实际操作中的考量。任何经验分享或建议都将对我非常有帮助！谢谢大家！
由于我的技术背景有限，对于这种方法的选择及其替代方案有些疑问，想听听大家的专业意见：
1.微调的实际可行性： 用专门的分类数据去微调一个通用预训练模型，会不会损失模型基础性能，导致在遇到与微调数据不太一样的文本时，表现反而变差？
2.是否可以直接使用 GPT 等模型替代： 现在有许多能力非常强大的 LLM ，似乎可以通过给出清晰的指令（ Prompt ）就能完成很多任务。对于文本分类来说，直接使用这类强模型+好 Prompt ，相比于“训练”一个基础模型，是不是一种更高效（开发时间短、可能效果还好）的选择？在这种情况下，应该如何验证分类的准确性？
我主要想理解这两种技术路径的适用场景、优缺点以及实际操作中的考量。任何经验分享或建议都将对我非常有帮助！谢谢大家！
 | 1 Volekingsg 241 天前 1. 微调的假设是训练和测试数据独立同分布，另外 Bert 等 PLM 不微调也很难在你的数据上进行分类 2. 使用 LLM prompt 在很多分类任务上能达到与 Bert 等 PLM 近似或者更好的性能，而且实验起来更快（可能得试下不同 prompt 方式） 验证准确性需要你有标注的测试数据 |
 | 2 johnnyyeen 241 天前 对一些特定任务，小样本，可以试试 PEFT 之 LoRA 微调。 |
 | 3 rogerer 241 天前 如果只是单独做分类的话，用 LLM 不一定比 BERT 更好，都得做了实验才知道。 |
 | 4 Zhuzhuchenyan 240 天前 下文专指 LLM 的微调， 1. 增加模型的专用能力会带来模型通用能力的损失。 2. 微调最难的不是微调本身，而是准备高质量的数据集，如果你没有一定数量的符合你研究要求的高质量的数据集，微调与否不会带来什么效果。 3. 建议先小样本用 LLM 试验一下，用不同参数的 LLM 试验之后看看他们分类的结果你是否满意。 |
Select Language