平台是如何知道是 AI 生成的文章？

很简单，文本二分类问题，训练就好了，正确率颇高

21 年前的数据基本可靠 然后就好办了

直接将问题提给 gpt 然后比对回答？

ai 生成的内容还是有很显著的特点的，训练一个模型去判断正确率应该很高的。

上面几楼的思维还停留在 22 年吧？现在 ai 内容要么很难识别（微调过的，不是直接生成），要么把人类的误认为 ai 写的，而且越往后难度越大，openai google 这些大佬都做不出来精确识别的

另外知乎这个提示 ai 的也很水，经常把人写的也给你提示 ai 说白了识别到就是瞎猫碰上死耗子

@rekulas 不能精确识别和不能识别是两回事

我觉得这种识别很傻逼，也没有必要。
因为针对任何问题的回答最重要的就是能不能解决问题，之所以 AI 写作存在就是因为大部分人不会提问，提问的是宽泛的问题，而不是具体的问题，这就给了 AI 自说自话的机会。
人类越会提问，提出的问题越具体，就能实际看出 AI 到底是个什么水平。
反过来说，如果一个平台充斥着大量乏乏而谈的回答，既可以说是真人回答的，也可以说是 AI 创作的，这个平台本身价值也不大了，比如知乎。

为什么要判断，ai 写的比小编写的好多了

这个不是答题者自己配置的吗, 在创作声明那里能选择"包含 AI 辅助创作"

训练一个 ai 来判断 ai 的文章，再训练一个用来判断 ai 判断 ai 文章准确性的 ai

LLM 本身就有判断 LLM 生成文章的功能。

不过之前就有过邪道，在富文本里用人类看不到的形式写下对 LLM 的 prompt ，引导它在分类时输出“是人类写的”这样的结果。

反正知乎上，排版清晰，图文并茂，基本就是垃圾营销文了。
管他是不是 ai 生成呢。
我在想，能不能把 ai 融入 adblock

@e3c78a97e0f8 如果要咬文嚼字，确实可以这样理解，但你如果实现一个准确度 50%左右的硬币正反面预测器，这跟随机有什么区别吗，而现在所谓的 ai 预测就是这样的，基本跟随机没多大区别

AI 不 AI ，可能不是 google 评价内容的好坏的标准；有很多做 SEO 的就是 AI 生成的，照样几百万流量。

关键是，内容对用户有没有价值、google 是否认为这个页面提供的信息，对整个 google 系统，是有信息增量的（ Information gain ）

我也在思考这个问题，知乎在 gpt 刚出后没多久就有检测的系统，只要是 gpt 原封不动搬过去的，知乎可以检测的到，现在论文也可以检测到 AIGC 率，gpt 写的论文检测系统就会查到

@hxscript 最近 google 自己都在搜索结果里加 AI 搜索内容

检测的要点：行文准确无误。
Prompt 对抗：适当加入语句不通顺的口语化表述方式、emoji 表情以及混乱的标点符号。

gan 网络

知乎是有创作声明的, 写文章和回答问题得时候要表明包含 AI 生成内容, 其他平台不了解

@rekulas “而现在所谓的 ai 预测就是这样的，基本跟随机没多大区别”这个说法并不对。我都能一眼看出来很多文本是 AI 生成的，要训练一个 precision 在 50%以上的模型不是什么难事。

@e3c78a97e0f8 如果你指的是 55%的话，目前来说还是有可能达到的，但想达到 60 甚至 70 就很难了，因为一旦识别敏感度调高，对人类作品的误判率极速上升，以至于很难进行商用，我为什么敢这样说，因为试过用各种各样的 ai 鉴别，要么识别率低，要么误判率高，而且 ai 水平还在不断进步，难搞