刚刚午休上厕所时,想到 2 个担忧的点。
1 诈骗绑架等场景,利用受害人照片、声音,生成十分逼真的虚假语音和照片。
“你的孩子被绑架”这种诈骗方式,之前都是假短信,后面如果出现逼真的假语音和图片,哪个家长能受得了?。
2 看到很多人开始把自己的 blog 文章等喂给大模型,培养自己的助理。如果一个人留下了非常多的文本记录,涉及自身方方面面。利用这些材料,训练出的模型,再对这个模型进行审问,其反应是否可能非常接近本人真实的响应?
有趣的点,可以用于和古人(伟人)对话?
但若收集某人(竞争对手)的所有输出材料,训练出的模型,可用于刺探对方对各类问题可能的想法?
![]() | 1 fangpeishi OP 用 10 万条微信聊天记录和 280 篇博客文章,我克隆了一个数字版自己 https://sspai.com/post/79230 |
![]() | 2 fangpeishi OP AI 造你音,你爸都能?何音合成盛行? https://www.gvm.com.tw/article/100491 |