关于 ChatGPT 的恶意揣度 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
yumenawei
V2EX    OpenAI

关于 ChatGPT 的恶意揣度

  •  
  •   yumenawei 2023-02-15 11:07:31 +08:00 3269 次点击
    这是一个创建于 981 天前的主题,其中的信息可能已经有所发展或是发生改变。
    假设 ChatGPT 的认可度越来越高,越来越智能,以后大家遇到问题会首先去问 ChatGPT 。
    那如果将某些问题的答案修改为管理者喜欢的答案。
    更甚者,直接输出某些极端的观点,是否有控制人的思考 /想法 /三观的可能性?
    mxT52CRuqR6o5
        1
    mxT52CRuqR6o5  
       2023-02-15 11:09:22 +08:00   3
    别说 chatgpt 了,就算没有互联网,也可以去通过报纸做到你所说的事情
    zhlxsh
        2
    zhlxsh  
       2023-02-15 11:10:58 +08:00 via iPhone
    会,前提是把其他回去信息的渠道都关掉,比如说先焚书
    要不然效果就是发个假新闻,时间长了大家就不会找你问了
    mxT52CRuqR6o5
        3
    mxT52CRuqR6o5  
       2023-02-15 11:11:54 +08:00
    真要说的话,在互联网时代,对于聪明人来说,如果对一个信息源的可信度有所怀疑,可以很低成本的去找其他其他信息源的信息
    在报纸时代,去找其他信息源的成本可就高了
    eason1874
        4
    eason1874  
       2023-02-15 11:17:31 +08:00
    有这个可能,OpenAI 创立之初就说目标是促进和开发 Friendly AI ,并且向公众开放专利和研究成果

    OpenAI 母公司是盈利组织,后来又搞了个盈利子公司,利润封顶 100 倍
    yumenawei
        5
    yumenawei  
    OP
       2023-02-15 11:18:55 +08:00
    @zhlxsh #2
    @mxT52CRuqR6o5 #3

    那有没有可能出现这种情况:由于大部分人转为使用 ChatGPT ,其他渠道没有人用,进而关停,只剩 ChatGPT 。信息无从考察。
    eason1874
        6
    eason1874  
       2023-02-15 11:22:24 +08:00
    #4 才发现打错了,更正:OpenAI 母公司是非盈利组织
    /table>
    zfjdif
        7
    zfjdif  
       2023-02-15 11:22:46 +08:00
    @yumenawei

    这样的话,ChatGPT 的内容从哪里来呢
    yaphets666
        8
    yaphets666  
       2023-02-15 11:29:10 +08:00
    当然有这种可能,但是影响不大。现在的出版物,新闻媒体等等已经在这样做了。没有分辨能力的话,很容易被洗脑
    yvescheung
        9
    yvescheung  
       2023-02-15 11:30:37 +08:00
    这种情况不需要恶意揣测,因为早就付诸实践了,信息茧房了解一下
    otakustay
        10
    otakustay  
       2023-02-15 11:31:32 +08:00
    难道我从出生开始不就一直在被家庭、教育、媒体控制着思考 /想法 /三观吗?
    Ericcccccccc
        11
    Ericcccccccc  
       2023-02-15 11:31:58 +08:00   1
    你要找的是不是 新闻联播.
    deorth
        12
    deorth  
       2023-02-15 11:32:45 +08:00 via Android
    你居然以为你现在的思考 /想法 /三观没被控制
    yumenawei
        13
    yumenawei  
    OP
       2023-02-15 11:34:57 +08:00
    @zfjdif #7 内容可以由管理员手动输入?那样可控性更高。

    @yaphets666 #8 想到了媒体的力量,感觉这么说有异曲同工之妙。
    liveoppo
        14
    liveoppo  
       2023-02-15 11:48:40 +08:00
    @yumenawei
    那有没有可能出现这种情况:由于大部分人转为使用 ChatGPT ,其他渠道没有人用,进而关停,只剩 ChatGPT 。信息无从考察。

    --------------------------
    担心信息闭塞的不止你一个,而是一部分人,所以其他渠道总有人用,最终会达到一个平衡状态。
    liveoppo
        15
    liveoppo  
       2023-02-15 11:49:58 +08:00
    担心信息闭塞的不止你一个,而是一部分人,所以其他渠道总有人用,最终会达到一个平衡状态。-----------这里仅指信息自由的环境。
    timeance
        16
    timeance  
       2023-02-15 11:55:06 +08:00
    互联网使信息茧房成为可能,OP 是担心 ai 能更加有效率的影响个人三观吗?
    PlG5sBkXD1ziLeGB
        17
    PlG5sBkXD1ziLeGB  
       2023-02-15 11:59:04 +08:00 via iPhone
    你们不会用 chatgpt 来看新闻看政治看时事吧?不会吧?
    Qiss
        18
    Qiss  
       2023-02-15 12:01:20 +08:00
    看啥东西都要加上一些自己的思考,不能只是一味的停别人的
    rocksolid
        19
    rocksolid  
       2023-02-15 12:02:58 +08:00
    这不就是搜索引擎在做的么
    zooo
        20
    zooo  
       2023-02-15 12:07:26 +08:00
    别担心了
    普通人担心没有用

    实际是情况是,会出现各种不同的 AI ,它们在一些主观立场上态度完全不一样

    至于为什么会出现,因为人类天生会产生分歧,因此不同势力集团会训练不同态度立场的 AI ,通过这些 AI 来诱导群众
    daliusu
        21
    daliusu  
       2023-02-15 12:10:09 +08:00
    你说的这个,现在没有吗?尤其是墙内社交平台,我很费解
    cherryas
        22
    cherryas  
       2023-02-15 13:15:59 +08:00
    你说的已经发生了,chatgpt 刚开放那几天我问了俄乌的问题 chatgpt 那回答真是绝对中立,现在再问明显是偏向美国的. (此回复拒绝对谁对谁错展开讨论)
    SunsetShimmer
        23
    SunsetShimmer  
       2023-02-15 13:43:16 +08:00 via Android
    如果一个人只相信 ChatGPT 的输出,那么这个人本来就不具备判断是非的能力。
    如果它反人类了,正常人看不出来吗?网友对“政治”的敏感度不够高吗?
    Hihanying
        24
    Hihanying  
       2023-02-15 14:09:59 +08:00
    建议了解下传播学,可能对信息媒介如何影响群体心智会有更深的理解
    mxT52CRuqR6o5
        25
    mxT52CRuqR6o5  
       2023-02-15 14:18:35 +08:00
    @yumenawei
    就像#14#15 说的那样,我还是比较认同的
    有没有互联网真的是差别很大
    在没有互联网的时代,比如我是个美国人,我信不过美国媒体,我想去看中国媒体的信息,可能相当的难。
    但如果是现在,这种事情想做的话都是相当轻松的
    chitanda
        26
    chitanda  
       2023-02-15 14:37:19 +08:00
    @zhlxsh 不用这样,只需要潜移默化的影响你的思维,观点,成型后你即使看到真实的信息也不会去相信的。
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     4885 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 35ms UTC 03:55 PVG 11:55 LAX 20:55 JFK 23:55
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86