您现在的位置:首页
我本以为前段时间「DeepSeek 向王一博歉仄」那事,,现已够离谱了,,没想到仅仅道开胃小菜,,AI 又起源「愚乐」公共了。。。。。
或许尚有朋侪没吃到这个瓜,,我先简略回忆一下前情。。。。。大致剧情即是,,一群粉丝对着 DeepSeek 一顿奋力「拷打」,,硬是让 AI 吐出了一份给王一博的歉仄声明,,以致还知心肠附上了一份(虽然是纯属虚构的)法院讯断书。。。。。
紧接着,,她们就拿着这份「铁证」,,全网奔波相告:「看!DeepSeek 现已像王一博认错了!」
若是这仅仅粉丝圈内部的一场自嗨狂欢也算了,,但真实的魔幻,,从这儿才刚刚起源。。。。。
很快,,好比《艺人王一博案,,判了!》这类报导起源在网上疯传,,其间不乏一些正规媒体的身影。。。。。而他们言之凿凿引证的信源,,竟然即是上面那份由粉丝威逼利诱、AI 连蒙带猜天生的「赛博讯断书」。。。。。
虽然,,厥后总算有人回过味儿来,,这些报导才被悄然撤下,,随手把锅甩给了「AI 错觉」。。。。。
作为一个长时间盘问 AI 领域的作者,,我原以为的基础知识,,没想到云云一触即溃,,心里有了一丝不祥的预见。。。。。
果不其然,,昨日我又被一条#DeepSeekR2或8月宣布# 的音讯招引了——事实,,这个 R2 可等太久了。。。。。我满怀期待所在开报导,,定睛一看,,血压又上来了:所谓的信源,,竟然仍是跟 DeepSeek 谈天聊出来的。。。。。
虽然那位记者在文中提了一句「DeepSeek 未官宣」,,但转头就把自己跟 AI 的谈天纪录当成了佐证,,这相当于仍是把 AI 当成了可参阅的信源。。。。。
这还没完,,微博智搜这类 AI 查找产品迅速收录了这条「新闻」,,当其他用户再来查找时,,看到的是被多家媒体引证的「现实」。。。。。
略微搜一搜,,这样的「AI 新闻」还不少。。。。。
至此,,一个完善的信息污染闭环,,也即是传说中的「给 AI 喂屎」流程,,宣告完结:
人类指导 → AI 制作错觉 → 媒体扩大错觉 → AI 反刍错觉 → 不明真相的公共吃下错觉
AI 错觉不是什么新鲜事。。。。。前 OpenAI 科学家 Beth Barnes 就说过,,AI 在处置惩罚触及人类信用、价值观等重大问题时,,更简朴犯现实性过错,,并且这些过错还往往被包装得逻辑自洽、极具疑惑性。。。。。
但真实的问题,,向来不在于 AI 有多会编故事,,而在于咱们,,正变得越来越愿意信任它。。。。。
有陈述说,,近四成的 Z 代代职工宁愿信任 AI 也不信人类同伴,,理由是 AI 「从不点评」且「有求必应」。。。。。
再看一个数据,,ChatGPT 的周活用户已达 7 亿,,日发问量迫临 Google 日查找量的五分之一。。。。。
最近 GPT-5 宣布后引起了用户的整体阻挡,,强烈呼吁 4o 回归,,理由竟是它供应了无法取代的「心情价值」,,被誉为「赛博白月光」。。。。。
咱们与 AI 聊得越多,,对它的依赖和信任就越深。。。。。
这种信任以致催生了「赛博神经病」。。。。。不少美国记者都收到过一些读者的邮件,,他们坚信 AI 现已觉悟,,行将完结人类,,并召唤咱们连忙行动起来。。。。。
记者们一诘责才发明,,这些末日正告的源头,,全都是跟 ChatGPT 谈天聊出来的。。。。。而这些用户变态坚决,,理由只要一个——「GPT 说的,,那还能有假?????」
之前和菜头在议论「DeepSeek歉仄事情」时说,,这恰恰证实晰 AI 无法替换人类,,由于咱们总需求一个「看门人」人物,,由活人做出终究讯断。。。。。
但从最近这一连串的闹剧来看,,人类这个「看门人」当得也未必及格。。。。。无论是自动使用 AI 制作假新闻,,仍是专业媒体轻信 AI 的胡言乱语,,归根究竟,,不贵族阶级动《催眠》动漫全探秘风水动漫在线观看;部在线观看28459;在线观看是坏,,即是蠢。。。。。
这儿的「蠢」,,并非指智商,,而是指面临 AI 这个飞速迭代的新事物时,,咱们普遍缺少基础的认知,,以致爆发了一种不应有的科技敬重,,把它当成了一种信息威望。。。。。
虽然,,这也很难全怪用户。。。。。若是看个新闻刷个视频,,都得像盘问记者相同举行穿插验证核对现实,,那也太累了——看看这届结业生被 AI 论文查重逼成了啥样。。。。。
AI 公司能做的有限,,要应对 AI 错觉,,单靠提高模子才华远远不敷。。。。。APPSO 之前也说到,,错觉是狂言语模子的特征,,而非 bug——若中止天生新 token,,AI 将失掉其「法力」。。。。。因而,,要害在于办理错觉,,而非消除它。。。。。
咱们也不要总把锅甩给 AI。。。。。虚伪信息众多在人类历史上真实不新鲜,,每次都陪同着信息转达手艺的刷新。。。。。
16 世纪的印刷术,,曾让猎巫手册以史无前例的速率转达;;;互联网年月,,垃圾邮件和网络蜚语更是野火烧不尽。。。。。
差别的,,仅仅信息污染的形式晋级。。。。。AI 让假话进入了「工业化年月」,,让那些看似威望、逻辑自洽的虚伪信息能够被容易地批量生产。。。。。对,,视频也能 P 了。。。。。
在这条流水线上,,每一个一蹴而就、通盘接受的用户,,都是在绵延一直供应着的原质料。。。。。
真实的解药,,不在于给 AI 打上几多「补丁」,,而在于咱们能否直面一个严酷的现实:在一个能够容易取得任何「谜底」和「慰藉」的年月,,咱们还能丢掉「电子奶嘴」多费费脑思量吗?????
本文来自微信公共号“APPSO”,,作者:发明明日产品的,,36氪经授权宣布。。。。。