疯狂污染互联网,人类比 AI 擅长多了

2023-06-24 10:16:27 来源: 爱范儿

人们最担心的事情还是发生了。


(资料图片仅供参考)

一位网友在提问 New Bing 时,答案出现了事实性错误,他点开参考链接时发现,作为引用源的知乎回答,居然也是 AI 生成的。

回看这个知乎账号,遣词造句尽显 AI 风味,答题速度迅雷不及掩耳,目前已经被禁言了。

被看到的冰山一角,指向了一个恶性循环:AI 生成错误信息,这些信息又被喂给更多的 AI,导致互联网的信息质量越来越差。

但硬要较真,AI 污染互联网,不全是 AI 的锅。

AI 造假,神乎其技

生成式 AI 有概率输出错误信息,这是刻进 DNA 的顽疾,联网能够缓解部分症状,因为可以参考多个信息源,但没想到这么快,我们因此陷入了新的混沌,正如古早的计算机格言:

garbage in, garbage out(垃圾进,垃圾出)。

AI 正在悄悄创作越来越多的「假冒伪劣」,说不定你在冲浪的时候就遇到过。

国内外已经发生了好几起 AI 假新闻事件。

今年 4 月,多达 21 个账号同时发布了一条骇人听闻的消息:甘肃一火车撞上修路工人,致 9 人死亡。

网警初步判断信息不实,锁定了深圳某自媒体公司,经过取证后发现,犯罪嫌疑人在全网搜索近几年社会热点新闻,并通过 ChatGPT 修改编辑,再将内容多次上传。

国外知名科技媒体 CNET,也在年初被曝光用 AI 偷偷生成文章,其中 77 篇存在不少错误。

新闻可信度评级机构 NewsGuard 甚至发现,涉及 7 种语言的 49 个新闻网站,内容大部分或完全由 AI 生成。

它们「师出同门」但各有千秋,有的杜撰虚假信息,有的重写其他媒体报道,其中产量高的每天发出数百篇文章。

最有趣的来了,NewsGuard 是通过搜索「As an AI language model」等 AI 常用短语发现这些网站的。连 AI 的口头禅都不删去,脏活也做得太过粗糙。

若在社交媒体和点评网站查找类似内容,你也会发现无脑复制 AI 的账号已经大行其道。

亚马逊一款吸尘器的虚假评价不遮不掩:「作为一个 AI 语言模型,我没有亲自使用过这个产品,但根据它的功能和用户评论,我可以自信地给它打 5 星。」AI 骗人这么诚实,背后原因令人暖心。

不只文本,图片和视频的深度造假也越发炉火纯青。

穿着羽绒服的教皇,被视作第一个真正大规模的 AI 虚假信息案例,当时在Twitter的浏览量达到 2600 多万次。「AI 生成图片」的说明,后来才补充在图片下方。

更多的模仿随之而来。特朗普下乡再就业,在街头拉黄包车;异形体验生活,上了一天的班然后深夜买醉……更有甚者,用 AI 生成「新闻图片」,对不存在的历史言之凿凿。

TikTok 上的「汤姆·克鲁斯」,以假乱真的程度,本人看了也得犯迷糊。

风险与你不一定隔着屏幕,也可能已经蛰伏身边。

今年 4 月,技术专栏作家 Joanna Stern 做了一项实验,录制 30 分钟的视频和 2 个小时的音频,然后用 AI 克隆了自己,它甚至骗过了银行和她的家人。

AI 让我们对那些曾经不容置疑的事物,也抱有基本的警惕心。

当你连接到互联网,你和 AI 都会消费 AI 生成的内容,这个时刻已经到来。

AI 污染不仅影响现在,也可能带偏未来

以上这些是 AI 污染互联网的现状,往后的发展可能更让人不安。

让人类中招的同时,回旋镖也将打在 AI 身上。

一项英国和加拿大的研究发现,当人类越来越多地通过 AI 生成内容,它们会大量进入在线数据库,被用来训练未来的 AI,如果一代又一代地延续下去,最终将导致「模型崩溃」。

具体来说,随着时间的推移,AI 生成的错误会复合,造成从中学习的下一代 AI 更加错误地感知现实,并迅速忘记大部分原始数据,无法区分事实和虚构。研究人员打了一个生动的比喻:

就像用塑料垃圾散布海洋、用二氧化碳攻占大气,我们即将用废话填满互联网。

作为结果,通过抓取互联网数据训练新模型,将变得更加困难。

雪上加霜的是,内容平台们打算筑起城墙,让免费的、高质量的公开数据有了门槛。

前段时间,「美国贴吧」Reddit 计划对 API 进行收费,原因是他们的内容正在被白嫖给 AI 训练,ChatGPT 和 Google Bard 之前都爬过 Reddit 的数据。

Reddit CEO 表示,Reddit 的语料库非常有价值,他们不想把这些内容免费提供给巨头。

Reddit 的 API 收费,对 OpenAI、Google 等家底深厚的玩家影响不大,但 AI 初创公司获取数据更难了。那些长期依附 Reddit 的第三方应用,更是在这次变革中被牵连,带头宣布倒下。

在商言商, Reddit 可能是在自救,之前盈利主要靠广告投放,AI 反而挖掘了 Reddit 数据的商业价值,其他 UGC 内容平台说不定也在打算盘,这对很多 AI 初创公司来说不是好事。

公开数据还不是唯一的挑战,不少 AI 初创公司想在金融、医疗等领域构建垂直的 AI 模型,然而获取专有的训练数据集并不容易。

拥有这些数据的企业们,更愿意和大型科技公司建立合作关系,因为巨头的可信度更高,处理数据的方式更好,更能保障数据安全。

高质量数据是 AI 模型的护城河,获取数据却或多或少地成了一场利益的博弈,将互联网划分为孤岛,或者干脆排资论辈上演军备竞赛。

一方面,互联网的内容本就参差不齐,另一方面,互联网又趋向封闭。未来各家的 AI 要如何接收优质内容训练和微调,成了一个悬而不决的问题。

至少在互联网数据这块,AI 还真可能「自给自足」。剑桥大学教授 Ross Anderson 指出,目前,大多数在线文本都由人类编写,但它们已经被用来训练 GPT-3.5 和 GPT-4,未来,越来越多的文本将由大语言模型编写。

那么,如何避免 AI 生成内容质量下降,一代不如一代?英国和加拿大团队提出了两种方法。

一是保留原始数据集的副本,并避免它被 AI 生成的数据污染,然后可以基于这些数据,定期重新训练或者从头刷新模型。

二是将新的、干净的、人类生成的数据集,重新引入到模型训练中。然而,前提是存在某种可行的方式,区分 AI 和人类生成的内容。

ChatGPT 的数据源截至 2021 年 9 月,在那之前的互联网可能是最后一片净土。

从此以后我们踏进了暗流涌动的世界,困境摆在眼前,应对措施悬在空中。

被用来制造垃圾的 AI,本该提高互联网的下限

不过,互联网被污染的锅,不该全由 AI 来担。

事实上,AI 本该用来提高互联网内容的下限,在 ChatGPT 前身 GPT-3 的时代,已经有人将它作为写作工具了。

AI 从新鲜的玩具变成提升生产力的工具是必然的趋势,因为它学习了海量知识,擅长写出有板有眼的文章和代码,如果再由人力审核和编辑,其实已经比不少「内容农场」的质量要高。

「内容农场」指的是那些快速生产内容、从而赚取流量和广告费的网站。

这类网站通常找不到作者,掺杂大量广告,抢占搜索页面的前排,内容多半缺乏原创且无法保证真实性,很可能是盗取或拼凑他人文章,有来源不明、质量低劣、翻译不准等问题。

现在,AI 却被拿来制造新的内容农场,这是人类出于利益的选择。除了各种假新闻和假图片,电子书网站、科幻杂志投稿等,也被 AI 批量生产的垃圾充斥。

软件工程师 Chris Cowell 花了一年多的时间,编写了一本技术指南。结果在这本书发行前,亚马逊已经出现了相同主题的、由 AI 生成的电子书。

他担心的不是销量,而是这种低质量、低价格、省时省力的 AI 写作,会让同样打算编写小众书籍的人类产生「寒蝉效应」,降低写作热情,不愿意再发出声音。

AI 初创公司 Hugging Face 的首席伦理科学家 Margaret Mitchell 警告,随着 AI 生成的内容越来越多,我们可能读到大量不符事实的内容,但又无法追溯真相。

这就像是一个 AI 主导的「后真相世界」。

「后真相」指的是,客观事实在塑造公众舆论方面的影响力,反而低于诉诸情感和个人信仰的内容。它被《牛津词典》评为 2016 年年度词汇,至今依然适用。

前段时间,路透社一项针对 9.3 万多名成年人的调查发现,用 TikTok 看新闻的年轻人越来越多了。至于内容有多可信,那就得打个问号。

最近,TikTok 流传着泰坦尼克号从未沉没的说法,有理有据也就罢了,却只见张口就来的阴谋论。有人用魔法打败魔法,制作辟谣视频,关注度并不低,但没有谣言出圈。

一位研究泰坦尼克号 60 年的专家感叹:「看到这么多垃圾出现,让人有点泄气。」

更让他担心的是,这类内容的受众里有很多青少年,他们使用 TikTok 的时间越长,就越相信自己所看到的,然后算法推荐更多相关内容,应接不暇地激发快感,将他们彻底包围。

更多类似的趋势在上演。

断章取义、支离破碎的片段式消息流转于社交媒体,但严肃内容又可能被评论「太长不看」。

制作粗糙的短视频,促使新的「黄色新闻」兴起。或是家长里短的摆拍,或是没有营养的奇闻逸事,让人想骂一句「没有新闻可以不发」。

5 分钟的小帅小美式电影解说,则是适合下饭的「电子榨菜」,空镜和转场什么的不重要,将人物标签化,选取最猎奇或悬疑的情节讲解就好。

所以,在 ChatGPT 之前,互联网已经内容降级,它不止关乎具体内容,更关乎用户的媒介使用习惯,如果 AI 被用来加速这个过程,然后再被这些数据训练,那么人类将更加无法抵挡污染。

严肃和通俗内容都有受众,也都值得生产,问题的核心并不在这里。尼尔·波兹曼在电视时代就提出警告,媒介社会面临的最大问题,不是电视为人们提供娱乐性的内容,而是所有的内容都以娱乐的形式表现出来。

相比印刷媒介的严肃与有序,电视等大众媒介瞬间传递信息,如果沉溺于技术营造的视觉快感,受众可能会渐渐失去独立思考的能力。

互联网时代不外如是。

对视觉化、简短化、情绪化内容的生产和消费倾向,为 AI 污染互联网塑造了肥沃土壤,甚至让人们对虚假信息的抵抗能力降低。

所以,AI 污染互联网不全是 AI 的锅,它可以用来完成更好的事,也可以让现状持续。先是人类选择想要怎样的世界,然后 AI 负责放大它。

标签:

疯狂污染互联网,人类比 AI 擅长多了

人们最担心的事情还是发生了。一位网友在提问NewBing时,答案出现了事

06-24 10:16:27

固收产品月报(2023年6月):债市基调偏多 债券产品净值或有扰动但风险不大_环球观天下

固收产品月报(2023年6月):债市基调偏多债券产品净值或有扰动但风险不大

06-24 09:48:12

2023年养鸡上市公司龙头股票汇总 (2023/6/24)-最新资讯

2023年养鸡上市公司龙头股票汇总(2023 6 24),2023年养鸡上市公司龙头

06-24 08:49:51

【速看料】中央气象台发布暴雨黄色预警:南方大范围强降雨持续

中央气象台预计,未来三天,江南、华南一带仍有大范围持续性强降雨过程

06-24 08:01:22

wallpaper wallpaper18 壁纸资源-世界实时

近日有一些小伙伴咨询小编关于wallpaperengine如何设置开机自动启动呢?

06-24 06:23:01

王勇平金句_王勇平 天天微资讯

1、2011年“7·23”甬温线动车追尾事故发生26小时之后,官方新闻发布会

06-24 04:03:11

环球头条:将普尔送走之后,勇士又签下了一名侧翼版本的大号普尔?

将普尔送走之后,勇士又签下了一名侧翼版本的大号普尔?,普尔,勇士,乔

06-24 01:11:29

成交转化率计算公式是什么_成交转化率计算公式|热讯

1、全店成交转化率成交用户数占访客数的百分比。2、即成交用户数 访客

06-23 22:41:54

环球消息!A股近13年最大IPO来了:募资650亿,三成用来还债?

公司在招股书中表示,2020年至2022年3年间,现代农业服务业务实现收入

06-23 21:45:50

焦点简讯:“预计端午节后调整”,有银行首套房贷利率或低至3.6%

华夏时报记者刘佳见习记者王兆轩北京报道  6月20日,贷款市场报价利

06-23 20:51:36

义乌房交会首日人气火爆!现场成交超9200万元! 天天热头条

宜居新都市,梦想新生活。6月23日上午,为期三天的2023义乌房地产交易

06-23 19:31:45

世界滚动:如何做到安全用气?9个安全提示请牢记!

此页面是否是列表页或首页?未找到合适正文内容。

06-23 18:49:08

速递!根据Sportklub的消息,克罗地亚前锋佩特科...

根据Sportklub的消息,克罗地亚前锋佩特科维奇决定将其欧国联决赛所穿

06-23 17:45:18

世界观速讯丨金川国际(02362.HK)6月23日收盘跌6.9%

截至2023年6月23日收盘,金川国际(02362 HK)报收于0 41港元,下跌6 9%

06-23 16:52:26

今日端午节!假期出行人数或为5年来最高:预计1亿人次|最资讯

快科技6月22日,今天是端午节,也是端午假期的第一天,大家都踏上行程

06-23 16:11:30

义务兵士官和直招士官有什么不一样 义务兵转士官和直招士官有什么区别直招士官需要什么条件

1、我先回答你直招士官和义务兵转士官的区别。2、直招士官指的是普通高

06-23 15:12:35

赵丽颖吴亦凡合作电视剧 赵丽颖吴亦凡|环球关注

1、话说《特工皇妃楚乔传》杀青已有段日子,前段时间有消息称颖宝8月份

06-23 14:10:56

天天通讯!帕克传承!马刺连选法国球员:状元文班+44号秀西索科 真国际纵队

帕克传承!马刺连选法国球员:状元文班+44号秀西索科真国际纵队,文班,

06-23 13:09:25

研发费用加计扣除申报方式优化|全球热议

本报北京6月22日电(记者王观)国家税务总局、财政部21日印发《关于优

06-23 12:10:07

ldquo connect to rdquo 与 ldquo connect with rdquo 的区别是什么

1、connectto与connectwith的区别为:读音不同、含义不同、用法不同。2

06-23 11:12:42

袁家健会见日本尼普洛株式会社执行董事岩佐昌畅一行_天天快资讯

深化拓展合作领域携手实现共赢发展袁家健会见日本尼普洛株式会社执行董

06-23 10:18:11

世界快报:暴雨黄色预警!7省区部分地区有大到暴雨 浙赣粤等部分地区大暴雨

中央气象台6月23日06时继续发布暴雨黄色预警:预计,6月23日08时至24日

06-23 09:43:14

全球热消息:房地产洗牌加速,酝酿3至5年投资机会

红周刊本刊编辑部|李壮自6月以来,资本市场的房地产板块出现了一些新景

06-23 08:34:32

每日快讯!江苏5月全社会用电量同比增长11.7%

新江苏·中国江苏网讯(记者梅剑飞许愿)6月20日,记者从国网江苏省电

06-23 07:56:10

前5个月我国新能源汽车出口同比增长1.6倍|今头条

中国汽车工业协会日前发布最新数据显示,伴随着促消费政策陆续出台,叠

06-23 06:15:22

白龙马原是什么之三太子小白龙叫什么名字_白龙马原是什么之三太子小白龙-当前讯息

1、白龙马原是西海龙王之三太子小白龙。本文分享完毕,希望对大家有所

06-23 04:43:58

darling in the fanxx_darling in the frank

1、《DARLINGintheFRANXX》人物大全2、广(HIRO)3、广(HIRO)4、人气

06-23 02:12:31

天天新动态:粽香端午节 佳节思党恩

为更好地继承和弘扬中华传统文化,不断提升党员同志的文化素养,强健精

06-22 23:24:33

今日热文:长沙市雨花区:点燃“新新”之火 凝聚基层治理“新”合力

活动现场。受访单位供图活动现场。受访单位供图为扎实推进党组织与新就

06-22 21:55:36

上升巨蟹(上升巨蟹很可怕-焦点资讯

太阳巨蟹男我不太了解,但前夫是上升巨蟹男,反正是各种软饭借钱胡吹乱

06-22 21:10:13

端午假期怎么过?大数据中找答案-每日精选

端午假期怎么过?吃什么?去哪玩?我们综合了一组来自零售、生活服务和

06-22 19:54:15

【意义日历】夏至 | 夏至节气以后,天气日渐炎热,如何做好“未病先防”?|全球短讯

作者简介 Profile 卫婷(1989―),女,主管护师,本科,上海中医药大

06-22 18:45:06

环球播报:申请陕西高院再审是亲自去还是把材料给中院原审法宫

申请陕西高院再审是亲自去还是把材料给中院原审法宫

06-22 17:13:08

五大联赛上赛季俱乐部+国家队参与进球:姆巴佩第1 哈兰德梅西23

五大联赛上赛季俱乐部+国家队参与进球:姆巴佩第1哈兰德梅西23,大联赛,

06-22 16:16:38

微软宣布重大突破,10 年内打造量子超级计算机_天天快讯

将未来250年的化学和材料科学进展压缩到未来25年

06-22 15:27:48

文化消费渐行渐暖

到大芬油画村选购原创油画、去甘坑新镇领略客家文化、来艺展中心欣赏家

06-22 14:19:57

网名男生霸气(网名男生霸气英文名)

1、凌宵云外英雄门2、不爱就算不稀罕3、倾城一夜雪4、生人勿扰5、不可

06-22 13:15:35

6月第三周车市加速回暖 “半年收官期”冲刺形势明显

不同于前两周的低迷,6月第三周(6月12日-6月18日)车市呈现加速回暖态

06-22 12:22:12

信使展期是什么意思(信使)

想必现在有很多小伙伴对于信使方面的知识都比较想要了解,那么今天小好

06-22 11:35:26

【世界说】美国因枪支死亡人数创历史新高!美媒:人们用枪支代替拳头来解决纠纷-简讯

据美国哥伦比亚广播公司(CBS)近日报道,美国“父亲节”周末的枪声造

06-22 10:40:12

俄国防部长:“西方国家在对俄罗斯发动一场真正的战争” 每日看点

当地时间21日,俄罗斯国防部长绍伊古在克里姆林宫陪同普京接见俄高等军

06-22 09:58:51

江苏4G全国流量王59元套餐(沃派版)可以改成其他套餐吗?

江苏联通的4G全国流量王59元套餐(沃派版)可以改成其他套餐吗?1、以江苏

06-22 09:27:51

汽车报道:向700万车主致敬广汽本田微纪录片上线 每日讯息

了解汽车资讯,掌握汽车知识,所以大家有空还是需要多看看汽车方面的信

06-22 08:59:19

每日快讯!杭州亚运会和亚残运会物流中心启用

杭州亚运会和亚残运会物流中心21日启用,各代表团物资可启程运往杭州。

06-22 07:58:26

晨读 | 盐的千种滋味

盐,在这个杳无人烟的地方,显出了它最深邃的滋味,凸显了它最高的价值

06-22 06:53:29

端午追浪|当AI也过端午节

当AI遇见端午节,AI做了一组海报祝每个人都能在仲夏的日子里安康逍

06-22 05:56:53

今日聚焦!银行卡怎么开通快捷支付功能(农业银行卡怎么开通快捷支付功能)

1、在手机上登录支付宝或者微信。2、在支付宝或者微信首页下方菜单栏点

06-22 04:48:23

天天要闻:基数词和序数词的区别和用法(基数词和序数词的区别)

来为大家解答以下的问题,数词和序数词的区别和用法,基数词和序数词的

06-22 01:49:25

赋能纺织服装产业链数字化转型 河南这场论坛干货满满

6月20日,2023中国产业转移发展对接活动(河南)在郑州开幕。作为本次

06-21 23:16:06

植物的变异和进化

1、《植物的变异和进化》是上海科学技术出版社出版的图书。2、作者是G

06-21 22:07:29

固收产品月报(2023年6月):债市基调偏多 债券产品净值或有扰动但风险不大_环球观天下
2023年养鸡上市公司龙头股票汇总 (2023/6/24)-最新资讯
【速看料】中央气象台发布暴雨黄色预警:南方大范围强降雨持续
wallpaper wallpaper18 壁纸资源-世界实时
王勇平金句_王勇平 天天微资讯
环球头条:将普尔送走之后,勇士又签下了一名侧翼版本的大号普尔?
成交转化率计算公式是什么_成交转化率计算公式|热讯
环球消息!A股近13年最大IPO来了:募资650亿,三成用来还债?
焦点简讯:“预计端午节后调整”,有银行首套房贷利率或低至3.6%
义乌房交会首日人气火爆!现场成交超9200万元! 天天热头条
世界滚动:如何做到安全用气?9个安全提示请牢记!
速递!根据Sportklub的消息,克罗地亚前锋佩特科...
世界观速讯丨金川国际(02362.HK)6月23日收盘跌6.9%
今日端午节!假期出行人数或为5年来最高:预计1亿人次|最资讯
义务兵士官和直招士官有什么不一样 义务兵转士官和直招士官有什么区别直招士官需要什么条件
赵丽颖吴亦凡合作电视剧 赵丽颖吴亦凡|环球关注
天天通讯!帕克传承!马刺连选法国球员:状元文班+44号秀西索科 真国际纵队
研发费用加计扣除申报方式优化|全球热议
ldquo connect to rdquo 与 ldquo connect with rdquo 的区别是什么
袁家健会见日本尼普洛株式会社执行董事岩佐昌畅一行_天天快资讯
世界快报:暴雨黄色预警!7省区部分地区有大到暴雨 浙赣粤等部分地区大暴雨
全球热消息:房地产洗牌加速,酝酿3至5年投资机会
每日快讯!江苏5月全社会用电量同比增长11.7%
前5个月我国新能源汽车出口同比增长1.6倍|今头条
白龙马原是什么之三太子小白龙叫什么名字_白龙马原是什么之三太子小白龙-当前讯息
darling in the fanxx_darling in the frank
天天新动态:粽香端午节 佳节思党恩
今日热文:长沙市雨花区:点燃“新新”之火 凝聚基层治理“新”合力
上升巨蟹(上升巨蟹很可怕-焦点资讯
端午假期怎么过?大数据中找答案-每日精选
【意义日历】夏至 | 夏至节气以后,天气日渐炎热,如何做好“未病先防”?|全球短讯
环球播报:申请陕西高院再审是亲自去还是把材料给中院原审法宫
五大联赛上赛季俱乐部+国家队参与进球:姆巴佩第1 哈兰德梅西23
微软宣布重大突破,10 年内打造量子超级计算机_天天快讯
文化消费渐行渐暖
网名男生霸气(网名男生霸气英文名)
6月第三周车市加速回暖 “半年收官期”冲刺形势明显
信使展期是什么意思(信使)
【世界说】美国因枪支死亡人数创历史新高!美媒:人们用枪支代替拳头来解决纠纷-简讯
俄国防部长:“西方国家在对俄罗斯发动一场真正的战争” 每日看点
江苏4G全国流量王59元套餐(沃派版)可以改成其他套餐吗?
汽车报道:向700万车主致敬广汽本田微纪录片上线 每日讯息
每日快讯!杭州亚运会和亚残运会物流中心启用
晨读 | 盐的千种滋味
端午追浪|当AI也过端午节
今日聚焦!银行卡怎么开通快捷支付功能(农业银行卡怎么开通快捷支付功能)
天天要闻:基数词和序数词的区别和用法(基数词和序数词的区别)
赋能纺织服装产业链数字化转型 河南这场论坛干货满满
植物的变异和进化
每日视讯:外汇主要货币对技术分析:美元、欧元、英镑、日元、澳元(2023/6/21)
X 广告
资讯
X 广告

Copyright ©  2015-2022 欧洲畜牧网版权所有  备案号:沪ICP备2022005074号-23   联系邮箱: 58 55 97 3@qq.com