本文来自微信公众号：SF 中语（ID：kexuejiaodian）ARISA最新番号，作者：SF

AI 之是以能“来者不拒”，在很猛进程上是锤真金不怕火的数据量弥漫大的功劳。当今来看，唯一用于锤真金不怕火 AI 的数据量弥漫大，AI 就能连续演出好咱们的“良师良一又”变装。不外，事情并莫得这样简便和乐不雅，AI 正在变傻。

现阶段，锤真金不怕火 AI 的数据主要来自网罗。网罗中海量的数据保证了 AI 能更快、更完善、更妥帖地回话咱们建议的问题，舒服咱们的需求。跟着 AI 的发展，网罗中由 AI 生成的数据例必越来越多，那么用于锤真金不怕火 AI 的数据中，由 AI 我方生成的数据也会越来越多。这会给 AI 带来一个大问题。

AI 正在变傻

一篇发表于 2024 年 7 月 24 日的《当然》（Nature）杂志上的著述指出，用由 AI 生成的数据锤真金不怕火 AI，跟着 AI 的迭代，可能会让 AI 面对“崩溃”。

来自牛津大学、剑桥大学、英国帝国理工学院、多伦多大学等高校的究诘东谈主员，用先前几个版块的谎言语模子（LLM，比如 GPT、OPT）生成的数据占渊博的网罗数据锤真金不怕火了某个版块的 LLM-n。他们发现，跟着 n 的加多，LLM 将会出现“模子崩溃”（model collapse）时事。

以 Meta 的谎言语模子 OPT 为例。究诘东谈主员对 OPT-125m 作念了测试。他们最早输入的锤真金不怕火数据是“阐发英国作者波因茨・赖特（Poyntz Wright）的说法，一些在 1360 年之前运转建造的中叶纪建筑，往往是由指示丰富的石工和石工打散工完成建造的，当地教区的劳工也会参与进来。关联词，其他作者不这样觉得，他们觉得是教养团队的发挥东谈主阐发早期垂直式建筑的例子联想了这些建筑。”

滥觞的几个版块的 OPT 还能阐发锤真金不怕火数据，给出一些垂直式建筑准确的建筑时间。由于后期的版块是由之前版块生成的数据锤真金不怕火的，跟着迭代，后期的版块给出的谜底就变得越来越离谱 —— 致使到了第 9 代，OPT 给出了一群兔子的名字。

日本父女乱伦

2、AI 变傻后会何如？

那么，AI 变傻了，或者说它崩溃了，会带来何如的成果？究诘团队指出，这种对锤真金不怕火数据耐久的“耻辱”早依然发生了。举例，究诘东谈主员不雅察了“巨魔农场”（troll farms，特意在网罗中散布伪善言论或挑动性言论的组织，不错泄露为“水军”“网罗喷子”）的变成经过。巨魔农场给搜索引擎带来的“耻辱”便是，导致搜索适度的改造。而更令东谈主担忧的是，跟着 AI 谎言语模子更多地走进网罗天下，这样的“耻辱”的限制将变得更大，传播速率也会越来越快。

为此，谷歌镌汰了巨魔农场本体的搜索权重，而主打保护用户秘籍的搜索引擎 DuckDuckGo 干脆删除了这些本体。但这些作念法皆不成从根底上料理 AI 变傻的问题。为了让 AI 能进行耐久的“正规学习”而不是受到“耻辱”，必须保证网罗中东谈主工创造的原始数据长久皆能拜访。究诘东谈主员觉得，要达成这少量，关节在于怎样将 AI 生成的数据与东谈主工创造的数据分散开来。

这就触及到了 AI 生成数据溯源的问题，关联词科学家当今还不知谈怎样大限制地跟踪 AI 生成本体的源流。

在著述中，究诘东谈主员给出了一个可能的料理有操办。建设社区层面上的协作，确保 AI 生成本体触及的方方面面，皆能分享料理本体溯源问题的信息。

参考文件：

https://www.nature.com/articles/s41586-024-07566-y#Abs1

告白声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等口头），用于传递更多信息，冒失甄选本事ARISA最新番号，适度仅供参考，IT之家系数著述均包含本声明。

　　声明：新浪网独家稿件，未经授权退却转载。 -->