内容开头  |   本文摘编自中信出书集团书本

《AI 万金油：交易幻想与科技怒潮》

[ 好意思 ] 阿尔文德 · 纳拉亚南（Arvind Narayanan）

[ 好意思 ] 萨亚什 · 卡普尔（Sayash Kapoor）著

责编  | 柒   排版  | 琐闻

第 9248  篇深度好文：4058  字 | 11 分钟阅读

险些每个行业皆在谈 AI ——它能运筹帷幄、能写稿、能联想、能有推测打算。AI 似乎无所不行，成为新时期的"万金油"。

无论是素质、医疗、金融如故法律规模，皆有东说念主敬佩：AI 能让系统更高效、更刚正、更颖异。

但正如普林斯顿大学的信息技妙策谋中心主任阿尔文德 · 纳拉亚南（Arvind Narayanan）与他的博士生萨亚什 · 卡普尔（Sayash Kapoor）在《AI 万金油：交易幻想与科技怒潮》中指出的那样，每一次技巧狂热，皆会奉陪新的幻觉。

AI 的真确问题，经常不在算法自身，而在于围绕它的故事——那些由公司、研究者、媒体与公世东说念主物共同编织的"智能别传"。

这本书教导咱们：AI 炒作并非单一事件，而是一种机制。它由交易利益驱动、由技巧乐不雅方针润色、由新闻媒体放大，再由咱们每个东说念主的剖析偏见鼓舞。

于是，AI 成了一个全能叙事——既是坐褥力改进的记号，又是东说念主类终将被取代的预兆。

当一个模子被描画为"像东说念主相通交融谈话"、当一项技巧被称作"正在重塑好意思丽"，咱们更容易被庞杂的故事打动，而非去追问数据、考据法式与施行效果。

纳拉亚南和卡普尔在书中提议，AI 炒作的危害不单是夸大预期，更在于它诬陷了所有这个词技巧生态的要点——资金、东说念主才、计谋与公论皆被诱惑到"更大的模子"和"更强的智能"上，而非那些真确能处治问题的应用场景。

追赶新模子天然紧要，但更要道的是识别 AI 炒作的机制。只消在交融幻觉怎样酿成的前提下，咱们才能幸免被幻觉所傍边。

本文整理自《AI 万金油》第七章为何干于 AI 的迷念念佛年累月，带您识别 AI 狂热的五大成因。

一、成本驱动：AI 研究依附交易逻辑

AI 的发展历程永久伴跟着对其才能的过度乐不雅。短期内的炒作能诱惑成本和退换，带来快速增长；但这种高预期也为现实发扬设下了过高门槛，一朝本旨无法好意思满，" AI 极冷"便会驾临。

现代 AI 研发高度依赖企业资助。无论是算力、硬件如故东说念主力成本，现代大模子的斥地皆超出大多数学术机构的才能范围。

因此，比年来最苍劲的 AI 系统险些皆出自 OpenAI、谷歌和 Meta 等公司。越来越多研发东说念主员也随资金流向企业，成为交易研发的一部分。

探究到行业资金和影响的作用，企业更敬纷乱致整合到盈利产物中的工程打破，而非科学交融。

许多公司以至在统统交融产物职责旨趣之前就推出新技巧，使得这些技巧看起来像"魔法"。因此，研究东说念主员经常知说念哪些 AI 技巧有用，但由于衰退时刻和资源，尚不清亮其背后的运行机制。

同期，研发东说念主员出于声望或竞争压力，常发表未经实证考据的推测性声明。这些言论因作家的泰斗而被误觉得事实。

更有甚者，谈话上的夸张进一步生长炒作——诸如"东说念主类级阅读交融"这么的说法，经常仅基于基准数据集的收尾，而非现实应用。

二、科学失真：

AI 学术研究的可复制性危险

鼓舞 AI 炒作的并不单是是企业。许多被媒体鄙俚传播的" AI 打破"，其实源自学术研究；但这些后果经常并不牢靠，因为 AI 规模正遭受一场可复制性危险。

可复制性是科学研究的基石——只消当孤苦团队在沟通条款下大致重叠实验并获取一致收尾时，论断才具有着实度。

关联词，在 AI 研究中，这一原则正被系统性淡薄。挪威科技大学对顶级会论说文的审查发现，莫得一篇研究统统安静可复制圭臬：实验代码未公开，数据集受限，参数缺失，收尾难以考据。

举例，OpenAI 的 Codex 模子被鄙俚用于学术研究，如故在上百篇论文中被援用。Codex 对编程任务相配有用，但与大多数其他 OpenAI 模子相通，它并非开源，因此用户需要依赖 OpenAI 的劳动来使用模子。

2023 年 3 月，OpenAI 书记将住手撑捏 Codex，何况仅提前三天见知用户。

这一决定导致数百篇学术论文失去可复制性，孤苦研究东说念主员无法考据这些研究的有用性，也无法在其基础上进一步探索。

除了研究东说念主员对交易 AI 模子的依赖，AI 模子的评估形貌也存在严重问题。常见的"数据泄漏"间隙使得收尾被东说念主为夸大：模子在锻练中斗殴过的样本在测试阶段再次出现，格外于在锻真金不怕火前提前看到题目。

三、媒体放大：新闻制造"智能幻觉"

每天皆有计划于 AI 新竖立的报说念充斥媒体。这些新闻时常衰退深化分析，而是专注于 AI 实现的惊东说念主跳动，却很少提尽头局限性。

为了更好地交融新闻中的 AI 炒作，2024 年分析的 50 篇新闻著作研究媒体怎样助推炒作中知道，新闻报说念佛常未经批判地重叠研究机构的宣传，时常使用机器东说念主的图片，对 AI 进行拟东说念主化描画，并淡化其局限性。

即使是新闻报说念中使用的 AI 图片，也可能误导公众对 AI 职责旨趣的交融。

许多对于 AI 的著作配有机器东说念主的图片，即使究诘的应用与机器东说念主毫无关系。这种视觉呈现误导东说念主们将 AI 等同于机器东说念主。

AI 新闻报说念中过甚其辞的原因有好多，最主要的原因之一是媒体濒临的经济压力。应酬媒体的兴起和点击量驱动的新闻口头使得谋利性深度报说念的才能大幅下落。

同期，当作一个相对新兴的规模，AI 的技巧复杂性也使记者难以具备弥漫的专科学问来揭穿公司可能的万金油式宣传。

另一方面，销售 AI 产物的公司时常领有充足的资金用于公关宣传。如若记者的报说念过度月旦，公司可能会放手其对新产物的看望权限，或不容其斗殴里面音问开头。

对职责包袱千里重、衰退时刻进行深化窥探的记者而言，与公司保捏精采关系经常显得更为紧要。在这种情况下狭窄修改公司提供的新闻稿后凯旋发布，成为一种既省时又能安静两边需求的采纳。

四、泰斗加捏：精英话语陆续别传

在 OpenAI 发布 GPT-4 不到一个月后，人命异日研究所发表了一封公开信，命令暂停锻练"比 GPT-4 更苍劲"的谈话模子，为期 6 个月。

这封信得到了包括埃里克 · 施密特和埃隆 · 马斯克在内的广阔著名研究东说念主员和技巧大家的签名撑捏。

信中提议 : "咱们是否应该让所有职责皆自动化，包括那些能带来安静感的职责 ? "（原文强调）。

GPT-4 发布时，围绕其在东说念主类锻真金不怕火（如讼师执业经历锻真金不怕火和好意思国医流派司锻真金不怕火）中的发扬产生了无数炒作。信中凯旋采纳了 OpenAI 的说法，宣称"现代 AI 系统现在在一般任务上已具备与东说念主类竞争的才能"。

关联词，聊天机器东说念主在基准测试上的发扬，并不行有用说明它们在现实寰宇中是否大致自动化职责。

尽管信中名义上月旦了聊天机器东说念主的缓慢部署，同期却夸大了它们的才能，将其描画得远比施行苍劲。这种措辞施行上匡助了联系公司，塑造出它们正在创造超越现实的新技巧系统的形象。

信中还报告说念 : "咱们是否应该斥地可能最终数目超越东说念主类，智商超越东说念主类，使咱们落伍并取代咱们的非东说念主类念念维 ? 咱们是否应冒着失去对好意思丽的法例的风险 ? "

AI 社区里面对于失控 AI 可能带来生涯风险的担忧正在升温，而信中对于"失去对好意思丽的法例"的表述恰是这一担忧的体现。

咱们承认念念考 AI 耐久影响的紧要性，但这些对异日的担忧如故漫衍了应答 AI 现时真确伏击风险的资源和堤防力。

五、剖析偏见：

东说念主类为何愿意信赖 AI 名胜

到此为止，如故看到公司、研究东说念主员、记者与公世东说念主物怎样共同鼓舞 AI 别传。

但若公众能保捏批判性念念考，这些叙事随机能成立。问题在于，咱们每个东说念主皆受到剖析偏见的影响。

诠释深度错觉让东说念主误以为我方交融复杂系统。这种错觉可能导致过度自信，使东说念主们不去提议批判性问题或探索其他可能性。

举例，AI 是一个浮浅的术语，但很少有东说念主有时刻深化了解其不同类型，因而无法酿成对不同 AI 应用的具体看法。

启动效应让科幻意料主导咱们对 AI 的想象；举例，科幻演义和大家媒体耐久以来将 AI 与机器东说念主有计划在一齐。关联词，AI 的应用远超机器东说念主规模。

作假真谛效应使重叠的信息更容易被信赖；正如咱们所见，对于 AI 的不准确主张常被不同利益联系者（包括记者）一再重叠，因此公众信赖这些说法并不令东说念主不测。

锚定偏见让咱们固守最初印象，即使字据更动；在 AI 的究诘中，东说念主们经常会紧紧收拢公司对 AI 才能的夸大主张，当这些主张的残障被揭露时，他们可能不会实时修正我方的看法。

说明偏见让东说念主只给与妥当自身信念的讯息。一朝咱们启动给与那些逐利公司发布的营销主张，就容易堕入一种给与 AI 庞杂主张的反映轮回，而淡薄其潜在残障。

列举这些例子的标的不是诽谤东说念主们。剖析偏见并非特意为之，施行上公司、研究东说念主员和记者是在愚弄这些偏见来牟取利益。

关联词，交融这些偏见不错匡助你提前识别并退守 AI 炒作，大致在遇到炒作时作念出反击，并别离伪技巧的 AI 产物。

虽然尚未得出最终论断，但最新研究标明，通过锻练不错减少东说念主们对偏见的敏锐性。

六、识别 AI 炒作：

设立你的"技巧免疫系统"

交融 AI 狂热的成因，是设立感性判断的前提。但更紧要的是，咱们如安在威望汹汹的 AI 叙事中保捏领会。

面对下一次"颠覆性打破"或"智能改进"，不错从以下三个维度熟练一种"技巧免疫力"：

1. 追问数据，而非故事。

当听到某项 AI 技巧"杰出东说念主类""实现打破"时，先问三个问题：

它的测试数据是否公开？是否经过孤苦考据？收尾是否能在现实环境中复现？

如若谜底婉曲或秘密，这经常是"主意当先于才能"的信号。

2. 识别叙事背后的动机。

AI 炒作之是以反复出现，是因为每一方皆从中获益：

公司需要融资，学者需要声望，媒体需要流量，公世东说念主物需要态度。

交融这些叙事的经济学，有助于判断信息的可靠度。越是强调"改进""名胜"的说法，越需要保捏距离。

3. 用现实场景来校验

任何真确的技巧打破，最终皆要落在"更动经过、裁汰成本、普及体验"上。

如若一个 AI 技俩只停留在主意演示、宣传视频或投资说明书中，而莫得本色性更动任何东说念主的职责形貌，那么它更可能是一种幻觉。

下次当你看到 90% 的准确率，或在对于金融规模的 AI 的著作中看到机器东说念主图遽然，就会探究这些描画是否存在误导。一朝你启动养成这种民俗，识别"冲口而出"可能会成为一种自动的条款反射。

* 著当作作家孤苦不雅点，不代表札记侠态度。

好文阅读推选：

共享、点赞、在看体育游戏app平台，3 连 3 连！