关于AI，你现在必须知道的五件事

原文：Five things you need to know about AI right now

Will  Douglas  Heaven｜MIT Technology Review｜2025.07.22

上个月，我在 SXSW London 做了一场名为《你现在需要了解的关于 AI 的五件事》的演讲——这是我个人挑选的、当下 AI 领域最重要的五个观念。

这场演讲面向的是普通大众，也算是我对 2025 年 AI 的整体思路的一次快速导览。我在这里分享出来，供你参考。我觉得里面每个人都能找到点什么。有些内容还挺有趣的，我甚至还讲了几个笑话！

视频现已上线（感谢 SXSW London）。下面是我这“五件事”的简要版本。也欢迎告诉我，你会不会选不一样的五条！

1. 生成式 AI 已经好到令人害怕

你也许会觉得这显而易见。但即便是我——职责就是持续跟进这项技术的人——也不得不不断校正自己对它发展速度的判断。

几个月前，我的同事、也是你们熟悉的《Algorithm》专栏作者詹姆斯·奥唐奈（James O’Donnell），给《MIT Technology Review》编辑部分享了 10 段音乐，挑战我们判断哪些是生成式 AI 制作的，哪些是人类创作的。结果，几乎所有人的判断都比“瞎猜”还差。

音乐领域发生的事，正在所有媒介中同步发生——从代码、机器人、蛋白质合成到视频。看看人们正在用 Google DeepMind 的 Veo 3 这类新视频生成工具做什么吧。而且，这项技术正在被塞进一切东西里。

我想说的重点是：不管你认为 AI 是人类史上最好的发明，还是最糟糕的威胁，都不要低估它。它已经很强，而且还在变得更强。

2. 幻觉是功能，而不是缺陷

当然，也别忘了那些翻车现场。当 AI 编造事实时，我们称之为“幻觉”（hallucination）。比如：客服机器人承诺根本不存在的退款；律师提交的法律文件里引用了根本不存在的判例；又或者，小罗伯特·肯尼迪（RFK Jr.）领导的政府部门发布了一份报告，引用的却是不存在的学术论文。

你会经常听到一些说法，把“幻觉”描述成一个亟待修复的问题。但更准确的理解是：这恰恰就是生成式 AI 一直在做、也被设计来做的事情。生成模型本来就是被训练来“编造内容”的。

真正令人惊讶的不是它会胡说八道，而是它胡说八道时，往往还能对上现实。这为什么重要？首先，我们必须清楚这项技术能做什么、不能做什么。其次：不要指望未来会出现一个完全不产生幻觉的版本。

3. AI 极其耗能，而且还在变得更耗能

你大概已经听说过，AI 很“吃电”。但这种印象，主要来自训练这些巨型模型所需的巨大电力，而训练本身其实并不是天天发生。

真正的变化在于：这些模型如今每天被数亿人使用。虽然单次调用模型所消耗的能量远低于训练，但当用户规模达到这种量级时，总能耗就会急剧攀升。

以 ChatGPT 为例，它每周有 4 亿用户，已经成为全球访问量第五高的网站，仅次于 Instagram，高于 X。其他聊天机器人也在迅速追赶。

所以，科技公司争相在沙漠里建数据中心、改造电网，也就不足为奇了。

事实上，我们一直不太清楚这波 AI 热潮究竟消耗了多少能源，因为几乎所有主要技术公司都不愿公开相关数据。

不过，这种情况正在开始改变。我的几位同事与研究人员合作了数月，对一些开源版本的技术进行了能耗测算。（强烈建议你看看他们的发现。）

4. 没有人真正知道大语言模型是如何工作的

当然，我们知道如何把它们造出来，也知道如何让它们表现得非常好——这一点请回看第 1 条。

但它们“为什么”能做到这些，依然是一个未解之谜。感觉就像这些东西是从外星来的，科学家只能从外部对它们敲敲打打，试图搞清楚它们的本质。

令人难以置信的是：人类历史上，从未有过一种被数十亿人使用的大众技术，却在机理层面如此缺乏理解。

这为什么重要？因为在真正理解它们之前，我们就无法准确判断它们能做什么、不能做什么；无法知道该如何控制它们的行为；也无法彻底理解“幻觉”从何而来。

5. AGI 并不意味着任何确定的东西

不久之前，谈论 AGI 还属于边缘话题，主流研究者提起它都会感到尴尬。但随着 AI 变得越来越强、也越来越赚钱，严肃的人开始毫不避讳地宣称：他们即将创造出 AGI——不管那究竟是什么。

AGI，即“通用人工智能”（artificial general intelligence），如今通常被理解为：在广泛的认知任务上，能够匹敌人类表现的 AI。

可这到底是什么意思？怎么衡量“表现”？和哪些人类比？“广泛”到什么程度？而“认知任务表现”本身，其实就是“智能”的另一种说法——这个定义本身就是循环的。

事实上，如今人们提到 AGI，往往只是想说：比现在更强的 AI。

人们对 AI 进步抱有一种近乎宗教般的信念——它过去在进步，所以未来也一定会继续进步。但实际上，没有任何证据表明这一点必然成立。

那么，这一切把我们带到了哪里？我们正在建造一些机器，它们在模仿人类行为的某些方面上变得越来越擅长，但这项技术依然存在严重缺陷，而我们也才刚刚开始弄清它究竟是如何运作的。

我对 AI 的理解是这样的：我们已经造出了具有类人行为的机器，但仍然没能摆脱一个习惯——在它们背后想象出一个类人的“心智”。这会导致我们高估 AI 的能力，也会加剧技术乐观派与技术怀疑派之间的文化战争。

对这项技术感到震撼是合理的；对围绕它的许多说法保持怀疑，同样合理。现在仍然处在非常早期的阶段，一切都尚未定型。

作者简介：Will  Douglas  Heaven 是 MIT Technology Review 的 AI 杂志高级编辑（Senior AI Editor），长期负责报道人工智能领域的新技术趋势及其背后的关键人物与故事。他拥有帝国理工学院的计算机科学博士学位，并曾担任 BBC “Future Now” 网站的创始主编，以及 New Scientist 杂志的首席科技编辑。他身处伦敦，从业超过 13 年，不仅深谙技术细节，也擅长以生动笔触将复杂理论变为浅显洞见。他的作品兼具技术深度与人文关怀，对 AI 的伦理、社会影响等问题尤为关注。

本文收录于我每周五更新的《灵感电波》第 86 期。 每期我会精选 5 篇值得一读的深度好文，用中文精编呈现。 如果你喜欢这样的内容，欢迎订阅。