科技传教士们乐于将“AI将吞噬世界”挂在嘴边——一句化用自风险投资家马克·安德森（Marc Andreessen）关于软件的名言。在过去的几周里，我们终于开始理解他们的意思了。

今年春天，科技公司们已经明确表明，无论人们是否愿意，AI 将成为网络生活的决定性特征。首先，Meta给了用户一个惊喜，在Instagram和Facebook搜索栏中上线了AI 聊天机器人。随后该公司通知欧洲用户，他们的数据正在被用来训练AI（这一通知显然只是为了遵守欧洲大陆的隐私法）。OpenAI则发布了GPT-4o，宣称这是更强大且更擅于对话的大语言模型的新版本。[其发布会有一个名为Sky的 AI 语音选项——斯嘉丽·约翰逊（Scarlett Johansson）声称该语音是在未经许可的情况下基于她的声音制作的，这一指控被OpenAI CEO萨姆·奥特曼（Sam Altman）否认。]与此同时，谷歌推出其搜索引擎的“AI概览”（AI Overviews）功能（在某种程度上又削减了该功能）。OpenAI还与《大西洋月刊》等媒体组织和Reddit等平台建立新的内容合作伙伴关系，这一做法基于AI 产品很快将成为网上接收信息的主要方式的假设。生产用于支持AI应用的微芯片公司Nvidia在五月底报告了创纪录的收益，其市值增加到超过 3 万亿美元。其CEO黄仁勋在台北的 AI 会议上得到了摇滚明星般的待遇，并且，呃，像摩托车手乐队（mötley crüe）的成员一样在一位女士的胸部上签名。

AI的部署速度令人眩晕，甚至令人警觉——对于一些最了解这项技术的人也是如此。本周早些时候，OpenAI及谷歌的员工和前员工发表了一封信，声明“强大的财务激励”使行业规避了有意义的监督。相同的激励似乎也导致公司生产了大量垃圾产品。例如Humane和Rabbit等公司的聊天机器人硬件，被吹捧为试图取代智能手机的产品，却在几乎无法工作的状态下发货。谷歌急于推出的AI概览功能——试图与微软、Perplexity和OpenAI竞争——导致了荒谬的缺陷和潜在的危险搜索结果。

Humane Ai Pin

—

Humane

换句话说，科技公司正在争先恐后地争夺资金和市场份额，并因此犯下了不必要的错误。不过，虽然科技公司可能搭建了这辆炒作列车，其他人则乐于搭上便车。各行各业的领导者正签署支票和达成协议，害怕错过下一个大事件。或许他们并不知道自己究竟陷入了什么，也不知道是否在无意中帮助了最终将摧毁他们的公司。据报道，《华盛顿邮报》的首席技术官Vineet Khosla已经告诉员工，该公司打算在新闻编辑部“广泛使用AI”，即使AI对新闻的价值在我看来还未经证实，且只是起到装饰性的作用。我们正在目睹飞机在空中仓促组装的情形。

作为最近与OpenAI签署协议的出版物之一的员工，当生成性AI把饕餮的目光投向你所在行业的一个小角落时，我对这是什么感觉有些许了解。当AI吞噬世界时，感觉如何？感觉就像被困住了。

这些媒体合作关系中有一种感觉像是勒索。科技公司肆无忌惮地训练大语言模型，声称从互联网上收集内容以开发程序是合理的使用。这是硅谷经典的“先行后许”（Ask for forgiveness, not for permission）增长策略的逻辑终点。以一种愤世嫉俗的方式来看待这些合作关系，媒体公司有两个选择：接受金钱，或接受 OpenAI扒拉他们的数据。这些条件更像是一场人质谈判，而不是一场双方都能接受的商业伙伴关系——这是媒体高管们在私下对彼此，偶尔也在公开场合中所作的观察。

出版物显然可以拒绝这些交易。他们有其他选择，但这些选择，用一个技术术语来说，不是很好。你可以起诉OpenAI和微软侵权，就像《纽约时报》所做的那样，希望设立一个法律先例，让提取式生成性AI公司为用于训练模型的任何作品公平地支付版权费用。这个过程对许多组织来说代价高昂，如果输了，他们除了法律账单外一无所获。这就留下了第三个选择：完全根据原则放弃生成性AI革命，阻止OpenAI这类公司的网络爬虫，并在你的竞争对手屈服并拿钱时，采取正当的道德立场。这第三条路径需要赌一把生成性AI时代被过度炒作的希望，赌《纽约时报》赢得官司，或赌政府介入调控这种提取业务模式——也就是说，这是不确定的。

出版商面临的情况似乎完美地说明了一个更广泛的动态：没有人确切知道该怎么办。考虑到生成性AI是一种迄今为止以模糊和不一致为特征的技术，这一点并不令人惊讶。谷歌用户第一次遇到 AI 概览时可能不明白它们是干什么的，或者它们是否比通常的搜索结果更有用。同时，现有工具与我们被告知的未来之间也存在差距。我们被告知，创新曲线将是指数级的。我们被警告，范式即将改变。我们被告知，普通人几乎别无选择，特别是随着电脑规模的扩大和增强：当我们与这个被承诺的未来的概念较劲时，我们只能体验一种低级别的迷惘。与此同时，世界各地的ChatGPT正被科技公司强加给我们，这些公司坚持认为这些工具在某种程度上应该有用。

但这些媒体合作关系有一个替代的框架，表明这是为困境中的媒体组织提供审慎机会的时刻。出版商早已是算法的供应商，而媒体公司几十年来一直在做亏本生意，允许像谷歌这样的平台索引他们的网站，仅仅换来流量指引。在这种逻辑下，与OpenAI签约不是屈服或好生意：这是一种反击平台并设定规则的方式：你必须为我们的内容付费，如果你不付费，我们就起诉你。

在过去的一周中，我与几家与OpenAI协商过的不同公司的高管进行了对话，我了解到这家科技公司对出版商数据训练其模型的兴趣不大，而更关心实时访问新闻网站以供OpenAI即将推出的搜索工具使用。（我同意保持这些高管的匿名，以便他们可以自由地谈论他们公司的交易。）对科技公司来说，获得出版商合作伙伴数据在两个方面有帮助：首先，它允许OpenAI在用户询问敏感问题时引用第三方组织，这意味着OpenAI可以声称其产品中没有做出编辑决定。其次，如果该公司有志于取代谷歌成为占主导地位的搜索引擎，它需要最新的信息。

我被告知，媒体组织可能在持续谈判中拥有筹码：理论上，OpenAI将继续需要更新的新闻信息。其他搜索引擎和AI公司想要竞争，也需要这些信息，只是现在已经有了一个先例，他们应该为此付费。这可能会为出版商创造一条持续的收入流，通过许可获得。这并不是前所未有的：唱片公司曾与YouTube等平台在版权问题上进行过斗争，并找到了获得补偿的方式；话虽如此，新闻组织并不是在贩卖泰勒·斯威夫特的歌曲。（OpenAI 和《大西洋月刊》的发言人确实向我澄清，根据为期两年的合同，科技公司可以在《大西洋月刊》的内容上训练其产品。但如果交易结束后未续签，OpenAI 将不得使用大西洋数据训练新的基础模型。）

拉远镜头，即便是这种乐观的思考方式也变得困难重重。我们真的想生活在一个由生成性AI公司在网上控制信息流动的世界中吗？从搜索引擎到聊天机器人的过渡将是极大的颠覆。谷歌是不完美的，其产品可以说是在退化，但它通过允许优化的内容触达观众，为网络创意工作提供基础商业模型。也许搜索范式需要改变，网页变成遗迹也是自然的。然而，这种颠覆的规模和科技公司建议每个人都加入的轻率态度，给人的印象是AI开发者并不关心对可持续模式的探寻，以让创意工作繁荣发展。正如朱迪斯·多纳思（Judith Donath）和布鲁斯·施耐尔（Bruce Schneier）最近在《大西洋月刊》撰文所写的那样，AI“威胁要破坏复杂的在线生态系统，这个系统允许作家、艺术家和其他创作者触达受众”。遵循这种逻辑，事情很快就会变得存在主义：如果人们不能通过创作来谋生，他们还有什么动力去创作呢？

如果你感觉你的大脑在头骨内开始扭曲，那你就完全体验到了生成性AI革命闯入你的行业的感觉。这就是真正的颠覆感觉。它是混乱的。它是仓促的。你被告知这是一个充满机会的激动人心的时刻，即使实际意义上并不十分明确。

没有人知道接下来会发生什么。生成性AI公司已经构建了一些工具，尽管这些工具在提高生产力方面很受欢迎并且名义上有用，但它们只是构建人类级智能这一终极目标的微弱影子。然而，这些公司资金充足，行事激进，并能利用令人窒息的炒作周期来积累权力，并以明确的目的冲进任何行业，使自己成为中心角色。这一时刻的技术成就是否值得颠覆，还是炒作慢慢消退，留下的互联网比现在更破碎？经过近两年最新一轮AI炒作之后，唯一清楚的是，这些公司不需要构建“天网”来破坏。

AI吞噬世界是技术拥趸用来描述这一过程的一种胜利而激动人心的说法。但这不是唯一的解读方式。人们可以以一种威胁性的方式解读它，作为对迅速强劲的“殖民化”的战斗口号。最近，我听到这一说法时的语调是无奈的，那种伴随着耸肩和被迫摊手的语调。未说出口的是，当原材料——食物——被消耗和消化，营养成分被提取出来后，会发生什么。我们没有大声说出来，但我们知道它会变成什么。

作者：Charlie Warzel

翻译：EY

封面：Photo by Denny Müller on Unsplash

原文：https://www.theatlantic.com/technology/archive/2024/06/ai-eats-the-world/678627/

本文素材来源于网络，人工智能产业链联盟（union）整理编辑，不代表人工智能产业链联盟（union）立场，转载请注明，如涉及作品版权问题，请联系我们删除或做相关处理！

编辑：Zero