[NYT] AI垃圾满天飞 ，科技公司开展 人工智能废物大 扫除

AI垃圾满天飞，科技公司开展人工智能废物大扫除

TIFFANY HSU

2026年8月18日

Lia Sued C.

人工智能最糟糕的垃圾内容已经用胶水披萨食谱 ⁰淹没了谷歌搜索，用虚假传记 ¹塞满了亚马逊商品列表，用大虾耶稣图片 ²充斥于Facebook信息流。

这片数字污水池已经在科技平台上蔓延开来，令有意义的内容变得廉价，污染了信息生态系统，而聊天机器人和视频生成器仍在步步推进。

现在，硅谷想要清除这些垃圾。

音乐流媒体平台Spotify表示去年下架了7500万条批量上传、重复歌曲和其他“垃圾”音乐 ³——这占其总曲库的相当大一部分。领英在7月表示，“应对AI垃圾内容是我们所有人的首要任务，”并开发了一个供用户举报的按钮 ⁴。YouTube母公司谷歌的研究人员描述了该视频平台如何在六个月内清除了13万个内容质量低劣的频道。

领英最近为用户开发了一个“看起来像AI垃圾内容”的按钮。 LinkedIn

在整个互联网，科技公司正在进行一场生成式废物大扫除，在许多情况下，它们已被自家AI工具最初所催生的同样垃圾内容所淹没。移动消息应用 ⁵、餐厅点评网站 ⁶、学术档案库 ⁷和婚恋服务 ⁸都在根除或降级AI生成的垃圾内容——其中许多依赖同样的技术 ⁹来完成这次清理。

人们已经开始厌倦AI对环境 ¹⁰的影响、对就业 ¹¹和心理健康 ¹²造成的压力。全球事务智库卡内基国际和平基金会研究员、内容创作者艾丹·沃克表示，AI垃圾内容只是又一个“溃烂的伤口”。“用户渐渐对此越来越不满，”他说，“舆论氛围已经明显转变，所以这些公司终于开始正视这些问题。”

生成式AI能够制作出越来越逼真的图像、音频和视频，但其中只有一部分算得上垃圾内容。科技公司主要针对的是那种低质量的点击诱饵——容易制作、传播、消费和遗忘——就像快时尚挤掉了高级定制，粉红肉渣取代了牛排。

如果不加遏制，网上的合成沼泽可能会“排挤人类创造力，腐蚀文化价值，并破坏公共话语”，欧洲研究人员去年写道 ¹³。

AI垃圾内容已经变得如此普遍，以至于词典出版商韦氏公司在2025年将其选为年度词汇 ¹⁴。法国流媒体服务Deezer今年春天表示 ¹⁵，每天更新到其系统的曲目中近一半是生成的，其中许多从未被用户听过。在上传到Apple Music ¹⁶的内容中，AI生成的音乐占比在三分之一以上。

Instagram负责人亚当·莫塞里在去年年底表示，追踪“真实媒体将比追踪虚假媒体更实际 ¹⁷”。他的观察是在Meta（Instagram母公司）推出一个全AI视频流不久后发表的，该视频流被许多人嘲笑为垃圾内容的展示窗口 ¹⁸。

许多现在试图管理AI垃圾内容的科技公司也正是助长它的那批公司。7月，Meta承诺支持一项欧洲协议 ¹⁹，通过检测、标记和标注使AI生成的内容更容易识别。同月，该公司还发布了一款图像生成器，自动将公开的Instagram账户作为该工具的参照。（经过连续三天的舆论抵制，Meta移除了该功能 ²⁰。）“AI垃圾内容是一把双刃剑，因为许多平台因此获得了参与度的提升，”俄亥俄大学AI专家保罗·肖夫林表示，“但后来它变成了一种负担，因为垃圾太多了，用户现在很难找到他们想要的那种质量的内容。”

例如，谷歌已全力投入 ²¹AI，将其Gemini模型与电子邮件、地图和旅行服务以及搜索相连接。根据去年由在线视频编辑器Kapwing进行的一项实验 ²²，YouTube上为新用户推送的初始短视频中有超过20%是AI生成的垃圾内容。

位于加利福尼亚州山景城的谷歌园区，该公司移除了5万个账号群组。 Kelsey McClellan for The New York Times

Kapwing估计，最受欢迎的YouTube垃圾内容频道之一 ²³每年赚取425万美元。（该频道此后已被暂停参与YouTube的创收计划。）YouTube首席执行官尼尔·莫汉在一篇博客文章中 ²⁴写道，“管理AI垃圾内容”是今年的首要任务。

最近，谷歌的研究人员 ²⁵考虑了这一挑战。他们没有逐个评估视频，而是着眼于上传速度、重复模板和其他可能表明协同滥用行为 ²⁶的模式。他们发现了5万个账号群组，并将其移除。然而，一些数字媒体专家担心这种方法可能矫枉过正 ²⁷，也会惩罚那些发布大量内容的合法创作者。

“虽然学术研究有助于推动行业理解，但它并不能反映我们用于执行政策的许多层防御措施，”YouTube在一份声明中表示，“这包括强有力的保障措施，以确保使用AI工具的善意创作者不会受到影响。”

其他公司正在转向各种策略来应对AI垃圾内容，包括动员自己的用户帮助识别。10月，Pinterest更新了系统 ²⁸，允许用户限制他们看到的AI生成帖子数量。TikTok表示正在美国测试一项功能，让用户可以自行调节看到的AI内容量。（该公司还表示已自动标记了超过30亿个AI生成的视频。）TikTok在今年前三个月删除了超过37.7万个 ²⁹违反其AI政策的视频。

10月，Pinterest更新了系统，允许其虚拟展板用户限制他们看到的AI生成帖子的数量。 Pinterest

根据AI检测初创公司Pangram的数据 ³⁰，在埃隆·马斯克的社交媒体平台X上，字数超过50的帖子中有近一半是使用AI创建的。本月刚卸任X产品主管的尼基塔·比尔写道，为了应对“大量的AI垃圾内容和回复垃圾”，该社交媒体平台今年禁止了那些通过付费鼓励机器人发帖的应用 ³¹。

Substack首席执行官克里斯·贝斯特上个月说 ³²，“在互联网上越来越难分辨什么是真实的，”并且“奖励虚假内容的平台将导致逐底竞争”。这个通讯平台宣布为用户推出自己的AI检测工具 ³³，由Pangram提供支持，旨在扫描回复、评论和超过100字的帖子，并判断它们可能是人工撰写还是借助AI完成的。一些通讯作者抱怨说，该工具将人类撰写的帖子误判为AI生成，没有考虑到AI在创作过程中的潜在作用，并给作者带来了不必要的压力，要求他们根据一个不透明的标准来证明自己的清白。

今年春天，卡米尔·弗朗索瓦和二十多位AI专家在加利福尼亚州门洛帕克的一次“垃圾沙龙 ³⁴”活动中会面，讨论了分类并藉此管理AI垃圾内容的困难。

“这种策略大杂烩表明，我们面临的是信息环境中的一个系统性问题，而不仅仅是一类可以简单定义和移除的名为垃圾内容的坏内容，”在哥伦比亚大学研究有害数字技术的弗朗索瓦接受采访时说，“AI归根结底是一种创造工具，而且具有多面性，那些处理不当的平台将会看到用户流失并转向其他地方。”

Tiffany Hsu ³⁵报道错误信息、虚假信息及其起源、动向和后果。她从事新闻行业已有20多年。

翻译：纽约时报中文网 ³⁶

⁰ 胶水披萨食谱: https://www.nytimes.com/2026/06/20/business/media/people-inc-ai-test-kitchen.html
¹ 虚假传记: https://www.nytimes.com/2026/07/16/technology/ai-slop-books-biography-amazon.html
² 大虾耶稣图片: https://www.nytimes.com/2024/03/29/podcasts/ais-messy-moment-listeners-respond-to-jonathan-haidt-shrimp-jesus.html
³ “垃圾”音乐: https://newsroom.spotify.com/2025-09-25/spotify-strengthens-ai-protections/
⁴ 供用户举报的按钮: https://www.linkedin.com/feed/update/urn:li:activity:7488612009660346374/
⁵ 移动消息应用: https://newsroom.snap.com/rewarding-authentic-creativity-on-spotlight
⁶ 餐厅点评网站: https://blog.yelp.com/news/how-yelp-continues-to-protect-your-content-in-the-age-of-ai/
⁷ 学术档案库: https://x.com/tdietterich/status/2055000961161290077?s=20
⁸ 婚恋服务: https://support.bumble.com/hc/en-us/articles/32668070996509-Deception-Detector
⁹ 同样的技术: https://redditinc.com/news/how-were-keeping-reddit-real-and-safe-in-the-ai-era
¹⁰ 环境: https://www.nytimes.com/2026/08/05/climate/data-centers-pollution-trump-ai-energy.html
¹¹ 就业: https://www.nytimes.com/2026/06/10/business/economy/back-office-workers-ai.html
¹² 心理健康: https://www.nytimes.com/2026/01/26/us/chatgpt-delusions-psychosis.html
¹³ 去年写道: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=5558018
¹⁴ 年度词汇: https://www.merriam-webster.com/wordplay/word-of-the-year
¹⁵ 今年春天表示: https://www.nytimes.com/2026/07/13/arts/music/ai-labels-warnings-riaa.html
¹⁶ Apple Music: https://www.youtube.com/watch?v=2vfRyZaTB1E
¹⁷ 更实际: https://www.threads.com/@mosseri/post/DS76UiklIDf/media
¹⁸ 垃圾内容的展示窗口: https://www.instagram.com/p/DPCWz1SEepM/?img_index=5
¹⁹ 一项欧洲协议: https://about.fb.com/news/2026/07/meta-is-signing-the-eu-ai-act-code-of-practice-on-transparency-of-ai-generated-content/
²⁰ 移除了该功能: https://about.fb.com/news/2026/07/introducing-muse-image-meta-ai/
²¹ 全力投入: https://cn.nytimes.com/technology/20260527/google-gemini-ai/
²² 一项实验: https://www.kapwing.com/blog/ai-slop-report-the-global-rise-of-low-quality-ai-videos/
²³ 最受欢迎的YouTube垃圾内容频道之一: https://timesofindia.indiatimes.com/technology/social/meet-bandar-apna-dost-the-india-based-ai-youtube-channel-making-rs-38-crore-and-sparking-the-ai-slop-debate/articleshow/126266743.cms
²⁴ 在一篇博客文章中: https://blog.youtube/inside-youtube/the-future-of-youtube-2026/
²⁵ 谷歌的研究人员: https://storage.googleapis.com/gweb-research2023-media/pubtools/1039291.pdf
²⁶ 协同滥用行为: https://research.google/pubs/the-synthetic-gap-automating-forensic-investigation-of-ai-slop-with-the-scaled-abuse-forensics-examiner-safe/
²⁷ 矫枉过正: https://insidethecreator.beehiiv.com/p/the-slop-purge-has-arrived
²⁸ 更新了系统: https://newsroom.pinterest.com/news/pinterest-rolls-out-new-tools-to-give-users-more-control-over-gen-ai-content/
²⁹ 超过37.7万个: https://usdsjv.tiktok.com/reports/reports-1
³⁰ 数据: https://www.pangram.com/blog/ai-in-your-feed
³¹ 禁止了那些通过付费鼓励机器人发帖的应用: https://x.com/nikitabier/status/2011825522817270230?lang=en
³² 上个月说: https://post.substack.com/p/against-claudefishing
³³ 自己的AI检测工具: https://support.substack.com/hc/en-us/articles/50891130623508-How-can-I-detect-AI-on-Substack
³⁴ 垃圾沙龙: https://igp.sipa.columbia.edu/news/ai-slop-and-information-ecosystem-insights-crosssector-convening
³⁵ Tiffany Hsu: https://www.nytimes.com/by/tiffany-hsu
³⁶ 点击查看本文英文版。: https://www.nytimes.com/2026/08/17/technology/ai-slop.html

https://cn.nytimes.com/technology/20260818/ai-slop/?utm_source=RSS

Tue, 18 Aug 2026 10:22:19 +0800

--
Mobot

If you have any comments on this article, feel free to follow up. However, for feedback on the bot, please post to the cn.fan newsgroup.
BTC donation: bc1qkatj3eghdt7n28hnyv5tmd9lsdvpz94lrf5f4w