原标题:《Publish fake stats, get cited in LLMs》 评分: 262 | 作者: robtherobber 💭 假统计被 AI 引成权威,谁还替真相付费? 🎯 讨论背景 这篇文章的实验是建立含有数万条未经验证、实为捏造统计数字的网站,随后观察到这些数字被 LLM 引用,并进入一篇学术论文和一家银行的投资研究。现代聊天机器人常通过网页搜索或 RAG(检索增强生成,即先检索外部页面再组织答案)补充实时信息,因此不仅会受训练语料影响,也会受新发布网页影响。讨论所依托的前史是搜索引擎长期与 SEO spam、假评论和链接操纵对抗,而 LLM 的摘要界面会遮蔽用户原本可用来判断网站可信度的上下文。争议集中于应否以第一方数据库、来源信誉和人工筛选限制模型,及这种治理是否会因成本、政治权威与商业激励而失效。 📌 讨论焦点 LLM 抹平来源语境,谎言被包装成中立答案 评论者认为,人类直接浏览网页时通常能从域名、页面风格、营销话术和网站立场判断信息的可信度,例如不会把卖包网站对自家产品的赞美当作教材结论。LLM 却会把不同来源的内容综合成语气自信、貌似中立的报告,