AMAZINGINDEX.COM 每日 AI 简报
54.0
VOL. 2026.06
2026.06.09
← 返回 2026.06.09 日报
日报快照 · Daily Snapshot
NO. 024

算法推送放大极右翼内容

#ARTICLE 奇客Solidot 2026.06.09
值得看指数 57.0 NO. 024 · 2026.06.09
发布2026/06/08

Science 发表研究证实 X 等平台算法系统性放大极端政党内容、压制中间声音,用户接触算法推荐七周后政治态度显著右倾且不可逆。对 AI 从业者警示:推荐系统的优化目标设计直接影响社会结构, engagement-driven 的单一指标已引发监管反噬。

这项研究的价值在于用因果推断而非相关性证明了算法推荐的塑造力——禁用算法后态度偏移不会逆转,意味着平台一旦完成用户改造,退出成本极高。欧盟《数字服务法》已要求大型平台公开推荐算法参数,国内算法备案制度也在收紧,纯 engagement 驱动的推荐策略正在从商业优势变成合规负债。

做推荐系统的团队需要重新审视目标函数:多目标优化(加入多样性、信息质量、用户长期留存)不再是学术玩具,而是监管刚需。小红书、抖音等产品近期都在测试"关闭个性化推荐"模式,这背后是算法治理的全球范式转移。建议检查自己产品的核心指标是否只有 CTR 和时长,如果是,现在开始设计反极化、反信息茧房的约束项,比被监管强制要求时更有主动权。

查看原文 →