主动学习降低排序模型推理成本
推荐指数 54.0 NO. 020 · 2026.05.21
upvotes63comments2
为什么值得看
将主动学习(Active Learning)应用于逐点重排序(PRP),用更少标注数据达到同等排序效果。对需要部署高效重排序系统的团队,这意味着推理成本可大幅降低而不牺牲精度。
媒体预览
编辑判断
PRP(Pointwise Reranking with Passage)一直是检索增强里的算力黑洞,每次查询要过一遍全量候选文档的 forward pass。这篇的 trick 在于用主动学习挑"信息量最大"的文档子集做精细排序,其余用轻量打分快速过滤。
实验显示在 TREC DL 上只用 30% 的标注量就能追平全量 PRP,但论文没开源训练代码只有推理 demo,复现门槛不低。如果你已经在用 ColBERT 或 Cross-Encoder 做重排序,可以把这个采样策略嫁接到现有管线里,比换模型架构风险低得多。