推荐算法日报 - 2026-10-30
2026-10-30
| 2026-11-1
Words 10839Read Time≈ 28 min

推荐算法日报 - 2026-10-30

Section 1: 📊 Trend Analysis

🔥 长序列推荐转向“状态更省”,而非“模型更大”:PFA 在解码步内渐进收缩注意力预算,LWR 把证据存入 bank、只让固定大小 workspace 传播,PRISM 与 PALATE 则把历史交互压成可冻结接入下游的紧凑向量。这些工作的增益多在 0.15%–3.76% 量级,却同时带来 1.45× 工业推理加速、69.6% 的 GFLOP 下降或一次预训练多处复用——边际收益来自同等预算下读更多历史,而非扩大参数量。判断:长序列的下一战场是可寻址记忆与计算调度的协同设计,而非又一个更大的 Transformer。
💡 生成式推荐正在吞并排序与重排:UGR 直接在请求级千级异构候选集上生成多业务列表、跳过跨业务混排,Glance 让生成器用共享 prefill 兼任 reranker,RoFiGR 则把 SID 粗路由当作独立误差源来优化。三篇的共同判断是召回—粗排—精排—重排的流水线并非不可压缩,只要生成模型拿到足够候选上下文与正确训练信号,就能逼近甚至超过专用模块。UGR 的对照尤其能说明问题:单业务生成+跨业务混排的 GMV 提升仅 1.38%,低于统一生成的 2.10%;但 Glance 仅覆盖两个 BEIR 数据集与一个 QA 数据集且未做显著性检验,这条边界仍需更多证据。
💡 代理指标集体失灵,评估层成为新战场:Beyond IPS 指出现有多阶段广告系统根本没有可记录的倾向,Decompose/Estimate/Select 发现检索覆盖从 0.625 提到 0.702、答案覆盖却并不单调跟随,Google AIO 审计则显示引用依赖与医生 rubric 准确率几乎无关(ρ=.01, p=.467)。Lost in the Latent Space 用 r=−0.473 的负相关进一步证明,单一代码嵌入无法同时承载功能意图与实现保真。判断:瓶颈已从“能不能排得更准”转向“用什么信号证明它真的更准”,重叠诊断、覆盖度校准与引用核验会从论文附录走进生产监控。

Section 2: 📋 今日速览

1. UGR(淘宝“猜你喜欢”场景):提出统一生成式排序框架,在请求级多业务异构候选集上直接生成排序列表,线上 A/B 取得 Core IPV +1.76%、GMV +2.10%,平均延迟仅增加 12ms。↗
2. PALATE(DoorDash):提出生成式用户表示,用 256 维冻结向量接入广告排序,Discovery/Search 线上收入分别 +0.79%/+0.94%、CVR 分别 +1.17%/+1.50%。↗
3. CASH:提出能力感知补贴框架,用逐档位许可协同 LLM 预测与数值响应模型,线上账户收入 +15.35%、ADVV +19.86%,补贴率基本不变。↗
4. PFA:提出渐进聚焦稀疏解码,工业离线取得 1.45× 加速的同时 Recall@10 提升 3.16%,线上 REV +3.76%。↗
5. LWR(Meta MRS / Facebook Discovery):把可寻址证据 bank 与固定大小 workspace 分离,10K 历史下比 HSTU 的 NE 改善 0.19%、前向 GFLOP 降低 69.6%。↗
6. PRISM(Meta MRS / Facebook Discovery):用 128 维 INT8 用户–物品对 embedding 替代共享 item 表,Surface 1 平均 NE 变化 −0.15%,优于 VISTA 的 −0.07%。↗
7. RoFiGR(北京邮电大学、快手):以协同信息约束多模态 SID 粗路由并做层级自适应蒸馏,Amazon 三数据集 15 项比较全部最高、平均提升 9.4274%。↗
8. RecRSI:让 LLM 每轮提 3 个候选编辑、各试跑约 15% 步数再择优全量重训,Test NDCG@10 提升 16.1%–102.0%。↗
9. AgenticDS:以 Planner–Engineer–Critic 闭环做契约约束的数据集检索,HuDS-Bench NDCG@10 达 0.6148、比最强混合基线高 25.7%。↗
10. HAIDL:提出形式化交互语言与 JupyterLab 运行时,在 35 名学生、约 800 条交互的部署中把零交互对区分为自主完成与沉默受困。↗
11. Google AIO 审计:评估 3,611 个健康问题的引用质量,仅 50.6% 陈述可核验、47.1% 获引用支持,医生 rubric 得分 38.2%。↗
12. Beyond IPS:在无倾向日志下用混合密度比重加权奖励模型,低重叠合成实验中 Weighted DR 取得 0.90 Top-1 准确率与 1.71% MAE。↗
13. Beyond LLM Wrappers:提出知识图谱+确定性优化+多智能体 LLM 的三引擎架构,15 个生产部署中金融建议幻觉率从 7–9% 降至 1% 以下。↗
14. Glance:让冻结 9B 生成器用一次共享 prefill 兼任 reranker,HotpotQA 上答案 F1 比交叉编码器高 0.045(95% CI [0.014, 0.076])。↗
15. Decompose, Estimate, Select(NYU Shanghai、NYU):用子问题覆盖矩阵做长文 RAG 证据选择,TREC RAG 2024 上 α-nDCG@10 从 0.625 升至 0.702。↗
16. xPRT:用代表段落预测未读 sibling 段落做检索预训练,MTEB(eng, v2) 41 个任务平均高 3.2%、10 个检索任务 nDCG@10 高 6.1%。↗
17. ATLAS-Bench:发布 1,200 条查询的本地搜索智能体基准,GPT-6-Luna CSR 达 71.5%、GLM-5.3 Success@k 达 85.3%。↗
18. Bridge-LP:融合 PLM 语义与多层级结构信号做 TAG 链接预测,9 个数据集、40+ 基线上取得一致 SOTA,MRR 最高提升 43.06%。↗
19. Federated Recommender Agents:提出 FedRecAgent,以 C–T–R 抽象知识做跨用户联邦推荐,Amazon 三域最佳变体 N@10 提升 1.54%–9.19%。↗
20. Lost in the Latent Space:构建表示感知评估框架,发现 14 个代码嵌入模型的算法标签与作者归属 F1 呈负相关 r=−0.473。↗

Section 3: 🎯 今日主题

长序列生成式推荐:把“读更多”与“算更久”解耦

问题背景。 用户行为序列持续变长,但线上延迟预算几乎不变;生成式解码又要求每一步都对历史做条件建模,长度与成本被强行绑定。
  • 全注意力解码在长序列上不可承受:PFA 指出自回归 beam search 每一步都要对全部历史计算注意力。
  • 把历史压成单一向量会丢失交互细节:PRISM 观察到共享 item embedding 让同一物品在任何用户、任何时刻都得到相同初始表示。
  • 生成列表与业务目标脱节:UGR 发现单业务生成后再做跨业务混排,最终列表与生成时的前缀条件不一致。
  • 粗粒度码字路由一旦出错,相关物品直接被排除在解码预算之外:RoFiGR 把“粗路由”当作独立误差源。
  • 证据选择与推理深度耦合:LWR 指出现有架构一次性选择证据,后续层无法回看被略过的信息。
代表方案对比。 六篇工作从输入表示、注意力计算、状态管理、候选生成四个位置切入,目标都是让历史长度与计算成本解耦。
  • UGR(淘宝):切口是请求级多业务异构候选集,做法是以 request context token 编码上下文、经低秩候选注意力后由候选感知解码器输出分数,联合 NTP/WSFT/PermPO 训练;结果线上 GMV +2.10%、交易量 +3.29%,延迟仅增加 12ms。
  • PFA(未披露):切口是解码阶段的注意力冗余,做法是 Step 1 按 beam 概率聚合出共享重要性排序并重排 KV,后续按几何比例收缩 token 预算;结果工业离线 1.45× 加速下 Recall@10 提升 3.16%,线上 REV +3.76%。
  • LWR(Meta MRS / Facebook Discovery):切口是证据缩放与推理缩放被耦合,做法是把类型化证据存入持久 bank、只让固定大小 workspace 层间传播并追加 condensate token;结果 10K 历史下比 HSTU 的 NE 改善 0.19%、前向 GFLOP 降低 69.6%,联合前沿 α=0.845 高于 HSTU 的 0.558。
  • PRISM(Meta MRS / Facebook Discovery):切口是共享 item embedding 无法表达用户–物品关系,做法是复用上游排序分、把每个已打分对压成 128 维 INT8 embedding 并按时间重放;结果 Surface 1 平均 NE 变化 −0.15%,优于 VISTA 的 −0.07%。
  • PALATE(DoorDash):切口是广告排序缺少学习到的序列表示,做法是用 decoder-only Transformer 预测下一个 business、取末层隐状态为 256 维用户向量并冻结接入下游;结果 Discovery/Search 线上收入 +0.79%/+0.94%、CVR +1.17%/+1.50%。
  • RoFiGR(北京邮电大学、快手):切口是 SID 粗路由的早期错误,做法是用冻结教师提供协同嵌入约束多模态 SID、并在合法分支上做层级自适应蒸馏;结果 Amazon 三数据集 15 项比较全部最高,平均提升 9.4274%。
核心差异。 六篇都在压缩历史,但压缩的位置与保留的目标不同,形成了两条清晰的分野。
  • 按压缩位置看:PRISM 与 PALATE 压输入表示,PFA 压注意力计算,LWR 压传播状态,UGR 与 RoFiGR 压候选空间的生成路径。
  • 按保留目标看:PRISM/PALATE 保留单次交互的个性化,LWR 保留可回看的证据,UGR 保留跨业务候选的全局可比性,PFA 保留跨步排序一致性。
  • 一句话点睛:这一批工作不再假设“更大的 Transformer 会同时解决长度与深度”,而是把“记什么、算什么、何时回看”变成显式架构变量。
趋势判断。 长序列生成式推荐正在从单点模型改进转向系统级预算分配,下一阶段的竞争会集中在三个方向。
  • 表示层:用户与物品表示从静态 embedding table 转向由上游排序信号或生成式预训练产生的上下文相关向量,并以冻结特征方式低风险上线。
  • 解码层:渐进稀疏、KV 重排与共享索引会把理论加速转化为稳定的工程收益,成为长序列生成的默认配置。
  • 架构层:可寻址记忆 + 小工作区的分离范式可能取代“全历史全注意力”,下一步比拼的是证据选择策略与跨表面泛化能力。
方案
机构
提升幅度
部署状态
数据规模
场景泛化
置信度
UGR
淘宝(场景)
线上 GMV +2.10%、交易量 +3.29%;IPV NDCG +4.86%
线上 A/B(≥5% 流量、>14 天)
约 19.4 亿 + 2.38 亿请求
淘宝多业务混排,未验证外部场景
高(双工业数据集+线上 A/B)
PFA
未披露
工业 1.45× 加速、Recall@10 +3.16%;线上 REV +3.76%
线上 A/B 7 天
N=512,两个公开 + 一个工业数据集
长序列生成式推荐
高(公开+工业+线上)
LWR
Meta MRS / Facebook Discovery
NE 改善 0.19%、前向 GFLOP −69.6%
生产数据离线评估(未报告线上 A/B)
300–500 亿样本、128×H100、10K 历史
Meta 两个 Surface
中高(离线+双 Surface)
PRISM
Meta MRS / Facebook Discovery
平均 NE −0.15%(VISTA −0.07%)
生产数据离线评估(未报告线上 A/B)
十亿级场景、26–240 事件
Surface 1 单一场景
中(单 Surface 离线)
PALATE
DoorDash
收入 +0.79%/+0.94%、CVR +1.17%/+1.50%
线上 A/B 一周(五五分流),打包重训
未披露
Discovery/Search 两个广告表面
中高(线上但不可单独归因)
RoFiGR
北京邮电大学、快手
平均 +9.4274%(最高 +13.830%)
离线
Amazon 三数据集
多模态生成式推荐
中(离线、五种子+Holm)

Section 4: 📰 Daily Digest

1. UGR: Unified Generative Ranking for Heterogeneous E-commerce Recommendation(未披露)

针对现有生成式排序仅在单一业务的截断候选集上生成、依赖曝光序列模仿,且生成列表与跨业务混排后的最终列表不一致的问题,论文提出统一生成式排序框架 UGR,在请求级多业务异构候选集(生产中约千级)上直接生成多业务排序列表、无需后续跨业务混排。方法上以 request context token 编码用户属性、请求上下文与历史行为,经共同表示接口与低秩候选注意力完成全局建模后,由候选感知自回归解码器输出前缀条件下的候选分数,联合优化 NTP、WSFT(按曝光后反馈为曝光物品加权)与 PermPO(以反馈推导的 DCG 在排列间构造偏好对)三项损失,并将训练期广告去偏塔在 serving 时移除、以 S_t(i)=z_t(i)+α·eCPM_i 融入当前广告价值,从而在保持现有 GSP 定价规则不变的前提下建模广告价值。基于淘宝“猜你喜欢”连续 30 天日志构建的两个工业数据集(约 19.4 亿与 2.38 亿请求)上,UGR 六项排序指标全部最优,IPV NDCG 较 UniRank 提升 4.86%、CVR MAP 较 DEGR 提升 2.05%;线上 A/B(≥5% 流量、超过 14 天)Core IPV +1.76%、Transaction Volume +3.29%、GMV +2.10%(均 p<0.05),平均推理延迟仅增加 12ms。结论表明在完整异构候选集上统一生成多业务列表优于“单业务生成+跨业务混排”(UGR-Single+Mix 的 GMV 提升仅 1.38%、交易量仅 2.84%),论文未报告该方案在淘宝之外场景的部署结果。↗

2. PALATE: Pretrained Autoregressive LATent Embeddings(未披露)

针对 DoorDash 广告排序生产模型此前只有手工聚合特征、缺少按消费者学习到的序列表示的问题,PALATE 以消费者门店互动序列为训练对象,用生成式方法学习个人化向量并作为冻结特征供 Discovery 与 Search 两个广告表面共用。模型采用 decoder-only GPT 式 Transformer(3 层、768 宽主干、200 位置学习式位置编码)预测下一个 business,取最后一层最后 token 的隐状态作为 256 维用户向量,并针对复购为主场景设计探索加权损失(新商家 0.9/复购 0.1)、点击预训练到转化微调的两阶段课程,以及由约 60K 热门商家固定池、“曝光未下单”与随机/批内负样本组成的负采样;导出向量以 [u, c, u⊙c, cos(u,c)] 接入下游 DCNv2 且不反传梯度。未来转化商家预测上硬负样本带来 R@10 +14.3%,9:1 探索加权使新商家 R@10 提升 18.4%(整体 R@10 下降 20.4%),冻结用户向量在 Discovery/Search 分别提升 +0.59%/+0.57% Eval AUC;线上按 consumer_id 五五分流的为期一周 A/B 中 Discovery 收入 +0.79%、CVR +1.17%,Search 收入 +0.94%、CVR +1.50%。作者结论是一次预训练、冻结复用的生成式用户表示能在意图相反的浏览型与查询型表面上同时带来最大单项特征增益,但明确说明每次上线均为打包的排序器重训、线上增益不能单独归因于该嵌入。↗

3. CASH: A Capability-Aware Subsidy Harness for Advertiser Subsidy Allocation(未披露)

论文首次从广告运营视角研究广告主补贴分配(ASA),将其形式化为平台整体补贴率约束下、以总折后收入最大化为目标的账户级折扣档位选择,并指出 LLM 预测 Agent 与数值响应模型的可靠性因账户和补贴档位而异、单账户估计误差会通过共享预算传播影响其他账户。CASH 以基于真实结果的能力许可统一“估计器协作—可靠性控制—共享预算分配”:LLM 预测 Agent 单次调用输出全档位曲线并与数值响应模型互补,能力插件按局部误差、核加权经验支持度与基于 Beta 后验 UCB 的区域准入签发逐档位许可,分配建模为带补贴率上下界的多选背包并用对偶价格搜索与交换/Fallback 修复求解,EPCG 以价值加权许可覆盖率增益为目标形成“证据获取→能力演化”闭环。为期一个月(2026-09-14 至 10-14)的线上实验(60%/20%/20% 分流)中 CASH 较 Control 账户收入 +15.35%、ADVV +19.86%,补贴率基本不变,7 日/14 日 LTV 分别 +15.98%/+15.24%、14 日留存 +1.57pp;离线 663,312 条账户-天数据上较 Tool 的 MAE 降低 2.20%、RMSE 降低 4.11%,仅用 6,119 次 LLM 调用(为全量配置的 15%),有许可时非许可档位扰动引发的其他账户档位变化从平均 0.510 次降为 0。结论是基于真实结果的能力许可可在共享预算下有效协同 LLM 与数值模型,在几乎不变的补贴率下同时提升收入、ADVV、收入质量、LTV 与留存,为账户级补贴分配提供了兼顾估计可靠性、预算约束与反馈成本的工业范式。↗

4. Beyond LLM Wrappers: Context Engineering and the Three-Engine Architecture for Reliable Financial AI(未披露)

针对金融场景中“决策型”提问无法由 LLM 单独可靠回答的痛点——模型缺乏可靠的财务关系记忆、计算不可复现、易生成貌似合理但无依据的声明,论文提出生产级三引擎架构(金融知识图谱 + 确定性优化引擎 + 多智能体 LLM 层),其核心贡献是连接三者的协调层,作者称之为上下文工程(context engineering)。知识图谱作为带时间戳与来源血缘的企业记忆支持多跳推理与时序查询,优化引擎(生产以 OR-Tools 为主)执行付款排程、现金分配、折扣捕获、催收排序等可复现计算,多智能体 LLM 层由查询分析、上下文装配、优化调用、响应生成、验证五个 agent 组成;上下文工程先对查询分类路由,再执行实体消歧、子图选择、时间过滤、租户适配与上下文窗口预算分配,返回前将生成声明中的实体、数值、时效、可行性与引用逐项对照图谱记录和求解器输出验证,并保留数据血缘、流程溯源、决策理由、时间有效性四层审计轨迹。证据来自约 11 个月的 15 个生产部署(覆盖制造、SaaS、服务、电商、贸易),未报告公开数据集或标准基准、且明确为观察性证据——单智能体 LLM 流水线的金融建议幻觉率约 7–9%,图谱支撑的多智能体验证在生产中将其降至 1% 以下,部署时间也从约六周缩短到约两周。结论是金融上下文工程根本区别于标准 RAG——必须检索结构化关系而非仅语义相似的文本块,并满足时间有效性、精确数值证据、访问控制与声明验证;三引擎把事实与计算外置到图谱和求解器,使金融建议可复现、可追溯、可审计,但验证收益仍属观察性证据,评估与基准等仍是开放问题。↗

5. PFA: Attention Can Be Progressively Focused in Long-Sequence Generative Recommendation(未披露)

针对长序列生成式推荐在自回归 beam search 解码时每一步都要对全部历史计算全注意力、导致线上推理延迟过高的问题,PFA 从解码过程中“渐进式注意力聚焦”与“跨步排序一致性”两个性质出发,提出渐进聚焦的稀疏解码框架。方法上 Step 0 用全注意力做全局偏好探索,Step 1 按各 beam 归一化生成概率加权聚合注意力分布、得到跨 beam 共享的重要性排序并选 top-k、将对应 KV 重排为连续内存布局,Step t≥2 复用该排序并按 k_t = max(1, ⌈k·r^(t−1)⌉) 几何缩减 token 预算,配合步感知 KV 投影与共享索引实现零开销的前缀截断;理论注意力计算量为 29.75M MACs,相对全注意力加速 2.65×、相对动态 top-k 稀疏注意力加速 1.99×。在 Kindle Store、Tmall 与工业数据集(序列长度 N=512)上四个指标全部最优,相对各数据集最强基线平均提升 Recall@10 5.75%、NDCG@10 7.18%,工业数据集上相对 Full Attention 取得 1.45× 推理加速的同时 Recall@10 提升 3.16%;7 天线上 A/B(对照组序列截断 128、实验组扩展到 512)REV +3.76%、CTR +0.34%、GMV +2.56%,在线 RT 为 11ms、低于直接输入完整 512 序列的 15ms。结论表明复用早期建立的共享排序并几何收缩预算,可在几乎不损失甚至提升推荐质量的前提下显著降低长序列解码延迟,公开基准、工业离线与线上 A/B 共同验证了其对大规模长序列生成式推荐的实际落地价值。↗

6. Lost in the Latent Space: How Code Embeddings Represent Functional Intent and Implementation Fidelity(未披露)

论文系统考察单一代码嵌入能否同时承载功能抽象与实现保真,填补了现有评估只关注下游任务性能、忽视内部表示的空白。方法上构建表示感知的评估框架:在冻结嵌入上训练轻量探针(算法标签多标签 sample-F1、作者归属 macro-F1),配合零样本最近邻检索(Hit@10)与 GPT-5.4 xhigh 生成的语义保持扰动,覆盖 14 个 SOTA 模型(4 个代码专用 + 10 个通用)。实验显示算法标签与作者归属 F1 跨模型呈负相关 r=−0.473(C++ −0.392、Java −0.583、Python −0.398),两任务 top-5 模型完全无重叠;跨语言功能检索 CodeR 达 0.996,但作者检索仅 0.481,Llama-Embed-8B 则达 0.973。这说明"抽象—保真"张力是系统性现象,嵌入模型应按下游任务最相关的软件属性而非"代码专用/通用"标签来评估与选择。↗

7. Does the Citation Matter? Quality, Grounding, and Physician-Rubric Accuracy of Google's AI Overviews for Medical Information(未披露)

论文系统审计 Google AI Overviews(AIO)在高风险健康场景下的引用来源质量、陈述对引用的依赖程度与医生 rubric 符合度,填补了 AIO 是否继承传统健康搜索质量保障的空白。研究从 OpenAI HealthBench 取 3,611 个真实健康问题,经 SerpAPI 抓取 AIO 全文、引用及传统前 5 结果,用 JAMA/HONcode 规则评分来源质量、HallOumi 逐句判定引用支持、GPT-4.1 按医生 rubric 打分。结果显示 96.4% 的问题出现 AIO,但仅 44.4% 的传统前五结果被引用,24,060 条陈述中仅 50.6% 可对照引用核验、其中 47.1% 获支持,医生 rubric 得分仅 38.2%(准确 54.2%、完整 21.6%),且引用依赖程度与准确/完整无相关(ρ=.01, p=.467)。作者据此指出引用未必是准确性保障,错误以遗漏为主但仍有 22.2% 在医生预警处输出具体有害内容,建议加强用户 AI 素养干预并以 Google 自身健康排名标准约束 AIO。↗

8. Beyond IPS: Reliable Counterfactual Evaluation in Multi-Stage Ad Systems without Logged Propensities(未披露)

论文针对多阶段广告系统中动作倾向既未记录也无法明确定义、IPS 类方法不可用,且直接法(DM)因策略诱导的分布偏移而失真这一问题,提出无需倾向的奖励建模评估框架。方法以多分类域分类器估计混合-日志密度比 Ω(z),将监督损失重加权训练共享奖励模型,并推导由重叠项、冷启动项与回放集中项组成的高概率价值误差界,给出离线评估与在线 A/B 测试的渐近路由准则。合成实验在低重叠(ESS<0.4)下,Weighted DR 取得 0.90 Top-1 准确率、0.0005 后悔与 1.71% MAE,优于 Unweighted DM(0.67、0.0044、7.20%)与 IPS(0.60、0.0041、7.64%);生产 CTR 排序系统 50 次随机子采样中 Weighted DR 的 Top-1 准确率最高(0.44)。结论是混合加权回放在弱重叠下增益最大,且误差界中的冷启动项不随日志增多而消失,故离线评估须配合重叠诊断、必要时将候选集转入在线 A/B 测试。↗

9. Decompose, Estimate, Select: Coverage-Aware Context Construction for Long-Form RAG(New York University Shanghai、New York University)

论文针对长文 RAG 中独立相关性打分导致证据冗余、部分信息面缺乏支撑的问题,提出显式建模覆盖度的"分解—估计—选择"检索管线。LLM 将查询分解为 10 个自包含子问题,覆盖度训练的 bi-encoder 重排 BM25 top-100,ModernBERT cross-encoder 预测文档×子问题覆盖矩阵后以贪心最大边际覆盖选出 k=10 篇文档,并加入无需金标的自我反馈循环提升答案覆盖。在 TREC RAG 2024 上 α-nDCG@10 从 0.625 升至 0.702(金标 nugget 上界 0.718),但下游受控实验显示更高检索覆盖未必带来更高答案覆盖(本文检索覆盖 0.799 低于 oracle 的 0.888,Transfer rate 反超 +0.050);两轮自我反馈使 Vstrict 提升 +0.086(0.338→0.424)且 Holm 校正后显著。论文揭示了"检索覆盖→答案覆盖"的非单调关系,指出固定上下文预算下应优先改进证据利用而非单纯增加检索覆盖,局限是评测集仅 56/50 查询、τ 在评测集上调优。↗

10. Try Before You Evolve: Ranking-Scored Trials for Recursive Self-Improvement of Recommender Systems(未披露)

论文针对 LLM 自进化推荐智能体每轮只提一个编辑就直接全量重训、排序反馈滞后且重训浪费严重的问题,提出 RecRSI,在完整重训前用短试跑获取候选编辑的排序反馈。方法让 LLM 每轮提出 K=3 个覆盖不同训练组件的候选编辑,各自从共享初始化按自身训练流程训练前 4,000 步(约 15% 步数预算),以全排序 NDCG@10 在 probe 用户上打分,最高分者获得该轮唯一一次全量重训,并以训练一致性与排序一致性保证早期信号与最终 outcome reward 对齐。在 CDs/Office/LastFM 与 SASRec/HSTU 六个设置上,RecRSI 的 Test NDCG@10 提升 16.1%–102.0%,重训保留率 77%(23/30)对最强基线 41%(37/90),36 个配对比较全部显著,消融中试跑分数与 select 增益相关 ρ=0.46、AUC=0.71。该工作用训练一致、排序一致的早期排序信号替代不可靠的训练损失,无需学习奖励模型即可嵌入现有推荐系统自进化流程。↗

11. From Intent to Improvement: Agentic Dataset Search for Better Model Training(未披露)

论文将百万级数据仓库中的自然语言数据集获取形式化为“契约约束的智能体检索”,针对数据卡元数据缺失、文本相关性难以满足任务/许可证/训练阶段等硬约束、且检索相关性不等于训练收益的问题,提出 AgenticDS。该方法由 Planner 把查询编译为带类型的搜索计划,Engineer 仅执行稠密+BM25 混合检索、受限 KG 扩展与组归一化 RRF 等确定性算子,Critic 对固定格式证据包打分并输出类型化诊断以触发局部计划修复(默认迭代 T=3)。在自建的 HuDS-Bench(200 条查询、24,908 条分级判断、15 个系统)上 NDCG@10 达 0.6148,比最强稠密–稀疏混合基线高 25.7%、比 Claude Code 高 18.9%,消融移除 Critic/Planner/KG 扩展分别掉 0.149/0.086/0.084;search-to-train 在三个基座、八个基准上总平均 52.81 对次优 49.75,成本 $0.099/query 低于 Claude Code 的 $0.244。结果表明排序质量可以转化为下游模型质量,但关系证据只有在验证器把关下才产生增益,该闭环须整体看待,可作为数据中心递归自我改进的上游互补环节。↗

12. Human–AI Interactions as First-Class Data: A Formal Interaction Model and Runtime for Explainable AI Collaboration(未披露)

针对人机交互仅作为瞬时问答记录、未成为可持久化数据产物而阻碍可复现性、可解释性、重放与行为分析的问题,论文提出 HAIDL 形式化交互描述语言(BNF 式语法、七个语义组件、⇒K 推导关系)及 JupyterLab 运行时中间件 HAIDL-X。该方法把每次交互建模为状态转移并封装为七元组对象、按时间组成交互轨迹,通过六层架构在运行时捕获单元代码、输出与错误,再用推导规则结合 notebook 执行证据推出交互事件、学习画像与行为状态。在 Data Engineering 课程 35 名学生、4 个编程作业、约 800 条交互、140 个“学生–作业”对的交叉部署中,37 个“有权限但零交互”对借助 notebook 证据区分出自主完成与沉默受困,ScaffoldedLearner 达 29 对而 Exploratory over-use 仅 1 例,交互次数与成功执行单元数相关性仅 r=0.12,延迟/存储/检索开销的具体数值未报告。研究证明结构化交互数据与计算证据、实验上下文结合能产生任何单一来源都无法提供的知识,但明确不主张提升学习效果,HAIDL 作为领域无关的组合式语言可推广到科学工作流与软件调试。↗

13. Read More, Reason Deeper: Latent Workspaces for Long-Sequence Recommendation(Meta MRS, Facebook Discovery)

针对长序列推荐中“证据缩放”与“推理缩放”被现有架构耦合、一次性选择使后续层无法回看被略过证据的问题,论文提出 Latent Workspace Ranker(LWR),将类型化证据存入持久 bank、仅让固定大小的候选局部 workspace 在层间传播。每层依次执行 Coordinate、Query、Reread 与 Interact,非最终层经 compressor κ 向 archive 追加 condensate token,使历史长度与推理深度可独立扩展(Reread 本身仍为 O(rs·Ns·d))。在连续三天在线数据、300–500 亿样本训练、128 张 H100 的十亿级排序面上,10K 历史下 LWR 比 HSTU 的 NE 改善 0.19% 且前向 GFLOP/request 减少 69.6%,Surface 2 训练/评估 NE 改善 0.15–0.30%,联合前沿拟合指数 α=0.845 高于 HSTU 的 0.558 与内部基线的 0.424/0.599。结论是把可寻址证据与传播状态分离,可让“读更多”与“推理更深”独立可控且联合有效,LWR 在证据、推理、联合三条缩放曲线上均领先 HSTU 与现有基线。↗

14. Glance: The Generator Is Its Own Reranker(未披露)

针对 RAG 中重排序与生成通常由独立模型承担、造成模型常驻与段落处理重复的问题,论文提出 Glance,让生成器用共享 prefill 自行完成重排序。该方法在冻结的 9B 骨干上附加轻量决策适配器与 256 维指针头,对查询与 k 个候选段落只做一次 packed_all 共享 prefill、各段落相关性探针从共享缓存分支,仅训练 rank-16 LoRA 与指针头(重排序适配器在 4,000 条 MS MARCO 查询上单张 B200 训练 39 分钟)。在 BEIR 的 SciFact/NFCorpus 上 nDCG@10 达 0.741/0.345,高于 bge-reranker-v2-m3 的 0.721/0.326(论文注明未做显著性检验),HotpotQA distractor 上所选上下文使答案 F1 比交叉编码器高 0.045(95% CI [0.014, 0.076]),单次共享 prefill 扩展到 200 个候选(43k token)时仍超交叉编码器 0.058。论文将其定位为概念验证,说明生成器自身的排序质量可与专用交叉编码器竞争并提升下游问答,但仅覆盖两个 BEIR 数据集、一个 QA 数据集与一种骨干家族,更大基准与 128k 上下文扩展留待未来。↗

15. xPRT: Cross-Passage Retrieval Pretraining(未披露)

论文指出现有无监督检索预训练遗漏了“哪些段落代表文档主题”与“段落之间如何关联”两个文档级信号,据此提出 xPRT,让代表段落的嵌入去预测它从未读过的相关段落。该方法用冻结 E5 嵌入与文档质心的余弦相似度选出 anchor 段落,再以 E5 稠密相似度与 TF-IDF 的 RRF 融合为每个 anchor 选 top-4 sibling,损失由跨段落对比 Lxp、跨段落内容预测 Lcross、自预测蒸馏 Lself 配合 LMLM 与 uniformity 正则组成,从 e5-base-unsupervised 在 FineWeb 上持续预训练后只保留 encoder、推理成本不变。在 MTEB(eng, v2) 的 41 个任务上平均分比最强基线高 3.2%、10 个检索任务 nDCG@10 高 6.1%,从 E5 出发在 100K/500K/1M 语料上分别提升 1.80/1.87/1.83 分并在 34–36 个任务上优于 E5,从 BERT 出发比 SimLM 高 4.39 分(nDCG@10 29.21 对 20.68),将精选 sibling 换成随机段落则 nDCG@10 损失 9.3。结论是无标注单文档蕴含的检索信号比先前假设更丰富,增益来自精选段落之间的关系而非文本规模或训练步数,为无监督检索预训练提供了一条简洁路径。↗

16. ATLAS-Bench: An Agentic Tool-Use Benchmark for Local Area Search(未披露)

针对现有基准未系统覆盖本地搜索智能体“硬约束是否满足、软偏好是否兼顾、事实与体验性判断是否有证据支撑”的空白,论文提出含 1,200 条查询、覆盖北京朝阳、上海黄浦、乌鲁木齐达坂城三个 POI 密度差异巨大区域的 ATLAS-Bench。查询由递归自我改进(RSI)流水线合成,区分硬性与软性约束、客观与主观约束,每条要求附带证据来源与校验判据,并纳入 196 条(16.3%)不可满足查询;配套的 ATLASBox 沙盒以固定 POI 知识库和统一搜索工具避免线上服务时间漂移,从答案质量、轨迹质量、执行成本三维评估 11 个模型的 14 种配置。GPT-6-Luna 取得最高 CSR(71.5%)与事实准确率(95.6%),但每查询仅 1.25 条推荐、Success@k 为 67.3%;GLM-5.3 的 Success@k 最高(85.3%),评判器与人工标注在 201 个推荐 POI 上一致率 93.03%(Cohen's κ=0.891)。基准揭示出保守与探索之间的策略权衡:高精度低覆盖与广覆盖但多不完美候选难以兼得,稠密候选过滤与复杂主观约束的证据验证仍是核心挑战。↗

17. Bridging Semantics and Structure: A Theoretically Grounded Framework for Link Prediction on TAGs(未披露)

针对文本属性图(TAG)链接预测中 GNN 与语言模型融合策略不明确、文本联合编码代价高昂且增益不稳定的问题,论文提出端到端跨模态框架 Bridge-LP。方法将阈值化共同邻居、基于 PLM 文本嵌入 Hadamard 积的语义邻近与经 K 步对称归一化邻接传播的结构邻近经 MLP 融合,并对文本邻近跳跃连接、压缩嵌入、缓存嵌入训练三个组件给出理论证明(Thm. 3.2、Thm. 3.3、Thm. 3.4),把隐藏维从 |H_K|+|T|+|V| 降至 |H_K|+1、单批次编码复杂度从 O(|V||T|d) 降至 O(b|T|d)。在 9 个 TAG 数据集、40+ 基线上取得一致 SOTA,MRR 最高提升 43.06%,Arxiv_2023 的 Hits@100 较 NCNC 提升 5.72%,Pubmed 的 Hits@50 较 GIN 提升 4.75%,Cora 的 MRR 较 PageRank 提升 9.57%。结果表明融合 PLM 语义与多层级结构信号可稳定提升 TAG 链接预测并兼顾参数效率,但框架目前面向静态图,向动态 TAG 扩展仍留待后续工作。↗

18. RoFiGR: Coarse Routing, Fine Refinement via Level-Adaptive Distillation in Multimodal Generative Recommendation(北京邮电大学、快手)

针对生成式推荐中早期码字承担粗路由、一次路由错误就可能把相关物品排除在解码预算之外的问题,论文提出双树多模态推荐器 RoFiGR,在 SID 构建与生成两个阶段都引入协同信息。方法先由冻结 MISSRec 教师提供协同物品嵌入,对累积 L1–L2 多模态 SID 表示做批内对比协同正则化,再以带物品距离与来源层级偏置的编码器—解码器在合法分支上做锚定自适应蒸馏,推理时用 seqrec、seqimage、biseq2text、biseq2image 四路 beam=20 等权融合排序。在 Amazon 三个数据集上,RoFiGR 于全部 15 个数据集—指标比较中取得最高均值,相对最强外部基线平均提升 9.4274%(Arts NDCG@10 为 0.1093 对 SynGR 0.0992,+10.181%;Games NDCG@10 为 0.0642 对 MACRec 0.0564,+13.830%),移除自适应残差使验证 NDCG@10 在三个数据集分别下降 5.82%、5.96%、6.41%。论文把“粗路由”作为独立问题处理,五种子配对检验与 Holm 校正支持主要 NDCG@10 改进,说明用协同信息塑造粗粒度码空间并对合法分支做层级自适应监督可稳定提升排序。↗

19. PRISM: Personalized Item Representations in User History(Meta MRS、Facebook Discovery)

针对现有序列推荐中所有用户共享同一 item embedding map、同一 item 在任何用户/时刻都得到相同初始表示的问题,论文提出 PRISM,让每个历史条目的表示表达该 item 与该用户的关系。方法复用上游排序计算,把每个已打分用户–物品对压缩为 128 维、INT8 量化并附带时间戳的紧凑 embedding,连同时间编码与事件元数据按时间重放为下游历史,并以用户塔、用户–物品塔、同请求候选混合三路表示加分离自编码器联合优化。在十亿级推荐场景 Surface 1 的生产数据上,PRISM 平均 NE 变化 −0.15%(正向任务 −0.17%、负向任务 −0.11%),优于同等历史长度下 VISTA 的 −0.07%,且增益随历史事件数呈次线性幂律增长(g(L) ≈ 0.0131·L^0.468,在 26–240 事件范围内持续有效)。结果表明个性化 item 表示比 VISTA 类历史摘要 token 保留更多单次交互信息,保留的个性化历史长度构成提升推荐质量的新 scaling 维度。↗

20. Federated Recommender Agents(未披露)

论文提出“联邦推荐智能体”新问题设定:LLM 推荐智能体在不共享交互历史与个人记忆的前提下,通过自然语言知识实现跨用户协作,并给出 FedRecAgent 框架。客户端与服务器的 LLM 参数均冻结,客户端把本地 episode 抽象为 Condition–Transition–Reasoning(C–T–R)单元上传,服务器按条件与转移分层整合为全局知识库,客户端再用私有语义记忆与决策记忆检索、选择共享推理并对候选重排。在 Amazon Review 三个域构建的 6 个 dense/sparse 数据集上,随机负样本下三个变体在所有数据集的 N@10 与 MRR 上均超过最强基线,最佳变体 N@10 提升 1.54%–9.19%、MRR 提升 3.01%–16.29%(如 CDs-Dense N@10 为 55.00 对 FedAFL 50.78),硬负样本下 6 个数据集中 5 个取得最高 N@10 与 MRR。该工作表明仅靠共享抽象化的自然语言推理知识即可在冻结 LLM 参数下实现有效的联邦推荐协作,为隐私保护下的跨用户知识协作提供可复用范式,但所给正文未报告量化的隐私泄漏评估。↗

本日报由 AI 自动生成,解读观点仅供参考。
  • 推荐系统
  • 日报
  • 推荐算法日报 - 2026-10-31推荐算法日报 - 2026-10-27
    Loading...
    Catalog
    0%