电商生成式检索的嵌入与码本联合学习
原文:Generative Retrieval for E-commerce: Jointly Learning Embedding and Codebook with Same Product Cluster
随着大语言模型(LLM)的发展,生成式检索在电商场景中正变得日益重要。当前主流方法通常采用两阶段训练策略:先训练商品嵌入模型,再学习将嵌入映射为商品ID的码本。这种级联方式存在两大问题:(1)误差累积——若第一阶段的嵌入模型产生有偏差的表示,第二阶段的码本无法纠正这些误差,导致最终检索性能下降;(2)码本学习仅依赖商品嵌入,缺乏对查询-商品和商品-商品交互的建模。结果是,属于同一簇的商品可能被码本分配不一致的ID,进一步损害检索精度。为解决这些问题,我们提出了一种联合训练嵌入模型与码本的新方法,并引入同商品簇信息作为额外的监督信号。实验结果表明,我们的方法在显著提升电商检索性能的同时,也增强了嵌入和码本的学习效果。作者:Songtao Fang, Zihao Xu, Shaowei Wei, Jin Zhang, Zhuojun Wang