基于学习支持函数的摊销最大内积搜索
Amortizing Maximum Inner Product Search with Learned Support Functions
摘要
提出摊销化MIPS方法，通过训练神经网络直接预测最大内积搜索（MIPS）的解，从而摊销在固定键数据库上对已知分布查询反复求解的成本。核心洞察在于MIPS值函数是键集合的支持函数，一种凸函数，其梯度可导出最优键。该方法基于回归技术，将MIPS作为机器学习子程序进行优化。
最大内积搜索（MIPS）是机器学习中的关键子程序，需要从数据库（键）中找出与给定查询最匹配的向量。我们提出摊销化MIPS：一种基于回归的方法，训练神经网络直接预测MIPS解，从而摊销在固定键数据库上对已知分布查询反复求解MIPS的成本。我们的核心洞察在于，MIPS值函数是键集合的支持函数——一种经过充分研究的凸函数，其梯度可导出最优键。该…
译自 Apple · ML Research · 录于 二〇二六年七月三日