用 AI 帮你把搜索算法变快：CRINN 实战指南

❝

“为什么我的向量数据库越来越慢？”
“有没有办法让 ANNS 算法自动优化？”
“训练好的模型还能再提速吗？”

❞

如果你也问过类似问题，这篇文章会给出一条可落地的路线：用 CRINN（Contrastive Reinforcement Learning for Approximate Nearest Neighbor Search）把现有 ANNS 算法提速 10%–85%，而无需你成为体系结构专家。

1. ANNS 是什么？为什么它越来越重要？

场景 为什么需要 ANNS
RAG（检索增强生成） 从百万级向量里毫秒级召回最相关片段
智能客服 Agent 实时把用户问题映射到知识库条目
推荐系统 为用户实时查找相似商品、歌曲或人

传统做法：工程师手工调参数、改代码、跑基准，耗时数周。
CRINN 做法：让大模型 + 强化学习自己“写”出更快的实现，几小时完成。

2. CRINN 的工作流程：一句话说清

把“执行时间”当成奖励，让大语言模型不断生成并改进 ANNS 代码，直到速度最快且精度不下降。

2.1 关键角色

角色 任务
大语言模型 生成新的 ANNS 模块代码
强化学习器 用“速度”打分，告诉模型哪段代码更好
GLASS 基线 提供初始 HNSW 实现，作为起点

2.2 三步优化顺序

  1. 「图构建（Graph Construction）」
    决定节点如何连接，直接影响搜索空间。
  2. 「搜索（Search）」
    决定从哪些入口、怎样遍历图。
  3. 「精修（Refinement）」
    最后的缓存、量化、剪枝微调。

3. 核心优化技巧：机器自己学到的 8 个秘诀

3.1 图构建阶段

技巧 旧做法 CRINN 改进 直观好处
自适应 ef 固定邻居数 ef_construction 按目标召回率动态放大 不浪费算力
多级预取 固定 5 条边预取 根据邻居密度调整深度 减少内存等待
多入口点 单一全局入口 并行从 3–9 个入口搜索 覆盖更多区域

3.2 搜索阶段

技巧 旧做法 CRINN 改进 直观好处
分层入口 一条入口链 主/次/第三级入口 平衡速度与质量
批量预取 一条条地预取 把邻居打包成批次 缓存友好
智能早停 遍历完候选池 连续无改进即退出 减少无谓计算

3.3 精修阶段

技巧 旧做法 CRINN 改进 直观好处
自适应预取 顺序访问边 预读后续边 降低延迟
元数据缓存 实时数边 预先存边数、模式评分 省 CPU 周期

4. 实验结果：速度到底快了多少？

❝

注：所有实验在公开基准数据集上完成，代码未针对特定硬件做额外调优。

❞

4.1 总体战绩

数据集 距离类型 CRINN 排名
GIST-960 欧式 「第一」
MNIST-784 欧式 「第一」
GloVe-25 角距 「第一」
SIFT-128 欧式 并列第一
GloVe-100 角距 轻微落后
NYTimes-256 角距 明显落后（见 FAQ）

4.2 具体数字

数据集 召回 0.9 召回 0.99 最高提速
MNIST-784 24.8k QPS 17.5k QPS 「+85%」
GIST-960 4.3k QPS 1.1k QPS 「+73%」
SIFT-128 36.9k QPS 13.0k QPS 「+25%」

❝

说明：QPS 为每秒查询次数，数字越大越快。

❞

4.3 逐步收益拆解

优化阶段 平均额外提速 累计提速
图构建 +22% +22%
搜索 +18% +40%
精修 +10% +50%

5. 安装与 5 分钟上手

5.1 环境准备（Ubuntu 20.04+）

# 系统依赖
sudo apt-get update
sudo apt-get install -y build-essential git python3 python3-distutils python3-venv

# Python 依赖
pip3 install numpy pybind11

5.2 源码编译

git clone https://github.com/deepreinforce-ai/CRINN.git
cd CRINN
bash build.sh   # 一键编译

5.3 运行示例

python examples/main.py

首次运行会自动下载 SIFT-1M 数据集并执行一次基准测试，终端会打印 QPS 与召回曲线。

6. FAQ：你可能关心的 10 个问题

6.1 为什么 NYTimes-256 反而变慢？

训练阶段只用了欧式距离奖励，对角距优化策略学得不够；团队已在 To-do 列表中加入“同时训练两种距离”。

6.2 代码对硬件有要求吗？

只要能编译 GLASS（支持 AVX2 的 x86-64 CPU），CRINN 即可运行。GPU 目前非必需。

6.3 可以用自己的 ANNS 库做起点吗？

可以。把现有代码按“图构建 / 搜索 / 精修”拆成三个模块，按 CRINN 的 Prompt 模板替换即可。

6.4 会不会越优化精度越低？

不会。奖励函数在 0.85–0.95 召回区间内计算面积，低于 0.85 的方案直接淘汰。

6.5 训练一次多久？

在单张 A100 上，用 SIFT-1M 训练 3 个模块约 6 小时；完成后即可在所有数据集通用。

6.6 如何验证结果正确？

运行 python examples/validate.py 会自动与 GLASS 结果对比，确保召回率完全一致。

6.7 未来计划？

  • 以 ParlayANN 为新起点再跑一轮 RL
  • 同时用欧式和角距奖励训练
  • 发布 Python 绑定，方便直接 import

7. 如何引用

@article{deepreinforce2025crinn,
  title={CRINN: Contrastive Reinforcement Learning for Approximate Nearest Neighbor Search},
  author={Li, Xiaoya and Sun, Xiaofei and Wang, Albert and Chris, Shum and Li, Jiwei},
  journal={arXiv preprint arXiv:2508.02091},
  year={2025}
}

8. 结语：把优化交给 AI，把思考留给自己

CRINN 展示了一种新范式：让大模型在强化学习的反馈循环里，自动发现人类工程师需要数周才能找到的优化点。
你无需精通缓存行对齐、SIMD 指令或并行调度，也能让 ANNS 算法在真实业务里快上一大截。

下一步？下载代码、跑一遍基准，再把这套思路迁移到你的向量检索场景。
祝你搜索更快，召回更准。