多模态检索

多模态检索模型推荐方案

线上一个 if/else。四个方向分开评。

带图

if 输入有图
Qwen3-VL-2B
只有图 → 只图 · 图+问句 → fused

不带图

else 只有字
Evie 压缩 d64 K32
文搜图 / 高精度同一 SKU
四方向

DINOv3-L / WeMM 对照,不进路由。牛津 DINO 69/70 更高;两尊佛问左边那尊,只图用不了问句。

方向输入推荐候选原因
图搜图只有图Qwen3-VL-2BILIAS 1041/1232 > WeMM-2B 1002
文+图搜图图+问句Qwen3-VL-2B汽车 fused 43/44 > WeMM-2B 31/44
文搜图只有字Evie 压缩 d64 K32工业v1 40/55 > WeMM-2B 38/55
高精度文搜图只有字Evie 压缩 d64 K32ViDoRe V3 58.60 · 3.81 GiB/百万页
带图 · 为什么不 WeMM-2B

主因是 fused。汽车文+图 Qwen 43/44,WeMM-2B 31/44(−12)。WeMM 只图 43、加上问句掉到 31;Qwen fused 43、只图 44。牛津 WeMM 58/70 > Qwen 52/70,产品不取这一列。WeMM 与 Qwen fused 不是同一套 prompt。

Qwen3-VL-2BWeMM-2B
图搜图 ILIAS1041/1232 · 84.50%1002/1232 · 81.33%
图搜图汽车195/199 · 97.99%192/199 · 96.48%
图搜图研报482/502 · 96.02%471/502 · 93.82%
图搜图牛津52/70 · 74.29%58/70 · 82.86%
文+图汽车 fused43/44 · 97.73%31/44 · 70.45%
文+图汽车 只图44/44 · 100.00%43/44 · 97.73%
文+图研报 fused228/232 · 98.28%225/232 · 96.98%
Evie 压缩 d64 K32 · 对照 WeMM-2B

WeMM-2B 文/图/文+图都能查。Evie 只查文字。Evie 压缩 d64 K32:工业 v1 40/55,高于 WeMM-2B 38/55;存储同为 3.81 GiB/百万页。建库单卡页/秒:d64 K32 2.5,WeMM-2B 3.0。检索 V3 ms/query:d64 K32 0.36 · WeMM-2B 0.001。

精度

工业v1 Hit@1
40/55 · 72.73%
WeMM-2B 38/55 · 69.09%

存储

百万页
3.81 GiB
与 WeMM-2B 同级

建库

单卡页/秒
2.5
WeMM-2B 3.0

检索

V3 ms/query
0.36
WeMM-2B 0.001
模型查询工业v1 Hit@1博物馆 Hit-any@1ViDoRe V3 nDCG@10
Evie 压缩 d64 K32只文40/55 · 72.73%57/77 · 74.03%58.60
WeMM-2B文 / 图 / 文+图38/55 · 69.09%52/77 · 67.53%52.59
模型百万页索引向量/页工业 单卡页/秒博物馆 单卡页/秒V3 ms/query
Evie 压缩 d64 K323.81 GiB322.52.00.36 ms/query · 32×64 MaxSim
WeMM-2B3.81 GiB13.01.00.001 ms/query · 1×2048 余弦
博物馆文搜图 · 案例

Evie 压缩 d64 K32 Top-1。图册页上半是标本。点开看整页。

特征查询
那个长得像猫眼睛一样的螺是什么?有什么特点?
Top-1131_猫眼蝾螺
视觉识别
那个白底上面有一块块巧克力色方块的是什么螺
Top-1145_棋盘宝螺
介绍说明
那个壳像鞋子的蛤蜊是什么东西呀
Top-1137_鞋魁蛤
特征查询
图册里有一个螺壳特别薄,薄得像纸一样,那个是啥
Top-1170_扁船蛸
视觉识别
有个红色的壳上面还有白色斑块,上大下小像个三角形倒过来
Top-1198_艳红芋螺
视觉识别
看到一个贝壳上有白色的小点点,像下雪一样,底色偏黄绿
Top-1230_初雪宝螺