EmbeddingGemma 2：一款开放、轻量的多模态嵌入模型

EmbeddingGemma 2：一款开放、轻量的多模态嵌入模型。我们去年推出EmbeddingGemma，旨在为高质量文本嵌入提供一种轻量级选择，帮助你的应用直接在消费级硬件上组织、搜索和连接信息。开发者社区的反响远超我们的预期。凭借超过2000万次下载，开发者已用它来驱动更智能的设备端搜索工具和隐私优先的检索增强生成（RAG）流水线。今天，我们推出EmbeddingGemma 2，从文本扩展到将代码、图像、视频和音频统一到一个共享的嵌入空间中。EmbeddingGemma 2基于Gemma 4架构构建，以商业友好的Apache 2.0许可证发布，拥有7.4亿参数，非常适合设备端推理。它可以帮助你从语音备忘录中找到特定的视频片段，或根据文本查询搜索数小时的音频录音，全部由单一的原生多模态模型处理。EmbeddingGemma 2采用与Gemini Embedding模型相同的技术构建，具备以下特点：- 同尺寸中最佳：在MTEB（大规模文本嵌入基准）Code和MAEB（大规模音频嵌入基准）等基准测试中，在10亿参数以下的多模态嵌入模型中取得领先成绩，同时在文本、视觉和音频任务上匹配或超越许多更大的模型。- 模块化设计：纯文本工作负载仅需低至2.7亿参数，并可选配视觉（1.7亿）和音频（3亿）编码器以实现完整的多模态支持。- 存储高效：利用Matryoshka表示学习（MRL），开发者可以将输出向量从768维动态截断至512、256或128维。这为本地向量数据库和内存使用提供了最高6倍的存储缩减。- 针对设备端性能优化：在紧张的资源约束下高效运行。经过量化后，在Google Pixel 11 Pro上，EmbeddingGemma 2的活跃RAM需求低至约191MB。