与NVIDIA深度参与GTC向量数据库大厂Zilliz与全球顶尖开发者共迎AI变革时刻

发布时间:2024-03-27 11:20:42 来源:98直播吧斯诺克

  近日,非常关注的 NVIDIA GTC 已拉开帷幕。来自世界各地的顶尖齐聚美国加州圣何塞会议,Zilliz 今年主要以主题演讲的形式去参加了。Zilliz 创始人兼 CEO 星爵、Zilliz 合伙人及研发 VP 栾小凡、Zilliz AI 和负责人 Frank Liu 均将在 GTC 不同的环节进行分享。不止如此,Zilliz 还先后两次与 NVIDIA 合作,尤其是即将发布的 Milvus 2.4,充分诠释了如何用

  黄仁勋今年 Keynote的主题是“见证 AI 的变革时刻”,在演讲中再次介绍了向量数据库在 LLM、生物制药、无人驾驶机器人等领域的广泛应用场景。而 Zilliz 作为向量数据库的领军者,也将在此次 AI 盛会中再次向世人展示向量数据库在去年一年的打磨中已经取得的成果,并准备好来迎接 AI 的变革时刻。

  在今年的 GTC 大会上,Zilliz 将通过线上主题演讲与现场分享结合的方式与全球的开发者进行深入交流。

  在 3 月 18 日(北京时间)举行的 GTC 创业企业特别会议特辑中,有三场针对中国创业企业的特别演讲,栾小凡在其中一场主题为“创业企业在生成式 AI 方向的实践与分享“。栾小凡详细的介绍了 GPU 加持的向量数据库 Milvus 如何赋能大规模 RAG 模型应用。

  (执行高效搜索,提高数据实时性,并通过 GPU 加速的向量搜索和 RAG 工作流程提高召回率)

  在即将到来的 3 月 20 日(北京时间),Zilliz 创始人兼 CEO 星爵将在 GTC 大会上进行分享。本次分享主要帮助开发者了解 RAPIDS RAFT 库的集成,如何明显提升 Milvus 在构建索引和执行搜索查询方面的性能。届时将讨论集成的核心架构,并提供实际应用中的性能测试结果。

  2023 年以来,Zilliz 旗下的开源向量数据库 Milvus 先后两次与 NVIDIA 进行深度合作,以实际行动支持 AI 时代开发者对向量数据库的性能需求。

  首先是 Milvus 2.3 正式支持 NVIDIA GPU。作为为数不多的支持 GPU 的向量数据库产品,Milvus 2.3 在吞吐量和低延迟方面都带来了显著的变化,尤其是与此前的CPU版本相比,不仅吞吐量提高了 10 倍,还能将延迟控制在极低的水准。

  同时,Milvus 2.3 还带来了如 Query 架构升级、更强的负载均衡调度能力、新的消息队列、Arm版本镜像、可观测性、运维工具升级 MMap 等能力。其中,与传统的内存索引相比,MMap 能轻松实现超过 10 倍的内存节省,对 RAG 应用尤其有益。

  本周,Milvus 将升级至 2.4 版本,全面支持 NVIDIA最新的 RAFT算法库,包括暴搜 bruteforce、图索引 CAGRA 以及 IVF 以适用于不同应用场景。在 GPU 的加持下,不仅索引的构建时间大幅度缩短,向量检索尤其是批量搜索场景下,QPS 有数十至上百倍的提升。

  此外,Milvus 2.4 还基于场景引入了其他新功能,例如:支持多向量列和混合排序搜索,能更好的支持多模态场景;稀疏向量的支持能够在一定程度上帮助扩充向量搜索的范围,其在关键词理解和可解释性方面都颇具前景。而针对典型 RAG 场景,引入分类聚合的 Group By 支持,帮助 chunk 之上的文档级别召回;同时支持 Inverted Index 和模糊匹配,提升了关键词的检索能力。

  升级基于 Milvus 的全托管向量数据库云服务产品 Zilliz Cloud,并持续建设 AI 生态

  最新升级的 Zilliz Cloud 可以大幅度的提高向量搜索性能(性能较 Milvus 最高提升 10 倍以上),实现企业级数据安全和无缝数据集成。新版本发布后,用户无需自定义代码,便可快速顺畅地完成非结构化数据处理和索引。尤其是对于 Cardinal 搜索引擎的支持,使得用户对于处理大型数据集及快速响应的高要求有了保障,在提升体验的同时,也能提高 AI 应用的竞争力。

  而 Zilliz Cloud Pipelines 的上线,也可以轻松又有效提升开发者的工作效率,它可以将文档、文本片段和图像等非结构化数据转换成可搜索的向量并存储在 Collection 中,帮助开发者简化工程开发,助力其实现多种场景的 RAG 应用,将复杂生产系统的搭建和维护简化成 API 调用。

  此外,2023 年以来,Zilliz Cloud 实现了 AWS、Azure、GCP、阿里云全球 4 大云 11 个节点的全覆盖,成为全世界首个提供海内外多云服务的向量数据库企业。

  Zilliz 从未停止过对 AI 生态的建设,也期待与其伙伴一起探索更多 AI 的变革时刻。

  近期,Zilliz 面向 AI 初创企业推出了“Zilliz AI 初创计划”,预计提供总计 1000 万元的 Zilliz Cloud 抵扣金,帮助 AI 开发者构建高效的非结构化数据管理系统,助力打造高质量 AI 服务与运用,加速产业落地。

  Zilliz 将为全球的 AI 初创团队提供资源、技术、市场推广、销售等全方位的支持,符合标准要求的团队可获得以下独家资源与支持:零成本快速上云;领先全行业的向量数据库技术、产品支持;提升品牌海内外知名度,拓宽潜在客户市场;携手销售专家探寻更多商机。

  对该计划感兴趣的团队可访问 Zilliz 中文官网首页填写申请,Zilliz AI 初创计划项目专员将在 1-3 个工作日内和您联系并确认申请资料,完成资质评估,制定后续执行计划。

  未来,Zilliz 也将持续加大对 AI 生态系统建设的投入,不断为更多的优质开源项目赋能、繁荣生态、惠及更广泛的开发者和用户群体,活动申请截止日期为 2024 年 6 月 30 日。

  热点技术都在这里 /

  成关注焦点 /

  ! /

  的热度推向了高点,在此氛围下,有人发出了哲学家般的一问:究竟是大模型选择了

  技术合伙人带你解惑 /

  大会”精彩盛况! /

  之间的区别是什么? /

  ”尘埃落定,并真正开始启动大模型测试国家标准制订,掀起新一轮大模型热浪。而作为“大模型记忆体”、AIGC 应用

  的演进也逐渐达到了前所未有的新高度。 Milvus自2019年正式开源以来,已经成长为

  云服务重磅登场 /

  是如何工作的? /

  、高校师生、工程师群体发出的一项学习成长助力活动。 众所周知,嵌入式相关的学习是有成本的,但热爱却是无价的。我们愿意以CW32 MCU

  Zilliz携手大模型生态企业玩转GDC 2024,向量数据库和RAG成行业焦点

  鸿蒙原生应用开发-ArkTS语言基础类库多线程TaskPool和Worker的对比(二)

  【紫光同创盘古PGX-MINI-4K教程】——(盘古PGX-MINI-4K开发板/PGC4KD-6ILPG144第二章)LED 流水灯实验例程