赞助 sqlite-vec 以支持更强大的本地 AI 应用

Mozilla 的 最近宣布的 Builders 项目支持推进开源 AI 事业的项目。我们的首个主题是“本地 AI”:可以在消费设备(如台式机、笔记本电脑和智能手机)上完全本地运行的 AI 应用程序。我们对此领域非常感兴趣,因为它通过将 AI 技术直接交付到用户手中,促进了更强的隐私和控制。它还通过降低成本使 AI 开发民主化,让单个开发者和小社区可以使用强大的工具。

作为 Mozilla Builders 的一部分,我们已经启动了 一个加速器,开发者可以申请加入,但同时我们也积极招募特定的开源项目,我们认为这些项目有可能推动 AI 的发展,并且会从 Mozilla 的投资、专业知识和支持中获益。我们的第一个 Builders 项目是 llamafile,由开源开发者 Justine Tunney领导。 llamafile 能够让开源 LLM 在日常消费级硬件上快速运行,同时使开源 AI 变得更加容易获取和使用。

squilte vec logo

今天,我们很自豪地宣布下一个 Mozilla Builders 项目: sqlite-vec 该项目由独立开发者 Alex Garcia领导,它将向量搜索功能带入了备受喜爱的 SQLite 内嵌数据库。

Alex 一直在研究这个问题,我们认为他最新的方法将通过为应用程序开发者提供构建本地 AI 应用的强大新工具,产生巨大的影响。

alex garcia

“我对 sqlite-vec 成为 Mozilla Builders 项目感到非常兴奋,”Alex Garcia 说。“我非常重视构建易于上手且在任何地方都能运行的软件,这显然是像 llamafile 这样的其他 Builders 项目的特征。AI 工具也不例外 - 能够在任何地方运行的向量数据库意味着每个人都能获得更公平的访问权。”

向量数据库正在成为 AI 应用程序堆栈的关键组成部分,支持诸如检索增强生成 (RAG) 和语义搜索之类的用途。但是,目前市面上只有很少的数据库适合在设备上使用,这使得在本地 AI 应用中提供 RAG 之类功能变得更加困难。SQLite 是一个成熟且广泛部署的内嵌数据库 - 事实上,它甚至内置于 Mozilla 自己的 Firefox 网络浏览器中。

支持向量的 SQLite 的前景为本地运行的 AI 应用程序带来了许多新可能性。例如,想象一个能够回答有关你的个人数据的问题的聊天机器人,而无需让该数据的任何字节离开你笔记本电脑的隐私和安全范围。

我们很高兴与 Alex 合作,支持他在 sqlite-vec 上的努力。我们鼓励你 关注项目的进展,Alex 欢迎你的贡献。并且 Mozilla 的 Discord 服务器 是与 Alex、Mozilla Builders 团队以及我们不断壮大的开源实践者社区中的其他人联系的绝佳场所。请来这里并做自我介绍。

 

关于 Stephen Hood

Stephen 领导 Mozilla Builders 中的开源 AI 项目(包括 llamafile)。他之前曾管理社会书签先驱 del.icio.us;共同创办了 Storium、Blockboard 和 FairSpin;并在 Yahoo Search 和 BEA WebLogic 工作过。

Stephen Hood 的更多文章…