今日推荐:Cognita】一款开源框架 tcc开源框架

【今日推荐：Cognita】一款开源框架，用于组织检索增强生成（RAG）代码库，并提供前端界面以方便进行不同的 RAG 定制。

特点：modular, api, easily scalable and extendable. 3.1k stars.

github地址：truefoundry/cognita

它简化了代码库的组织方式，使得本地测试变得容易，同时也支持在生产环境中部署。

解决的关键问题包括：

分块与嵌入任务：

将分块和嵌入的代码抽象化并作为单独的任务部署。

支持按计划运行或通过事件触发来更新数据。

查询服务：

将生成答案的代码封装到 API 服务器（如 FastAPI）中，并作为服务部署。

能够处理并发查询，并随着流量增加自动扩展。

语言模型与嵌入模型部署：

如果使用开源模型，则需要将模型作为独立的服务托管，并通过 API 调用。

向量数据库部署：

在生产环境中，需要以更可扩展且可靠的方式部署向量数据库。

使用 Cognita 的优势：

中央可重用存储库：

包含解析器、加载器、嵌入器和检索器等组件。

用户友好界面：

允许非技术用户通过界面上传文档并执行问答操作。

全 API 驱动：

支持与其他系统的集成。

结合 Truefoundry 组件：

可获得日志记录、指标跟踪及用户查询反馈机制。

特性：

多种文档检索器支持：

支持基于相似度搜索、查询分解、文档重排序等多种方法。

最先进的开源嵌入与重排序：

支持来自 mixedbread-ai 的最新技术。

LLM 支持：

利用 ollama 进行 LLM 操作。

增量索引支持：

支持批量导入整个文档（减少计算负担），跟踪已索引文档并防止重复索引。

通过这些功能和优势，Cognita 旨在帮助开发者快速构建、定制和部署高质量的 RAG 系统，同时保持灵活性和易用性。无论是本地使用还是与 Truefoundry 组件结合使用，Cognita 均能提供强大的支持。