Haystack

Haystack 是由德国 AI 公司 deepset 开发的开源 AI 编排框架，其官网为：https://haystack.deepset.ai/。该平台旨在帮助 Python 开发者构建实际的、复合的、智能体式的大语言模型（LLM）应用。
核心特点
灵活的管道构建：开发者可以使用 Haystack 的内置组件，如检索器、生成器、排序器、智能体等构建灵活的管道，也可以创建自己的组件。还能通过添加循环和分支来完全控制自定义管道，定制数据流以适应特定用例。
广泛的集成能力：Haystack 能以模块化、可交换的架构与模型提供商、向量数据库和 AI 工具进行平滑集成，支持 OpenAI、Anthropic、Mistral 等大语言模型提供商，以及 Weaviate、Pinecone 等向量数据库。
轻松部署：可以使用 Hayhooks 将管道作为 REST API 或 MCP 服务器轻松部署，并通过内置的跟踪、日志记录和评估工具进行监控和优化，确保对整个过程的完全可观测性。
主要功能
检索增强生成（RAG）：这是 Haystack 的核心功能之一，它结合了检索系统和生成模型，可基于检索到的相关文档生成高质量的回答，提供了多种检索器和生成器，可根据需求灵活组合。
问答系统：Haystack 可以轻松构建端到端的问答系统，包括开放域问答和封闭域问答，支持抽取式问答和生成式问答，并提供了评估工具来衡量系统性能。
语义搜索：通过使用先进的向量检索技术，Haystack 能够实现基于语义的文档搜索，大大提高搜索的准确性和相关性。
文档处理：Haystack 提供了全面的文档处理 pipeline，包括文件转换、清洗、分割等，可以处理各种格式的文档。
相关产品
Haystack Enterprise：为需要更多支持和指导的团队提供专家支持、高级管道模板、部署指南以及早期访问功能。
deepset Studio：一个免费的可视化界面，用于构建管道、试验数据和部署应用程序，用户可以拖放组件来构建 Haystack 管道，还可以将自己的文件或连接数据库，在 deepset 上部署或在本地导出管道。
deepset AI Platform：一个企业级平台，为在生产环境中运行生成式 AI 应用程序的团队提供了安全、治理和可扩展性。