什么是 LlamaIndex？它主要解决什么问题？
LlamaIndex 是一个开源的数据框架，专为构建基于大语言模型（LLM）的应用程序而设计。它的核心目标是解决 LLM 在处理私有、大规模或实时数据时的局限性——传统 LLM 无法直接访问用户自己的数据库、文档或 API。LlamaIndex 通过提供索引、检索和查询接口，让开发者能够轻松地将外部数据接入 LLM，实现诸如问答系统、智能文档分析、企业知识库等功能。
LlamaIndex 的核心组件有哪些？
LlamaIndex 主要包括三个层次：数据连接器（Data Connectors）、索引结构（Index Structures）和查询引擎（Query Engine）。数据连接器负责从各种数据源（如 PDF、网页、SQL 数据库、Notion、Slack 等）读取原始数据；索引结构将这些数据转化为可检索的向量索引或关键词索引；查询引擎则根据用户问题利用 LLM 和索引进行检索与生成回答。此外，LlamaIndex 还支持节点（Node）、嵌入（Embedding）、检索器（Retriever）等抽象概念，方便定制流程。
LlamaIndex 与 LangChain 有什么区别？我该如何选择？
两者都是构建 LLM 应用的热门框架，但侧重点不同。LangChain 更偏向于通用的流程编排和链式调用，提供大量工具集成和代理（Agent）机制，适合构建复杂多步骤的工作流。LlamaIndex 则专注于数据索引和检索优化，在文档拆分、嵌入存储、混合检索（向量+关键词）以及查询分解方面做了深度优化。如果你的核心需求是让 LLM 理解大量文档并精确回复，LlamaIndex 更高效；如果需要编排多个工具或长期记忆，LangChain 更合适。实际项目中两者也常配合使用。
LlamaIndex 支持哪些数据源？
官方文档列出超过 30 种内置数据连接器，涵盖文件格式（PDF、CSV、Markdown、Excel、图片（通过 OCR））、云服务（Google Drive、Notion、Confluence、SharePoint）、数据库（PostgreSQL、MySQL、MongoDB、ChromaDB）、以及实时 API（Slack、Discord、GitHub Issues）。此外，用户也可以通过自定义 Reader 接口接入任意数据源。
LlamaIndex 中的“索引”具体指什么？有哪几种常用索引类型？
索引是对原始数据经过分割、嵌入、存储后形成的可查询结构。常用索引包括：
- VectorStoreIndex：向量索引，基于 embedding 语义相似度检索。
- SummaryIndex：将文档摘要作为检索单元。
- KeywordTableIndex：使用关键词提取和匹配，适合精确术语查询。
- TreeIndex：将文档构建成层级树，逐步缩小检索范围。
- PropertyGraphIndex：基于属性图存储实体关系，用于复杂关联查询。开发者也可组合多种索引实现混合检索。
如何快速开始使用 LlamaIndex？
官方推荐通过 pip 安装：pip install llama-index。之后导入核心模块，加载文档（例如用 SimpleDirectoryReader 读取本地文件），创建索引（如 VectorStoreIndex.from_documents），再构建查询引擎（index.as_query_engine()），最后调用 query 方法即可。整个过程一般只需 10 行左右代码，配合 OpenAI 的 API 即可运行。对于本地模型，LlamaIndex 也支持 Hugging Face、Ollama 等后端。
LlamaIndex 如何处理超长文档（比如几百页的 PDF）？
它采用“分块 + 递归检索”策略。默认的 SentenceSplitter 会将文档按句子或段落拆分成节点（Node），每个节点大小可控（例如 512 token）。查询时先通过检索器找出最相关的若干节点，再把这些节点作为上下文注入 LLM。对于跨章节的问题，LlamaIndex 还提供了“递归检索”功能，先检索摘要再深入细节，或者使用“Metadata Replacement”让索引保留章节标题等结构信息。
LlamaIndex 是否支持多模态（图片、表格）？
支持。从 v0.10 开始，LlamaIndex 引入了多模态索引能力。对于图片，可以使用图片描述模型生成文字描述后嵌入，或者直接使用多模态 embedding 模型。对于表格，可以将 CSV 或 Excel 中的行数据转化为结构化节点，支持 SQL 查询或自然语言检索。此外，LlamaIndex 还提供了“PandasIndex”用于直接对 DataFrame 进行问答。
LlamaIndex 中的“代理”（Agent）和“查询引擎”有什么关系？
查询引擎（Query Engine）是 LlamaIndex 的核心接口，负责接收问题、检索、生成回答。Agent 则是在查询引擎之上的一层，具备工具调用、多轮对话、决策规划能力。LlamaIndex 内置了 OpenAIAgent、ReActAgent 等，它们可以使用多个查询引擎作为工具，从而处理更复杂的任务，比如先查库存再查价格，或者根据用户意图切换数据源。
我们公司数据敏感，能否完全离线使用 LlamaIndex？
可以。LlamaIndex 支持完全本地化部署。你需要选择本地 embedding 模型（如 BGE、gte）、本地 LLM（如 Llama 3、Qwen、Mistral，通过 llama.cpp 或 Ollama 加载），以及本地向量数据库（如 Chroma、FAISS、Weaviate）。所有数据存储和推理都不经过外部网络。官方文档有专门的“Local Models”指南，并提供了与 Ollama、vLLM 集成的示例。
LlamaIndex 如何处理数据更新？每次都要重建索引吗？
不需要完全重建。LlamaIndex 支持增量更新：你可以向现有索引添加新文档（insert 方法），或者删除和修改节点。对于向量索引，更新操作会重新计算被修改节点的 embedding 并更新向量数据库。对于 KeywordTable 等索引，也会同步调整关键词表。不过需要注意，如果底层 embedding 模型或分块策略发生变化，通常需要重建索引以保证一致性。
LlamaIndex 有哪些常用的社区生态工具或插件？
官方维护了一个名为“LlamaHub”的集散地，包含数百个数据加载器、工具、检索器插件。例如，专门的 MarkdownReader、WebPageReader、JiraReader 等。还有用于评估的“LlamaIndex Evals”模块，以及用于部署的“LlamaIndex Server”（REST API）。社区还开发了与 Streamlit、FastAPI、Gradio 集成的示例，方便快速搭建前端。
在 LlamaIndex 中如何微调检索结果？比如提高某些字段的权重？
可以通过自定义检索器实现。LlamaIndex 允许你为每个节点设置元数据（Metadata），例如文档名称、作者、日期。在检索时，你可以使用 MetadataFilter 或 AutoMergingRetriever 根据元数据过滤，也可以实现一个加权检索器：对得分进行重排序，比如优先召回特定来源的文档。更高级的做法是使用 LambdaRank 或者基于 LLM 的二次排序（如 Cohere Rerank 或 cross-encoder）。
LlamaIndex 的版本演进情况如何？当前稳定版是多少？
LlamaIndex 自 2022 年底开源以来，已迭代到 v0.12 系列（截至 2025 年 5 月，最新稳定版为 0.12.4）。v0.10 进行了重大重构，将框架拆分为核心包（llama-index-core）和集成包（如 llama-index-embeddings-openai），使得安装体积更小、依赖更清晰。官方保持每两周左右的发布节奏，社区活跃度很高，GitHub star 已超过 40k。
能否用 LlamaIndex 构建一个实时问答机器人（比如即时通讯中的客服）？
完全可以。你需要先创建索引，然后启动一个持续运行的服务（例如用 FastAPI 封装查询引擎），再通过 WebSocket 或 HTTP 接口与即时通讯平台（如 Slack、Discord、Telegram）对接。LlamaIndex 官方示例中有一个“Chatbot”教程，使用简单的循环读取用户输入并调用 query 接口。对于多轮对话，可以结合 ChatMemoryBuffer 来保留上下文。
LlamaIndex 的收费模式是怎样的？
LlamaIndex 本身是完全开源免费的（MIT 许可证），你可以自由使用、修改和商用。但如果你使用云端的 LLM 或 embedding 服务（如 OpenAI、Anthropic），则需要向这些服务付费。如果要使用 LlamaCloud 托管服务（提供数据连接、索引托管、API 端点），官方提供了免费额度及按需付费计划，详情可查阅 LlamaIndex 官网的定价页面。
如何评估 LlamaIndex 构建的问答系统的准确率？
官方提供了评估模块（llama-index-evaluation）。你可以准备一组测试问答对，然后调用 evaluate 方法，计算命中率（Hit Rate）、平均倒数排名（MRR）、答案语义相似度（通过 LLM 判断）。也可以使用更经典的 RAG 评估指标，如 Faithfulness（忠实性）、Relevance（相关性）。LlamaIndex 还支持 DeepEval、RAGAS 等第三方评估框架的集成，方便进行自动化回归测试。
