LLM RAG（Retrieval-Augmented Generation）是最近备受瞩目的话题和技术。随着大语言模型（LLM）的快速发展，这些模型不仅能够处理更长的上下文，还展现出惊人的推理和检索能力。LLM RAG结合了检索和生成两大功能，能够从外部知识库中检索相关信息，并生成高质量的文本回答，这种创新极大地拓展了LLM的应用范围和性能。
LLM RAG的核心优势：
增强上下文理解：传统的语言模型在处理长文本时，往往受到上下文窗口大小的限制。而LLM RAG通过动态检索相关信息，可以显著扩展上下文范围，使得模型在理解和生成长篇内容时更加得心应手。
提高推理能力：LLM RAG不仅依赖模型内的知识，还能实时访问外部数据源进行推理。这种能力使得模型在面对复杂问题时，能够结合多方面的信息，提供更加准确和有深度的回答。
知识更新灵活：大语言模型在训练后，其内部知识是静态的，而RAG架构允许模型在生成文本时实时检索最新的外部信息，从而保持知识的时效性和准确性。
7月3日，微软在官网开源了基于图的RAG（检索增强生成）——GraphRAG。
传统的RAG系统在处理外部数据源时，通常采用以下流程：
文档转换为文本：将外部数据源中的文档转换为文本格式。
分割为片段：将长文档分割为多个小片段，以便于处理和检索。
嵌入向量空间：将文本片段嵌入到向量空间中，使得相似的语义对应相近的位置。
尽管这种方法在很多场景下取得了一定的成功，但在处理需要全局理解的海量数据查询时，传统RAG系统显得力不从心。其主要局限在于：
过度依赖局部文本片段的检索：这种方法主要依靠局部片段的相似性来进行信息检索，难以捕捉到文档的整体语义和结构。
缺乏全局理解能力：在需要全局理解和综合分析的任务中，传统RAG系统无法充分利用整个数据集的全貌，导致生成的答案可能缺乏深度和全面性。
所以，微软在RAG基础之上通过“Graph”图的方式，例如，文本中的实体，人物、地点、概念等，构建了超大的知识图谱，帮助大模型更好地捕捉文本中的复杂联系和交互，来增强其生成、检索等能力。
开源地址：https://github.com/microsoft/graphrag?tab=readme-ov-file
