首页  ·  知识 ·  人工智能
一文彻底搞定RAG、知识库、Llama-3
玄姐  玄姐聊AGI  综合  编辑:Razor   图片来源:网络
检索增强生成(RetrievalAugmentedGeneration,RAG)是一种强大的工具,它通过将企业外部知识整合到生成过程中,增强了大语言模型(LLM)的性能。

1

使用 Llama-3 搞定 RAG

检索增强生成(Retrieval Augmented Generation,RAG)是一种强大的工具,它通过将企业外部知识整合到生成过程中,增强了大语言模型(LLM)的性能。

image.png


















让我们探索 RAG 的关键7大组成部分。
第一、自定义知识库(Custom Knowledge)

定制知识库是指一系列紧密关联且始终保持更新的知识集合,它构成了 RAG 的核心基础。这个知识库可以表现为一个结构化的数据库形态(比如:MySQL),也可以表现为一套非结构化的文档体系(比如:文件、图图片、音频、视频等),甚至可能是两者兼具的综合形式。

image.png

















第二、分块处理(Chunking)

分块技术是指将大规模的输入文本有策略地拆解为若干个较小、更易管理的片段(Chunk)的过程。这一过程旨在确保所有文本内容均能适应嵌入模型所限定的输入尺寸,同时也有助于显著提升检索效率。

image.png








实施一种明智且高效的分块策略,在优化知识处理流程方面具有关键作用,能够极大地增强您的 RAG 系统的性能与响应能力。

image.png




















第三、嵌入模型(Embedding Model)
一种将多模态数据(文本、图片、音频等)表示为数值向量的技术,可以输入到机器学习模型中。

image.png




嵌入模型负责将多模态数据转换成这些向量。

image.png




















第四、向量数据库( Vector Databases)
一系列预先计算的文本数据向量表示,用于快速检索和相似性搜索,具有SQL CRUD 操作、元数据过滤和水平扩展等功能。

image.png







image.png





























第五、用户聊天界面(User Chat Interface)
一个用户友好的界面,允许用户与 RAG 系统互动,提供输入查询并接收输出。
查询转换为嵌入向量,用于从向量数据库检索相关上下文知识!

image.png

















第六、查询引擎(Query Engine)

查询引擎获取查询字符串,使用它来获取相关上下文,然后将两者一起作为提示词发送给 LLM 以生成最终的自然语言响应。这里使用的 LLM 是Llama-3,它在本地运行,这要归功于 Ollama。最终响应将在用户界面上显示。

image.png








image.png















第七、提示词模板(Prompt Template)
为 RAG 系统生成合适提示词的过程,可以是用户查询和自定义知识库的组合。

image.png












这作为输入给 LLM,生成最终的回复。

image.png

















本文作者:玄姐 来源:玄姐聊AGI
CIO之家 www.ciozj.com 微信公众号:imciow
   
免责声明:本站转载此文章旨在分享信息,不代表对其内容的完全认同。文章来源已尽可能注明,若涉及版权问题,请及时与我们联系,我们将积极配合处理。同时,我们无法对文章内容的真实性、准确性及完整性进行完全保证,对于因文章内容而产生的任何后果,本账号不承担法律责任。转载仅出于传播目的,读者应自行对内容进行核实与判断。请谨慎参考文章信息,一切责任由读者自行承担。
延伸阅读