所有文章
> 当前分类:AI驱动
LLM之RAG理论（十一）| 面向生产的RAG应用程序的12种调整策略指南
2024/12/06
本文对文本RAG涉及到的主要12种关键“超参数”进行简单总结，主要包括摄取阶段（数据清洗、数据分块、embedding模型选择、元数据过滤、多重索引和索引算法）和推理阶段【检索和生成】（查询转换、检索参数、高级检索策略、重排序、大模型和Pr...
LLM之RAG理论（十）| RAT：一种协同CoT和RAG的 AI 提示策略，助力解决长任务推理和生成
【AI驱动】
论文地址： Github地址： Demo地址： 北京大学、加州大学洛杉矶分校和北京通用人工智能研究院的研究人员探索如何在信息检索的帮助下迭代修改思想链提高大型语言模型在长生成任务中的推理和生成能力，同时极大地减轻幻觉。特...
2024/12/06
LLM之RAG理论（九）| 如何在LLM应用程序中提高RAG结果：从基础到高级
【AI驱动】
如果你正在用LLM（大型语言模型）构建产品或者功能，你可能会使用一种名为RAG（检索增强生成）的技术。RAG允许用户将LLM的训练数据中不可用的外部数据集成到LLM的文本生成过程中，这可以大大减少幻觉的产生，并提高文本响应的相关性。 ...
2024/12/06
LLM之RAG理论（八）| 提高RAG性能的9种技术
【AI驱动】
2023年是迄今为止NLP发展最快的一年。这年，ChatGPT与许多其他大型语言模型层出不穷，包括开源的和闭源的。 与此同时，各个行业对个性化和全面运营的RAG的需求也在飙升，每个客户都渴望拥有自己的量身定制...
2024/12/06
LLM之RAG理论（七）| 高提升RAG检索的四种方法
【AI驱动】
RAG两大核心组件：检索和生成。本文将总结四种提高RAG系统检索质量的技术：1）子问题查询引擎（来自LlamaIndex），2）RAG-Fusion、3）RAG-end2end和4）著名的LoRA技巧。 一、LLM对问题进...
2024/12/06
LLM之RAG理论（六）| 高级RAG指南和技巧
【AI驱动】
一、基本RAG介绍 基本RAG需要从外部知识数据库中获取文档，然后，将这些文档与用户的查询一起被传输到LLM，用于生成响应。从本质上讲，RAG包括一个检索组件、一个外部知识数据库和一个生成组件。 在基本的R...
2024/12/06
LLM之RAG理论（五）| 使用知识图谱增强RAG
【AI驱动】
知识图谱（KG）或任何图都包括节点和边，其中每个节点表示一个概念，每个边表示一对概念之间的关系。本文介绍一种将任何文本语料库转换为知识图谱的技术，本文演示的知识图谱可以替换其他专业知识图谱。 一、知识图谱 ...
2024/12/06
LLM之RAG理论（四）| RAG高级数据索引技术
【AI驱动】
本文将重新审视分块技术以及其他方法，包括查询增强、层次结构和知识图谱。 一、简单RAG架构快速概览 在2023年年初，我的主要关注点集中在Vector DB及其在更广泛的设计领域中的表现上。...
2024/12/06
LLM之RAG理论（三）| 高级RAG技术全面汇总
【AI驱动】
检索增强生成（Retrieval-Augmented Generation，又称RAG）通过检索LLMs之外的数据源来支持其生成答案。RAG=搜索+LLM提示，根据用户的查询要求，LLMs会使用搜索算法从外部数据源获取上下文信息，最后，查询...
2024/12/06
LLM之RAG理论（二）| RAG综述论文详解
【AI驱动】
论文地址： 大型语言模型（LLMs）展示了强大的能力，但在实际应用中仍面临挑战，如幻觉现象、知识更新缓慢，以及在回答中缺乏透明度。检索增强生成（RAG）指的是在使用LLMs回答问题之前，从外部知识库中检索相关信息。RAG已...
2024/12/06
LLM之RAG理论（一）| CoN：腾讯提出笔记链（CHAIN-OF-NOTE）来提高检索增强模型（RAG）的透明度
【AI驱动】
论文地址： 检索增强语言模型（RALM）已成为自然语言处理中一种强大的新范式。通过将大型预训练语言模型与外部知识检索相结合，RALM可以减少事实错误和幻觉，同时注入最新知识。然而，目前的RAL...
2024/12/06
LLM之Prompt（四）| OpenAI、微软发布Prompt技术报告
【AI驱动】
摘要 生成式人工智能 （GenAI） 系统正越来越多地部署在各行各业和研究机构。开发人员和用户通过使用提示或提示工程与这些系统进行交互。虽然提示是一个广泛提及且被研究的概念，但由于该领域的新生，存在相互矛盾的术语和对构成...
2024/12/06
LLM之Prompt（三）| XoT：使用强化学习和蒙特卡罗树搜索将外部知识注入Prompt中，性能超过CoT，ToT和GoT
【AI驱动】
论文地址： 一、当前Prompt技术的局限性 LLM使用自然语言Prompt可以将复杂的问题分解为更易于管理的“thought”可以回复用户的问题。然而，大多数现有的Prompt技术都有局限性： 输入输出（...
2024/12/06
LLM之Prompt（二）：Prompt 对齐优化技术BPO
【AI驱动】
论文题目：《Black-Box Prompt Optimization: Aligning Large Language Models without Model Training》 论文链接： github地址： BPO...
2024/12/06
LLM之Prompt（一）：5个Prompt高效方法在文心一言3.5的测试对比
【AI驱动】
在Effective Prompt: 编写高质量Prompt的14个有效方法文中我们了解了14个编写Prompt的方法（非常感谢原作者），那么这些Prompt在具体大模型中的效果如何呢？本文以百度文心一言3.5版本大模型在其中5个方法上做个...
2024/12/06
Requests:API调用界的优雅绅士,告别复杂的HTTP请求!
【AI驱动】
大家好！今天我要介绍Python中一个超级实用的HTTP库 —— Requests。它就像一位优雅的管家，帮我们处理各种网络请求的细节。无论是获取网页内容、调用API接口，还是上传下载文件，用Requests都能轻松搞定。来跟我一起深入了解...
2024/12/06
搜索文章
热门话题
文章精选
