所有文章
> 当前分类:AI驱动
LLM之RAG实战（十二）| 在RAG管道中实现上下文压缩和过滤
2024/12/09
在RAG中可能面临的最大问题之一是检索器应该检索什么内容？ 实际使用中，检索到的上下文并不完全有用，可能检索处理较大的块中只有非常小的一部分与答案相关，还可能对于一个特定的问题需要...
LLM之RAG实战（十一）| 使用Mistral-7B和Langchain搭建基于PDF文件的聊天机器人
【AI驱动】
在本文中，使用LangChain、HuggingFaceEmbeddings和HuggingFace的Mistral-7B LLM创建一个简单的Python程序，可以从任何pdf文件中回答问题。 一、LangChain简介 &n...
2024/12/09
LLM之RAG实战（八）| 使用Neo4j和LlamaIndex实现多模态RAG
【AI驱动】
人工智能和大型语言模型领域正在迅速发展。一年前，没有人使用LLM来提高生产力。时至今日，很难想象我们大多数人或多或少都在使用LLM提供服务，从个人助手到文生图场景。由于大量的研究和兴趣，LLM每天都在变得越来越好、越来越聪明。不仅如此，他们...
2024/12/09
LLM之RAG实战（六）| 高级RAG 02：选择最佳embedding和重排序模型
【AI驱动】
在构建检索增强生成（RAG）Pipeline时，一个关键组件是Retriever。我们有多种embedding模型可供选择，包括OpenAI、CohereAI和开源sentence transformers。此外，CohereAI和sent...
2024/12/09
LLM之RAG实战（五）| 高级RAG 01：使用小块检索，小块所属的大块喂给LLM，可以提高RAG性能
【AI驱动】
RAG（Retrieval Augmented Generation，检索增强生成）系统从给定的知识库中检索相关信息，从而使其能够生成事实信息、上下文相关信息和特定领域的信息。然而，在有效检索相关信息和生成高质量响应方面，RAG面临着许多...
2024/12/09
LLM之RAG实战（一）：使用Mistral-7b, LangChain, ChromaDB搭建自己的WEB聊天界面
【AI驱动】
一、RAG介绍 如何使用没有被LLM训练过的数据来提高性能？检索增强生成（RAG）是未来的发展方向，下面将解释一下它的含义和实际工作原理。 假设您有自己的数据集，例如来自公...
2024/12/09
LLM推理部署（三）：一个强大的LLM生态系统GPT4All
【AI驱动】
GPT4All，这是一个开放源代码的软件生态系，它让每一个人都可以在常规硬件上训练并运行强大且个性化的大型语言模型（LLM）。Nomic AI是此开源生态系的守护者，他们致力于监控所有贡献，以确保质量、安全和可持续维护性。 ...
2024/12/09
LLM推理部署（二）：英伟达LLM推理部署工具TensorRT-LLM
【AI驱动】
在大模型时代，各大公司在陆续推出和优化各自的底座大模型，不断刷新榜单，然而大模型的超大参数给生产部署带来了很大的困难，由此也带来大模型部署框架的蓬勃发展，本文将介绍英伟达(NVIDIA)在TensorRT基础上针对LLM优化所推出的推理加...
2024/12/09
LLM微调（四）| 微调Llama 2实现Text-to-SQL，并使用LlamaIndex在数据库上进行推理
【AI驱动】
Llama 2是开源LLM发展的一个巨大里程碑。最大模型及其经过微调的变体位居Hugging Face Open LLM排行榜（ 一、Llama-2–7B不擅长从文本到SQL 最小的Llama 2模型（7B参数）有...
2024/12/09
Agent调研–19类Agent框架对比
【AI驱动】
代理（Agent）指能自主感知环境并采取行动实现目标的智能体，即AI作为一个人或一个组织的代表，进行某种特定行为和交易，降低一个人或组织的工作复杂程度，减少工作量和沟通成本。 1.背景 目前，我们在探索Agent的应用方向，借此...
2024/12/09
手把手教你开发Agent：聊聊DB-GPT Agent的架构设计、源码解读和实战开发
【AI驱动】
1.背景 去年5月份DB-GPT项目正式开源，作为DB-GPT的元老级开发者，我当时主要负责让DB-GPT能兼容支持AutoGPT的Plugin，实现自然语言和数据库相关的交互能力, 以及Text2SQL后的可视化流程。去年7月份开始...
2024/12/09
Agent 智能体开发框架选型指南
【AI驱动】
智能体（Agents）正迎来辉煌时刻。伴随着众多新框架的涌现和对该领域的持续投资[1]，现代 AI 智能体正在跨越起初的不稳定阶段[2]，迅速取代 RAG 成为开发首选。那么，2024 年是否会成为 autonomous AI 系统全面接管...
2024/12/09
基于大模型的数据应用开发框架详解
【AI驱动】
随着大模型技术的快速发展和日趋成熟，大模型在各个行业和业务领域的应用也如火如荼。在数据领域中，将大模型赋能到数据管理、数据应用及数据分析等方面的探索也在逐步落地。在实践过程中，搭建统一、高效、可扩展的数据开发框架变得至关重要。本文分享基于大...
2024/12/09
AI Agent调研–7种Agent框架对比！盘点国内一站式Agent搭建平台，一文说清差别！大家都在用Agent做什么？
【AI驱动】
代理（Agent）乃一种智能实体，具备自主环境感知与决策行动能力，旨在达成既定目标。作为个人或组织之数字化替身，AI代理执行特定任务与交易，其核心价值在于简化工作流程，削减繁复性，并有效降低人力投入与沟通障碍，促进效率与协作的双重提升。简而...
2024/12/09
使用 Go 开发 AI Agent的选择：Genkit for Go
【AI驱动】
## 什么是 Genkit __Genkit__[1] 是一个 Google Firebase 团队开发的 AI Agent 开发框架，用于构建现代、高效的 AI 应用。它目前包含一个 __Node.js 的实现__[2] 和一个 __G...
2024/12/09
Agent 智能体开发框架如何优雅选型？
【AI驱动】
Agent 智能体进入黄金发展期 Agent 智能体的发展正步入黄金时代。随着众多新框架的层出不穷和对该领域的持续投入，现在 Agent 智能体已逐步摆脱初期的动荡，迅速崛起，成为开发者的首选，超越了 RAG。那么，2024年是否会成...
2024/12/09
搜索文章
热门话题
文章精选
