百亿规模API网关服务Shepherd的设计与实现
2024/11/21
API网关是随着微服务概念兴起的一种架构模式。原本一个庞大的单体应用(All in one)业务系统被拆分成许多微服务系统进行独立的维护和部署,服务拆分带来的变化是API的规模成倍增长,API的管理难度也在日益增加,使用API网关发布和管理API逐渐成为一种趋势。一般来说,API网关是运行于外部请求与内部服务之间的一个流量入口,实现对外部请求的协议转换、鉴权、流控、参数校验、监控等通用功能。
10分钟打造企业微信AI助手
【AI驱动】
在阿里云上,您只需10分钟,过程仅需0元(免费试用额度内),无需任何编码,即可为您的组织在企业微信上集成一个有大模型能力加成的AI助手。这个助手可以全天候(7x24)响应用户咨询,还能解答私域问题,成为您企业的专属助手,提升用户体验,增强业务竞争力。
2024/11/21
LangChain:大语言模型的新篇章
【AI驱动】
本文介绍了LangChain框架,它能够将大型语言模型与其他计算或知识来源相结合,从而实现功能更加强大的应用。接着,对LangChain的关键概念进行了详细说明,并基于该框架进行了一些案例尝试,旨在帮助读者更轻松地理解LangChain的工作原理。
2024/11/21
阿里云开源AI应用开发框架:Spring AI Alibaba
【AI驱动】
Spring 官方开源了 Spring AI 框架,用来简化 Spring 开发者开发智能体应用的过程。随后阿里巴巴开源了 Spring AI Alibaba,它基于 Spring AI,同时与阿里云百炼大模型服务、通义系列大模型做了深度集成与最佳实践。基于 Spring AI Alibaba,Java 开发者可以非常方便的开发 AI 智能体应用。
2024/11/21
多模态大模型微调实践!PAI+LLaMA Factory搭建AI导游
【AI驱动】
如何微调大模型、高效搭建AI应用成为了开发者们广泛关注的技术方向。阿里云人工智能平台PAI,联合开源低代码大模型微调框架LLaMA Factory ,共同打造多模态大模型微调训练最佳实践,通过微调 Qwen2-VL 模型,快速搭建文旅领域知识问答机器人,带您开启AI创新与应用之旅。
2024/11/21
探索LLM推理全阶段的JSON格式输出限制方法
【AI驱动】
文章详细讨论了如何确保大型语言模型(LLMs)输出结构化的JSON格式,这对于提高数据处理的自动化程度和系统的互操作性至关重要。
2024/11/21
我们应该如何用好 AI?从 ChatGPT 到编程语言、大数据、前端
【API产品】
2022 年是科技圈艰难的一年,很少有振奋人心的消息。惊喜的是年底 OpenAI 开放的 ChatGPT,一下点燃了整个科技圈,体验后感觉有点像人脑,智能化程度惊艳。曾经我和朋友常调侃人工智能就是“有多少人工,就有多少智能”,ChatGPT...
2024/11/21
AnalyticDB(ADB)+LLM:构建AIGC时代下企业专属Chatbot
【AI驱动】
为什么Chatbot需要大语言模型+向量数据库? 这个春天,最让人震感的科技产品莫过于ChatGPT的横空出世,通过大语言模型(LLM)让人们看到了生成式AI能实现到和人类语言高度相仿的语言表达能力,AI不再遥不可及而已经可以走进人类...
2024/11/21
让老板成为数据分析师–ChatGpt链接本地数据源实战测试
【AI驱动】
一、背景 设想这样一个场景:你是某贸易公司的老板,公司所有的日常运转数据都在私域的进销存系统,包括客户、供应商、销售、库存、进货、商品等,你每天需要关注公司运营情况,并且希望商业分析师对当前运营数据给出分析和建议,对公司的运营策略进行...
2024/11/21
谈谈LLM在推荐域的渗透,探索推荐新范式
【AI驱动】
前言 最近大模型真的很火,从个人到公司,各行各业都在学习大模型、总结大模型和尝试应用大模型。大模型其实不是一个新的产物,已经在NLP发展了很多年。ChatGPT的诞生,经验的效果震惊了所有人,虽然也有一些瑕疵,但是瑕不掩瑜。微软投资O...
2024/11/21
LangChain+通义千问+AnalyticDB向量引擎保姆级教程
【AI驱动】
前言 通义模型具备的能力包括: 1.创作文字,如写故事、写公文、写邮件、写剧本、写诗歌等; 2.编写代码; 3.提供各类语言的翻译服务,如英语、日语、法语、西班牙语等; 4.进行文本润色和文本摘要等工作; ...
2024/11/21
Gorilla LLM:连接海量API的大型语言模型
【AI驱动】
Gorilla LLM 是一个突破性的LLM,可以生成准确的 API 调用并适应文档的实时变化。该模型为未来的LLM在与工具和系统交互方面变得更加可靠和多功能铺平了道路。Gorilla LLM 是一款面向开发人员的强大新工具。它可以节省开发人员的时间和精力,并且可以帮助他们编写更可靠的代码。
2024/11/21
Springboot集成LLM大模型API
【AI驱动】
Java程序员如何快速集成各大AI大厂开放的LLM大模型API,构建上层应用。 1:国外Openai,Azure有这些平台api授权码的 可以直接使用spring官方的项目spring-ai,构建大模型应用。 ...
2024/11/21
LLM实战 | 使用ChatGPT API提取文本topic
【API开发】
在大模型前时代,构建机器学习模型通常需要标注数据,然后使用这些标注数据来训练机器学习模型,这个过程一般需要几个月的时间,然而,在大模型时代下,几个小时就可以完成,比如情感分类,对话系统。具体对比流程如下: Prompt工程 ...
2024/11/21
通过API集成赋能Autogen Multi-Agent系统
【API设计】
随着大型语言模型的快速发展,构建基于LLM驱动的自治代理(autonomous agents)已经成为一个备受关注的话题。仅在过去一年中,就出现了许多基于这一理念的新技术和框架。 本文将探索微...
2024/11/21
浅谈LLM时代下的REST API自动化测试
【API开发】
如今API(Application Interface)作为现代软件架构中各个组件通信的基础设施,已经成为软件工程架构组织的重要组成部分。相应的,这一发展趋势也对软件工程的质量保障体系提出了新的要求,尤其是在确保通过API通信组织的微服务后...
2024/11/21
搜索文章
热门话题