百亿规模API网关服务Shepherd的设计与实现
百亿规模API网关服务Shepherd的设计与实现
2024/11/21
API网关是随着微服务概念兴起的一种架构模式。原本一个庞大的单体应用(All in one)业务系统被拆分成许多微服务系统进行独立的维护和部署,服务拆分带来的变化是API的规模成倍增长,API的管理难度也在日益增加,使用API网关发布和管理API逐渐成为一种趋势。一般来说,API网关是运行于外部请求与内部服务之间的一个流量入口,实现对外部请求的协议转换、鉴权、流控、参数校验、监控等通用功能。
10分钟打造企业微信AI助手
10分钟打造企业微信AI助手
【AI驱动】 在阿里云上,您只需10分钟,过程仅需0元(免费试用额度内),无需任何编码,即可为您的组织在企业微信上集成一个有大模型能力加成的AI助手。这个助手可以全天候(7x24)响应用户咨询,还能解答私域问题,成为您企业的专属助手,提升用户体验,增强业务竞争力。
2024/11/21
LangChain大语言模型的使用指南
LangChain大语言模型的使用指南
【AI驱动】 本文介绍了LangChain框架,它能够将大型语言模型与其他计算或知识来源相结合,从而实现功能更加强大的应用。接着,对LangChain的关键概念进行了详细说明,并基于该框架进行了一些案例尝试,旨在帮助读者更轻松地理解LangChain的工作原理。
2024/11/21
阿里云开源AI应用开发框架:Spring AI Alibaba
阿里云开源AI应用开发框架:Spring AI Alibaba
【AI驱动】 Spring 官方开源了 Spring AI 框架,用来简化 Spring 开发者开发智能体应用的过程。随后阿里巴巴开源了 Spring AI Alibaba,它基于 Spring AI,同时与阿里云百炼大模型服务、通义系列大模型做了深度集成与最佳实践。基于 Spring AI Alibaba,Java 开发者可以非常方便的开发 AI 智能体应用。
2024/11/21
多模态大模型微调实践!PAI+LLaMA Factory搭建AI导游
多模态大模型微调实践!PAI+LLaMA Factory搭建AI导游
【AI驱动】 如何微调大模型、高效搭建AI应用成为了开发者们广泛关注的技术方向。阿里云人工智能平台PAI,联合开源低代码大模型微调框架LLaMA Factory ,共同打造多模态大模型微调训练最佳实践,通过微调 Qwen2-VL 模型,快速搭建文旅领域知识问答机器人,带您开启AI创新与应用之旅。
2024/11/21
探索LLM推理全阶段的JSON格式输出限制方法
探索LLM推理全阶段的JSON格式输出限制方法
【AI驱动】 文章详细讨论了如何确保大型语言模型(LLMs)输出结构化的JSON格式,这对于提高数据处理的自动化程度和系统的互操作性至关重要。
2024/11/21
我们应该如何用好 AI?从 ChatGPT 到编程语言、大数据、前端
我们应该如何用好 AI?从 ChatGPT 到编程语言、大数据、前端
【API产品】 2022 年是科技圈艰难的一年,很少有振奋人心的消息。惊喜的是年底 OpenAI 开放的 ChatGPT,一下点燃了整个科技圈,体验后感觉有点像人脑,智能化程度惊艳。曾经我和朋友常调侃人工智能就是“有多少人工,就有多少智能”,ChatGPT...
2024/11/21
AnalyticDB(ADB)+LLM:构建AIGC时代下企业专属Chatbot
AnalyticDB(ADB)+LLM:构建AIGC时代下企业专属Chatbot
【AI驱动】 为什么Chatbot需要大语言模型+向量数据库? 这个春天,最让人震感的科技产品莫过于ChatGPT的横空出世,通过大语言模型(LLM)让人们看到了生成式AI能实现到和人类语言高度相仿的语言表达能力,AI不再遥不可及而已经可以走进人类...
2024/11/21
Python整合ChatGPT API进行实时数据分析
Python整合ChatGPT API进行实时数据分析
【AI驱动】 通过Python与ChatGPT API集成,快速实现实时数据分析,优化流程并提升决策效率,助力企业在数字化时代取得成功。
2024/11/21
谈谈LLM在推荐域的渗透,探索推荐新范式
谈谈LLM在推荐域的渗透,探索推荐新范式
【AI驱动】 最近大模型真的很火,从个人到公司,各行各业都在学习大模型、总结大模型和尝试应用大模型。大模型其实不是一个新的产物,已经在NLP发展了很多年。ChatGPT的诞生,经验的效果震惊了所有人,虽然也有一些瑕疵,但是瑕不掩瑜。微软投资OpenAI看...
2024/11/21
LangChain+通义千问+AnalyticDB向量引擎保姆级教程
LangChain+通义千问+AnalyticDB向量引擎保姆级教程
【AI驱动】 前言 通义模型具备的能力包括: 1.创作文字,如写故事、写公文、写邮件、写剧本、写诗歌等; 2.编写代码; 3.提供各类语言的翻译服务,如英语、日语、法语、西班牙语等; 4.进行文本润色和文本摘要等工作; ...
2024/11/21
Gorilla LLM:连接海量API的大型语言模型
Gorilla LLM:连接海量API的大型语言模型
【AI驱动】 Gorilla LLM 是一个突破性的LLM,可以生成准确的 API 调用并适应文档的实时变化。该模型为未来的LLM在与工具和系统交互方面变得更加可靠和多功能铺平了道路。Gorilla LLM 是一款面向开发人员的强大新工具。它可以节省开发人员的时间和精力,并且可以帮助他们编写更可靠的代码。
2024/11/21
Springboot集成LLM大模型API
Springboot集成LLM大模型API
【AI驱动】 Java程序员如何快速集成各大AI大厂开放的LLM大模型API,构建上层应用。 1:国外Openai,Azure有这些平台api授权码的 可以直接使用spring官方的项目spring-ai,构建大模型应用。 ...
2024/11/21
深入解析APIServer机制:开启API代理网关新篇章!
深入解析APIServer机制:开启API代理网关新篇章!
【API开发】 为了读者能够在了解后面几个开源项目时有足够的知识背景,本节对Aggregated APIServer 做一下简单的原理介绍和源码分析,在分析后面典型开源项目的时候,你会发现大家还是站在 Aggregated APIServer 这个巨人的肩膀上做二次开发。为了方便,后续会用 AA 来表示 Aggregated APIServer 技术。
2024/11/21
LLM实战 | 使用ChatGPT API提取文本topic
LLM实战 | 使用ChatGPT API提取文本topic
【API开发】 在大模型前时代,构建机器学习模型通常需要标注数据,然后使用这些标注数据来训练机器学习模型,这个过程一般需要几个月的时间,然而,在大模型时代下,几个小时就可以完成,比如情感分类,对话系统。具体对比流程如下: Prompt工程 ...
2024/11/21
使用 Golang 构建你的 LLM API
使用 Golang 构建你的 LLM API
【API开发】 大语言模型,像 ChatGPT, Llama 等已经席卷全球,从上图的数据可以看出,ChatGPT 花了 5 天时间就达到了 100 万用户。而 Netflix 则花了近 4 年的时间。本文将使用 Gin 和 Langchain 教你快速构...
2024/11/21