Springboot集成LLM大模型API
Springboot集成LLM大模型API
2024/11/21
Java程序员如何快速集成各大AI大厂开放的LLM大模型API,构建上层应用。 1:国外Openai,Azure有这些平台api授权码的 可以直接使用spring官方的项目spring-ai,构建大模型应用。 ...
深入解析APIServer机制:开启API代理网关新篇章!
深入解析APIServer机制:开启API代理网关新篇章!
【API开发】 为了读者能够在了解后面几个开源项目时有足够的知识背景,本节对Aggregated APIServer 做一下简单的原理介绍和源码分析,在分析后面典型开源项目的时候,你会发现大家还是站在 Aggregated APIServer 这个巨人的肩膀上做二次开发。为了方便,后续会用 AA 来表示 Aggregated APIServer 技术。
2024/11/21
LLM实战 | 使用ChatGPT API提取文本topic
LLM实战 | 使用ChatGPT API提取文本topic
【API开发】 在大模型前时代,构建机器学习模型通常需要标注数据,然后使用这些标注数据来训练机器学习模型,这个过程一般需要几个月的时间,然而,在大模型时代下,几个小时就可以完成,比如情感分类,对话系统。具体对比流程如下: Prompt工程 ...
2024/11/21
使用 Golang 构建你的 LLM API
使用 Golang 构建你的 LLM API
【API开发】 大语言模型,像 ChatGPT, Llama 等已经席卷全球,从上图的数据可以看出,ChatGPT 花了 5 天时间就达到了 100 万用户。而 Netflix 则花了近 4 年的时间。本文将使用 Gin 和 Langchain 教你快速构...
2024/11/21
Python+ChatGPT API,搭建专属你的智能聊天机器人
Python+ChatGPT API,搭建专属你的智能聊天机器人
【API开发】 最近火出圈的 ChatGPT 公司 OpenAI 发布了 Chat API 和 gpt-3.5-turbo 模型,我们现在可以通过API 来使用与 ChatGPT 一样的 NLP 模型。 使用OpenAI API,可以使用gpt-3....
2024/11/21
如何基于 k8s.io/apiserver 开发自定义APIServer
如何基于 k8s.io/apiserver 开发自定义APIServer
【日积月累】 在 网关篇 和大家分享了基于 k8s.io/apiserver 构建 API 增强能力的开源项目,本篇文章按照约定和大家分享如何基于 k8s.io/apiserver 构建自定义的 APIServer。 基于 k8...
2024/11/21
如何速成RAG+Agent框架大模型应用搭建
如何速成RAG+Agent框架大模型应用搭建
【AI驱动】 一、概况 目前有关大模型的定义与算法介绍的文章已经很多,本文侧重于能力总结和实操搭建部分,从大模型应用的多个原子能力实现出发,到最终串联搭建一个RAG+Agent架构的大模型应用,让个人对于大模型应用如何落地更加具有体感。 二、...
2024/11/21
你的Agent稳定吗?——基于大模型的AI工程实践思考
你的Agent稳定吗?——基于大模型的AI工程实践思考
【API产品】 本文总结了作者在盒马智能客服的落地场景下的一些思考,从工程的角度阐述对Agent应用重要的稳定性因素和一些解法。 一、背景 随着大模型技术的发展,越来越多的大模型应用开始涌现,并且应用到越来越多的业务场景中,比如AIGC生图、小...
2024/11/21
手把手教你Vue+ECharts+高德地图API实现天气预报数据可视化
手把手教你Vue+ECharts+高德地图API实现天气预报数据可视化
【API使用场景】 所谓数据可视化,我们可以理解为从宏观角度来看一眼就能看出来整个数据的占比,走向。对于数据可视化,很多互联网公司是很看重这一块的,包括大厂;就比如阿里的淘宝,双十一的时候往往就需要将消费者的一些数据通过图的形式展现出来。接下来我们就来实现一个天气的数据可视化(移动端开发)。
2024/11/21
在.NET API中使用内存中缓存时,性能提高了90%!
在.NET API中使用内存中缓存时,性能提高了90%!
【API使用场景】 让我们谈谈缓存!我们将介绍缓存的基础知识,ASP.NET核心应用程序中的内存缓存等。我们将构建一个简单的.NET 8 Web API,它可以帮助演示如何从应用程序的内存缓存中设置和获取缓存条目。缓存可以显著提高API的性能,如果有效地实现,还可以帮助节省大量成本。
2024/11/21
使用Azure AI服务:使用C#和Python进行REST API调用
使用Azure AI服务:使用C#和Python进行REST API调用
【API使用场景】 无论您需要自然语言处理、计算机视觉还是其他 AI 功能,Azure AI 服务都能提供可扩展且高效的解决方案。本文将指导您配置 Azure AI 服务资源并将其集成到您的应用程序中。
2024/11/21
18个最佳API设计规范实践
18个最佳API设计规范实践
【API设计】 文章总结了API设计中应遵循的重要原则。首先强调了签名的重要性,通过将请求参数、时间戳和密钥拼接后进行hash算法处理生成签名,以防止数据被篡改,并通过时间戳限制请求的有效期。在数据安全方面,建议对敏感数据进行加密,如使用AES对称加密算法保护用户密码等重要信息。此外,文章还提出了其他设计要点,包括设置IP白名单以限制访问来源、实施限流策略以避免服务过载、进行严格的参数校验以拦截无效请求、统一返回值和异常处理以简化维护工作、记录详细的请求日志以便快速定位问题、设计幂等接口以避免重复操作、限制批量接口的记录条数以防止超时、进行压力测试以评估接口性能、采用异步处理以提升性能、对敏感数据进行脱敏处理以保护隐私、提供完整的接口文档以降低对接成本、合理选择请求方式、利用请求头传递公共参数、设计批量接口以提高通用性以及遵循职责单一原则以降低维护难度。这些军规旨在帮助开发者设计出更安全、高效、易维护的API接口。
2024/11/21
文心一言的三种使用方式(附api接入方式)
文心一言的三种使用方式(附api接入方式)
【API使用场景】 文心一言的网页版和APP版本确实为广大普通用户提供了一个探索丰富AI能力的低成本、高乐趣的平台。要写出高质量的提示词,对普通用户来说还是困难的,APP“发现"板块,通过UGC分享,能让小白用户也快速上手。
2024/11/21
从API到Agent:万字长文洞悉LangChain工程化设计
从API到Agent:万字长文洞悉LangChain工程化设计
【AI驱动】 我想做一个尝试,看看能不能用尽量清晰的逻辑,给“AI外行人士”(当然,我也是)引入一下LangChain,试着从工程角度去理解LangChain的设计和使用。同时大家也可以将此文档作为LangChain的“10分钟快速上手”手册,本意是希望帮助需要的同学实现AI工程的Bootstrap。
2024/11/21
小白也能让GPT通过API连接各种App
小白也能让GPT通过API连接各种App
【AI驱动】 本文将一步一步造一个可以通过 API 连接 Unsplash 图片库获取图片的 GPT,并可以用 DALL-E 对其进行重绘。
2024/11/21
借助ChatGPT润色论文,必备17个顶级提示词指令,直接复制使用、润色无忧
借助ChatGPT润色论文,必备17个顶级提示词指令,直接复制使用、润色无忧
【AI驱动】 在使用ChatGPT进行学术论文润色时,需要使用明确清晰的提示词指令来指导ChatGPT如何进行修改。这些指令包括你希望改进的具体方面,例如语言、语法、句子结构、逻辑连贯性等等。
2024/11/20