千帆大模型-百度智能云
专用API
服务商:
北京百度网讯科技有限公司
【更新时间: 2024.06.25】
百度智能云千帆大模型平台是面向企业开发者的一站式大模型开发及服务运行平台。千帆不仅提供了包括文心一言底层模型和第三方开源大模型,还提供了各种AI开发工具和整套开发环境,方便客户轻松使用和开发大模型应用。
|
- API详情
- 定价
- 使用指南
- 常见 FAQ
- 关于我们
- 相关推荐
什么是百度智能云的千帆大模型?
"百度智能云千帆大模型"是百度智能云平台上提供的一个大模型服务体系,它集成了多种先进的预训练语言模型和AI技术,旨在为企业和个人开发者提供强大的人工智能解决方案。这些模型包括但不限于基于Llama2架构的中文增强版本、ERNIE系列的旗舰级模型以及其他由百度自研或基于开源框架优化的高性能模型。
千帆平台上的千帆SDK不仅支持中英双语,覆盖广泛的应用场景如对话问答、创作生成、代码生成等,而且部分模型针对特定需求进行了优化,如压缩加速、指令微调等,以适应不同资源条件下的部署和使用需求。为了进一步简化开发流程和提高效率,百度智能云还推出了“千帆SDK”,使得企业和个人开发者能够更加便捷地调用和集成这些大模型。
用户可以通过千帆SDK平台进行模型的选择、训练调优及部署调用,以实现对复杂任务的支持和高效处理。同时,通过使用“千帆SDK”,开发者可以在自己的应用中快速集成千帆大模型的能力,无论是在本地还是云端部署,都能够轻松实现。
此外,千帆SDK还提供了丰富的API和工具,帮助开发者进行模型的训练、管理和优化。开发者可以利用这些工具,结合千帆大模型平台的模型,构建出更加智能和强大的应用程序。通过千帆SDK,百度智能云希望能够赋能更多的开发者,推动人工智能技术的创新和应用。
什么是百度智能云的千帆大模型接口?
百度智能云的千帆大模型有哪些核心功能?
- 行业领先文心大模型: 千帆SDK预置全系列文心大模型与上百个精选第三方模型,覆盖广泛行业场景。
- 高效易用的AI原生应用开发服务: 企业级Agent、RAG应用开发平台,易上手零代码三步完成应用创建分发,代码态开源API/SDK,支持高效二开零代码搭建,开源API/SDK高效二开。
- 开放先进的大模型服务开发全流程: 文心大模型企业级服务唯一入口,提供高可用及高效价比的生成式AI服务及全流程模型开发工具链。
- 数据管理: 千帆SDK数据集管理统一纳管自训练模型的数据集,并支持自主版本迭代、数据查看、导入导出和删除等操作。数据标注支持在线智能标注确保标注效率与质量;支持多人标注,实现大规模标注中的团队协作。数据处理支持数据清洗、数据增强、数据生成,提升数据质量。
- 模型开发: 千帆SDK全功能开发提供Notebook建模、作业建模、可视化建模等模型训练方法;提供特征库,实现特征共享和复用。零代码开发提供EasyDL图像、文本、语音、视频、结构化数据、场景建模等工具。大模型开发提供专属大模型开发工具,支持SFT全量更新、LoRA、Post-pretrain等训练方法。
- 模型管理: 千帆SDK模型管理支持导入与管理模型文件,支持模型部署包管理。模型评估支持模型评估,对比模型效果指标从而选择最佳模型进行部署或重训。模型加速支持多种推理优化工具,包括量化压缩、智能加速等
百度智能云的千帆大模型的核心优势是什么?
- 行业领先文心大模型: 千帆SDK预置全系列文心大模型与上百个精选第三方模型,覆盖广泛行业场景,提供强大的语言理解和生成能力。
- 高效易用的AI原生应用开发服务: 企业级Agent、RAG应用开发平台,易上手零代码三步完成应用创建分发,代码态开源API/SDK,支持高效二开零代码搭建,开源API/SDK高效二开。
- 开放先进的大模型服务开发全流程: 文心大模型企业级服务唯一入口,提供高可用及高效价比的生成式AI服务及全流程模型开发工具链,包括数据管理、模型训练、高效推理、灵活部署至应用集成。
- 数据安全全面升级: 在数据安全方面,千帆SDK平台2.0构建了全面的安全保障体系,为不同模型厂商设计了可信的专用隔离域,重点保护模型资产安全,并提供从模型、数据到日志的全链路加密功能
在哪些场景会用到百度智能云的千帆大模型?
1.数字政府领域: 百度智能云基于千帆大模型平台2.0重构了数字政府解决方案,如“九州”解决方案,让城市管理者能够更加高效地处理政务事务,实现快速治理、高效办公、便捷办事。在代码生成、数据报表、内容分析等深度学习的文本场景中,千帆大模型平台能够快速生成可执行的代码,或者结合平台的多种数据生成匹配度更高的应答内容
2.金融领域: 在金融领域,“开元”解决方案帮助金融分析师从繁琐的数据处理工作中解放出来,专注于业务分析,提高了金融服务的效率和准确性。这一解决方案能够自动化处理大量复杂的数据,从而让分析师从日常繁琐的数据整理工作中解放出来,使他们能够将更多的时间和精力投入到深入的业务分析和策略制定中。这样的转变不仅提高了金融服务的效率,还通过更精准的数据分析增强了决策的准确性,为金融行业带来了革命性的进步。
3.工业领域: 重构后的“开物”解决方案不仅能够帮助企业快速构建产线智能应用,还能通过自然语言交互方式辅助管理者进行决策,推动了工业生产的智能化升级。在代码生成、数据报表、内容分析等深度学习的文本场景中,千帆大模型平台能够快速生成可执行的代码,或者结合平台的多种数据生成匹配度更高的应答内容
4.交通领域: ACE 3.0利用了大模型强大的知识压缩能力,将车、路、云、图的基本能力和交通全要素进行了聚合和泛化升级,打造了交通大模型。在高速公路夜间低照度场景下,一体机能够高效地对道路上遗撒物、障碍物等目标物完成拍摄和检测,极大提升道路交通的安全性和通行效率。这一终端采用AIGC-ISP技术,实现了交通感知“大模型后台”和“模型小型化”技术突破。
千帆大模型平台预置推理服务支持多种灵活的计费方式,整体可以分为:
- 按Tokens用量计费:根据实际接口调用产生的tokens数量以及单价进行计费,不同预置服务tokens调用单价不同。
a. Tokens按量后付费:默认计费方式。
b. Tokens资源包付费:用户提前购买Tokens资源包,优先消耗Tokens资源包当中的tokens余量。购买的Tokens资源包越大,折扣越大。为保障服务调用的稳定性与连续性,Tokens资源包用完以后自动切换至Tokens按量后付费模式。ERNIE 4.0系列和ERNIE 3.5系列资源包支持同系列模型不同版本共享。
- 按TPM配额计费:与Tokens用量付费互斥,不可同时存在,TPM&RPM配额付费到期(预付费配额到期)或终止(后付费人工终止)以后,为保障服务调用的稳定性与连续性,会自动切换至Tokens按量后付费模式。根据实际购买/使用的配额时长以及单价进行收费,不同预置服务TPM&RPM配额单价不同。在配额范围内的请求,不再收取tokens用量费用。超过配额范围外的请求会失败,需要用户增购配额。针对Tokens用量计费模式速率不满足业务的场景,可以通过TPM&RPM配额计费模式支持。
a. TPM配额预付费:针对有稳定Tokens用量的客户,购买TPM预付费配额更加经济实惠。
b. TPM配额后付费:可以在TPM预付费配额的基础上,再增购TPM&RPM后付费配额,以应对短时间的峰值流量。
不论是Tokens用量付费还是TPM&RPM配额付费,都存在接口调用速率限制。速率限制包含QPS和TPM的形式,旨在限制单位时间段内用户访问推理API的次数和消耗的tokens数,详细说明参考千帆大模型平台流量限制说明。
前提条件
要使用百度千帆大模型平台,首先需要注册成为百度智能云用户。
首先让我们用5分钟来注册百度智能云账号(如您已经是开发者,可直接登录使用),关于平台计费标准可查看价格说明。
SDK快速使用
本文主要介绍如何快速开启平台前端快速使用平台的流程与步骤,关于千帆大模型的SDK快速上手流程,您可参考SDK快速入门。
流程说明
千帆大模型平台覆盖从数据管理、数据标注、模型开发、模型纳管、部署上线的AI能力研发与应用全生命周期建设和管理。接入文心大模型算法和开放第三方业内知名的模型算法,降低全流程AI开发门槛。
平台支持SFT,准备内容可参考SFT快速调优。
实现步骤
在您完成注册后,可以登录到千帆大模型操作台,只要以下6个步骤即可快速完成大模型定制及测试效果的全过程。
数据导入-> 数据标注-> 训练配置-> 模型纳管-> 发布服务-> 体验测试
详情参考地址:https://cloud.baidu.com/doc/WENXINWORKSHOP/s/qlgujhcpo
安全合规可信的云服务 |
||||
千帆大模型平台预置推理服务支持多种灵活的计费方式,整体可以分为:
- 按Tokens用量计费:根据实际接口调用产生的tokens数量以及单价进行计费,不同预置服务tokens调用单价不同。
a. Tokens按量后付费:默认计费方式。
b. Tokens资源包付费:用户提前购买Tokens资源包,优先消耗Tokens资源包当中的tokens余量。购买的Tokens资源包越大,折扣越大。为保障服务调用的稳定性与连续性,Tokens资源包用完以后自动切换至Tokens按量后付费模式。ERNIE 4.0系列和ERNIE 3.5系列资源包支持同系列模型不同版本共享。
- 按TPM配额计费:与Tokens用量付费互斥,不可同时存在,TPM&RPM配额付费到期(预付费配额到期)或终止(后付费人工终止)以后,为保障服务调用的稳定性与连续性,会自动切换至Tokens按量后付费模式。根据实际购买/使用的配额时长以及单价进行收费,不同预置服务TPM&RPM配额单价不同。在配额范围内的请求,不再收取tokens用量费用。超过配额范围外的请求会失败,需要用户增购配额。针对Tokens用量计费模式速率不满足业务的场景,可以通过TPM&RPM配额计费模式支持。
a. TPM配额预付费:针对有稳定Tokens用量的客户,购买TPM预付费配额更加经济实惠。
b. TPM配额后付费:可以在TPM预付费配额的基础上,再增购TPM&RPM后付费配额,以应对短时间的峰值流量。
不论是Tokens用量付费还是TPM&RPM配额付费,都存在接口调用速率限制。速率限制包含QPS和TPM的形式,旨在限制单位时间段内用户访问推理API的次数和消耗的tokens数,详细说明参考千帆大模型平台流量限制说明。
前提条件
要使用百度千帆大模型平台,首先需要注册成为百度智能云用户。
首先让我们用5分钟来注册百度智能云账号(如您已经是开发者,可直接登录使用),关于平台计费标准可查看价格说明。
SDK快速使用
本文主要介绍如何快速开启平台前端快速使用平台的流程与步骤,关于千帆大模型的SDK快速上手流程,您可参考SDK快速入门。
流程说明
千帆大模型平台覆盖从数据管理、数据标注、模型开发、模型纳管、部署上线的AI能力研发与应用全生命周期建设和管理。接入文心大模型算法和开放第三方业内知名的模型算法,降低全流程AI开发门槛。
平台支持SFT,准备内容可参考SFT快速调优。
实现步骤
在您完成注册后,可以登录到千帆大模型操作台,只要以下6个步骤即可快速完成大模型定制及测试效果的全过程。
数据导入-> 数据标注-> 训练配置-> 模型纳管-> 发布服务-> 体验测试
详情参考地址:https://cloud.baidu.com/doc/WENXINWORKSHOP/s/qlgujhcpo
安全合规可信的云服务 |
||||
|
|
|
|
|
|
|
|
|
|
|
|