跳到主要内容

3.百度千帆大模型文字交互

3.百度千帆大模型文字交互1. 概念介绍1.1 “百度千帆大模型”是什么?2. 实践操作2.1 获取API凭证2.2图文步骤1. 进入平台后,点击右上角头像进行注册帐号和实名认证2.创建对话大模型的API Key3.点击此处创建APIkey4.创建成功之后复制这里的key,替换掉large_model_interface.yaml中的qianfan_api_key,就可以使用了。5.回到控制台,点击在线推理 -> 预置推理服务,就可以看见可以使用的大模型,以及剩余免费额度了。6. 创建语音应用和API-KEY7. 测试API-KEY3.2 配置文件修改

1. 概念介绍

1.1 “百度千帆大模型”是什么?

百度千帆大模型平台是百度智能云推出的企业级大模型服务平台。它不仅提供了百度自家的旗舰模型——文心一言(ERNIE Bot) 系列,还托管了众多第三方的开源或闭源模型,是一个名副其实的“模型超市”。在largemodel项目中集成百度千帆,意味着可以一站式地调用包括文心一言在内的多种强大AI模型。

使用百度千帆这类在线API的核心优势 在于:

  • 文心一言的强大能力 : 文心一言作为国内顶尖的大模型,在中文处理、知识图谱、内容创作等方面有深厚的技术积累。

  • 丰富的模型选择 : 可以在一个平台上方便地切换和测试不同的模型,找到最适合特定任务的模型。

  • 企业级稳定性 : 依托百度智能云,提供稳定、高可用的API服务。

largemodel项目中,通过配置llm_platform参数为qianfan,即可将语言模型服务切换到百度千帆平台。

2. 实践操作

2.1 获取API凭证

  1. 登录百度智能云 : 访问百度智能云官网,并登录你的账号。

  2. 进入千帆平台 : 在产品中找到并进入“千帆大模型平台”。

  3. 创建应用 : 在“应用接入”菜单下,创建一个新应用。创建成功后,你将得到一组API KeySecret Key

  4. 关联服务 : (可选但推荐)在“模型仓库”中,选择你想要使用的模型(如ERNIE-Bot-turbo),并确保它与你的应用相关联或已开通计费。

2.2图文步骤

1. 进入平台后,点击右上角头像进行注册帐号和实名认证

image-20250807173339141

2.创建对话大模型的API Key

百度智能云控制台进入千帆ModelBuilder控制台,点击API Key

image-20250807173815603

3.点击此处创建APIkey

image-20250807174146740

4.创建成功之后复制这里的key,替换掉large_model_interface.yaml中的qianfan_api_key,就可以使用了。

image-20250807174213879

5.回到控制台,点击在线推理 -> 预置推理服务,就可以看见可以使用的大模型,以及剩余免费额度了。

image-20250807193513295

6. 创建语音应用和API-KEY

如果要使用在线的百度云语音合成,可以跟着下面的步骤获取语音合成的key

点击百度智能云应用列表链接,在应用列表中点击创建应用

9

应用名称任意名称即可,这里按功能以"语音合成"为例,其余设置保持默认,点击立即创建,创建完成后点击返回应用列表,创建完成后应用列表页面先不要关闭,下一步需要复制使用这里的API Key和Secret Key

10

打开语音合成在线调试链接,进入语音合成功能的在线调试页面,点击"鉴权"

11

应用列表选择刚才创建的应用,在client_id中填写上一步API Key,在client_secret中填写上一步的Secret Key,然后点击确定

12

7. 测试API-KEY

在文本框中输入测试文本,然后点击合成,如果正常输出音频,则鉴权成功,创建帐号和API-KEY完成。如果后续需要使用百度智能云平台的语音合成服务,按照3.配置语音合成(TTS)大模型进行修改语音合成供应商。

13

3.2 配置文件修改

  1. 打开large_model_interface.yaml:

xxxxxxxxxx vim ~/yahboom_ws/src/largemodel/config/large_model_interface.yaml 2. 填入凭证 : 找到百度千帆(qianfan)的部分,粘贴你的API Key

xxxxxxxxxx ## 百度千帆 qianfan_api_key : "Your_API_Key" # 百度智能云语音合成配置 baidu_API_KEY : 'your key' # 百度平台API密钥 baidu_SECRET_KEY : 'your secret key' # 百度平台SECRET密钥

qianfan_api_key填写对话大模型获取的key。

baidu_API_KEY这里填写的是语音合成的key。

  1. 打开yahboom.yaml:

xxxxxxxxxx vim ~/yahboom_ws/src/largemodel/config/yahboom.yaml 4. 切换平台 : 将llm_platform参数修改为qianfan

llm_platform : 'qianfan' # 改为qianfan,使用百度千帆平台进行大模型对话 useolinetts : True #修改为True则开启使用在线语音合成

切换好平台参数之后,重新回到工作空间下再次编译即可生效。