1. 讯飞星火大模型文字交互
1. 讯飞星火大模型文字交互1. 概念介绍1.1 “讯飞星火大模型”是什么?2. 实践操作2.1 获取API凭证2.2图文流程2.3 配置文件修改
1. 概念介绍
1.1 “讯飞星火大模型”是什么?
讯飞星火认知大模型是由科大讯飞推出的新一代认知智能大模型,具备跨领域的知识和语言理解能力,能够基于自然对话方式理解与执行任务。在largemodel项目中集成讯飞星火,意味着我们可以利用其强大的云端AI能力,实现更智能、更符合中文语境的文本交互。
与Ollama等本地模型相比,使用讯飞星火这类在线API的核心优势在于:
-
顶尖的中文理解 : 讯飞在中文自然语言处理领域有深厚积累,星火大模型在中文的理解、生成、逻辑推理上表现优异。
-
强大的模型能力 : 无需本地硬件投入,即可使用千亿参数级别的超大规模模型。
-
多模态能力 : 星火大模型本身也支持图像理解、数学解答等高级功能,为后续扩展提供了可能。
在largemodel项目中,通过配置llm_platform参数为spark,即可将底层的语言模型切换为讯飞星火。
2. 实践操作
2.1 获取API凭证
-
注册并登录 : 访问讯飞星火认知大模型官网,并完成个人或企业认证,如果连接失效,需要自己去搜索"讯飞星火大模型"平台。
-
创建应用 : 在控制台中,创建一个新的应用,获取该应用对应的
APPID,APIKey, 和APISecret。 -
开通服务 : 确保为该应用开通了对应版本的Web API服务(例如
Spark Desk V3.5)。
2.2图文流程
- 首先讯飞星火的平台注册登录账号
https://xinghuo.xfyun.cn/spark

- 登录进去后,点击下面的网站,到控制台创建一个应用
https://console.xfyun.cn/app/myapp

- 然后返回到下图的界面,点击API免费试用,然后点取消,然后再点击在线调试


- 选择此模型 Spark4.0 ULtra

- 然后在对话框随便输入文字,如果出现一下图示,这说明需要去做一个认证,认证完成后就能免费领取并使用此模型1年了。

认证完领取并下单即可

如果不需要认证,说明你以前已经领取过了。下图是领取成功后的截图.

- 点击刚才领取到的模型,可以在右下角的位置看到相关的API key。

- 至此星火的语言对话模型的领取操作步骤结束,其它的图像识别、图像生成的功能都需要去领取到同一个应用中,方便后续操作。

点击购买,选择免费包,然后都是免费领取的。

2.3 配置文件修改
- 打开
large_model_interface.yaml:
vim ~/yahboom_ws/src/largemodel/config/large_model_interface.yaml
2. 填入凭证 : 找到讯飞星火(spark)的部分,完整地填入三项凭证。
xxxxxxxxxx ## 讯飞星火 spark_app_id : "xxxxxxxx" spark_api_key : "xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx" spark_api_secret : "xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx"
3. 打开yahboom.yaml:
xxxxxxxxxx vim ~/yahboom_ws/src/largemodel/config/yahboom.yaml
4. 切换平台 : 将llm_platform参数修改为spark。
xxxxxxxxxx model_service : ros__parameters : llm_platform : 'spark' # 从'ollama'或其他平台修改为此
切换好平台参数之后,重新回到工作空间下再次编译即可生效。