模型调用方法、设备、存储介质及程序产品

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
模型调用方法、设备、存储介质及程序产品
申请号:CN202510963756
申请日期:2025-07-11
公开号:CN120780504A
公开日期:2025-10-14
类型:发明专利
摘要
本申请实施例提供一种模型调用方法、设备、存储介质及程序产品。在本申请实施例中,一方面,位于目标应用与AI模型之间的模型服务框架可面向目标应用提供单模型链路和多模型链路,突破了传统目标应用直接调用模型的模型应用模式;一方面,基于模型服务框架使得两种模型链路并存,并设置多模型链路的准入条件,既能基于多模型链路上的多个AI模型对目标任务进行并行处理,提高推理过程的准确度,满足准确度要求较高的应用场景中的模型需求,较为有效地缓解幻觉问题,又能基于单模型链路满足准确度要求较低的应用场景的模型需求,从而均衡模型调用成本和模型服务质量。
技术关键词
多模型 链路 标识 列表 决策 场景 框架 存储计算机程序 指令 计算机程序产品 处理器 接口 语义 数值 关系 文本 存储器 界面 可读存储介质 电子设备