AI大模型调用负载均衡方法、装置、设备及介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
AI大模型调用负载均衡方法、装置、设备及介质
申请号:CN202510922706
申请日期:2025-07-04
公开号:CN120803719A
公开日期:2025-10-17
类型:发明专利
摘要
本发明涉及电数字数据处理技术领域,尤其涉及一种AI大模型调用负载均衡方法、装置、设备及介质。方法包括:确定各个备选AI大模型的擅长领域标签,筛选出与擅长领域标签匹配的预设问题领域类别;当检测到待处理问题请求集合时,通过问题请求分类模型,筛选出各个问题请求的问题领域类别;对各个问题请求进行分组,得到至少一个问题请求分组;根据各个备选AI大模型的擅长领域标签和各个问题请求分组的问题领域类别,将各个问题请求分组分流至各个备选AI大模型进行处理。本发明实施例可以在每次获取到一批需要处理的问题请求之后,将各个问题请求分流到多个可以调用的AI大模型进行处理,提高AI大模型调用过程的效率和稳定性。
技术关键词
负载均衡方法 信息处理模型 标签 文本 电数字数据处理技术 负载均衡装置 关键词 可读存储介质 计算机 配额 指令 电子设备 处理器通信 模块 存储器 答案