数据的推理方法、装置、设备、存储介质及程序产品

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
数据的推理方法、装置、设备、存储介质及程序产品
申请号:CN202510096477
申请日期:2025-01-21
公开号:CN120046728A
公开日期:2025-05-27
类型:发明专利
摘要
本申请提供了一种数据的推理方法、装置、设备、存储介质及程序产品,数据的推理方法包括:在用户输入的初始数据到达第一服务器节点的情况下,基于第一服务器节点在当前时刻的繁忙程度,确定第一服务器节点是否能够接收初始数据;在第一服务器节点不能接收初始数据的情况下,基于除第一服务器节点以外的其他服务器节点在当前时刻的繁忙程度,从其他服务器节点中确定目标服务器节点;基于第一服务器节点与目标服务器节点之间的传输路径的质量,确定目标传输路径;将第一服务器节点的初始数据按照优先级顺序通过目标传输路径传输至目标服务器节点;利用目标服务器节点对应的模型对初始数据进行推理,得到推理结果。
技术关键词
服务器节点 传输路径 推理方法 处理器 数据吞吐量 推理装置 计算机程序产品 传输模块 可读存储介质 存储器 电子设备 网络 指令