推理控制方法、器件配置方法、装置、设备、介质及产品

本申请涉及人工智能技术领域，尤其涉及一种推理控制方法、器件配置方法、装置、设备、介质及产品。通过将基板管理控制器标定配置的通信接口类型作为目标类型，根据目标类型确定预先配置加速处理器，构建适配基板管理控制器及预先配置加速处理器的探测驱动；获取预先配置加速处理器的探测驱动，利用探测驱动探测与目标通信端口连接的加速处理器，将探测到的加速处理器作为目标处理器；目标通信端口的控制单元为目标处理器分配设备地址，进而获取目标处理器的端口信息组合，并通过其调度目标处理器执行推理任务。该方法解决了基板管理控制器因缺乏专用驱动无法调度加速处理器算力的技术问题，提高了对异构计算资源的高效任务调度，降低推理延迟。