一种嵌入式GPU计算资源分配方法和装置

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种嵌入式GPU计算资源分配方法和装置
申请号:CN202510907187
申请日期:2025-07-02
公开号:CN120821569A
公开日期:2025-10-21
类型:发明专利
摘要
本发明公开了一种嵌入式GPU计算资源分配方法和装置,该方法包括:接收CPU发送的任务执行请求;在确定目标接口为与资源使用相关的接口的情况下,根据接口标识和GPU占用率,确定任务在当前任务执行周期所需的目标令牌数量;获取容器中的当前令牌数量,并在确定当前令牌数量大于或等于目标令牌数量时,向目标接口下发kernel任务;若确定当前令牌数量小于目标令牌数量,则等待下一次令牌更新周期,并在令牌数量被补充至目标令牌数量后,向目标接口下发kernel任务。本方案通过令牌机制控制每个任务的计算资源使用,精确、细粒度地进行资源分配,并且能够动态调整资源分配,减少任务间的性能干扰。
技术关键词
资源分配方法 接口 强化学习模型 周期 样本 资源分配装置 容器 决策 令牌机制 标识 矩阵 电子设备 程序 处理器 指令 时序 可读存储介质