摘要
本发明公开了一种嵌入式GPU计算资源分配方法和装置,该方法包括:接收CPU发送的任务执行请求;在确定目标接口为与资源使用相关的接口的情况下,根据接口标识和GPU占用率,确定任务在当前任务执行周期所需的目标令牌数量;获取容器中的当前令牌数量,并在确定当前令牌数量大于或等于目标令牌数量时,向目标接口下发kernel任务;若确定当前令牌数量小于目标令牌数量,则等待下一次令牌更新周期,并在令牌数量被补充至目标令牌数量后,向目标接口下发kernel任务。本方案通过令牌机制控制每个任务的计算资源使用,精确、细粒度地进行资源分配,并且能够动态调整资源分配,减少任务间的性能干扰。