摘要
本申请实施例提供了一种数据缓存方法、设备及存储介质,涉及人工智能芯片技术领域,该方法包括:将多个独立的后合并缓冲区物理合并为一个缓存资源池,缓存资源池包括多个条目。每次接收到线程束从内存读取的目标数据时,基于目标数据的目标索引信息遍历多个条目,以判断是否已针对目标索引信息分配相应的条目;若是,则将目标数据缓存到已分配的条目,使目标数据与已接收的对应目标索引信息的历史数据合并缓存;否则分配空闲的条目来缓存目标索引信息和目标数据;这样便可按照实时接收的目标数据的目标索引信息相应分配资源缓存池中的条目,实现缓冲区资源的按需分配,提高细粒度任务划分场景下的整体资源利用效率和整体计算性能。