摘要
本发明公开了一种基于NVMe固态硬盘特性的缓存尾延迟优化方法,旨在解决缓存系统中由高扇出请求引发的缓存长尾延迟问题。所述方法包括差异化请求处理策略:基于NVMe固态硬盘的加权轮询仲裁机制特性,根据请求的扇出大小决定不同优先级包含的子请求数量,在给予高扇出请求更高优先级的同时减少子请求间的处理时间差异;子请求排序算法:根据子请求特征评估其对尾延迟的影响并据此进行排序,以此确定子请求的优先级;优先级队列负载均衡策略:平衡NVMe优先级队列间的负载,避免队列拥塞;反馈调节机制:监控并分析队列负载与请求延迟以进行动态调整。与现有基于固态硬盘的缓存相比,本发明充分利用NVMe固态硬盘特性优化了缓存的尾延迟。