安全共享语言模型的键值缓存的方法、装置、设备和介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
安全共享语言模型的键值缓存的方法、装置、设备和介质
申请号:CN202510162811
申请日期:2025-02-13
公开号:CN120105473A
公开日期:2025-06-06
类型:发明专利
摘要
根据本公开的实施例,提供了安全共享语言模型的键值缓存的方法、装置、设备和介质。该方法包括:获取向语言模型输入的请求内容;识别请求内容中的受保护信息和非受保护信息;对于非受保护信息中的,语言模型的共享键值缓存中不存在匹配的键值的第一部分,确定第一部分对应的键值并添加到共享键值缓存中;其中,受保护信息的键值不添加到共享键值缓存中。本公开可以保证受保护信息对应的键值不被共享或者复用,有效的提高了用户的隐私数据的安全。
技术关键词
键值 共享语言模型 受保护 计算机可执行指令 分词 处理单元 计算机程序产品 语义 电子设备 识别模块 可读存储介质 实体 存储器 处理器 数据