一种涉及隐私保护的模型训练、微调和推理系统及方法

本发明公开了一种涉及隐私保护的模型训练、微调和推理系统：获取由第一输入端输入大规模的数据集数据。本地加解密模块用于接收数据集数据并转化为加密数据集数据。云端训练模块用于接收加密数据集数据并训练得到加密大语言模型并存储于云端模型存储模块。第一输入端和本地加解密模块位于本地数据集提供端，云端训练模块和云端模型存储模块位于云端服务器。本发明通过加密的方式实现隐私保护，可在云端处理器内实施模型训练、微调和推理，降低了大模型公司和小行业的模型训练，微调和推理成本。弹性地使用云端处理器的GPU资源，提高社会全体利用率，降低社会全局能耗。分工更明确，合理利用云端的GPU资源，提高整体的工作效率。