摘要
本发明提供一种多模型封装与智能调度的生成式 AI 系统,包括以下步骤:搭建多模型集成平台:该平台设立多样化对接接口,具备与常见商用大模型以及自建开源大模型建立连接的能力,针对不同模型的接入需求,适配接口调用、模型调用等多种调用模式,同时内置微调训练功能模块,基於任务特性和输入样本,对所接入的模型进行参数微调,使模型贴合不同应用场景与需求。本发明提供的一种多模型封装与智能调度的生成式 AI 系统,多模型集成与自建支持:能够对接商用大模型和自建开源大模型,并支持微调训练;动态算力扩容:根据需求动态调整计算资源,优化成本和效率;智能模型选择:自动选择最合适的大模型,考虑多维度因素。