一种大模型一体机批量灌装的系统及方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种大模型一体机批量灌装的系统及方法
申请号:CN202511029255
申请日期:2025-07-25
公开号:CN120950139A
公开日期:2025-11-14
类型:发明专利
摘要
本发明涉及大模型一体机部署技术领域,具体为一种大模型一体机批量灌装的系统及方法,包括:GPU服务器,网络交换机,部署服务器,部署介质,部署服务;有益效果为:实现了无人值守部署大模型与智能体平台,部署人员只需要填写部署配置清单信息,并将配置文件上传到部署服务器即可实现自动部署。支持服务开机自动启动,做到一体机开箱即用。降低大模型部署门槛,提高部署效率,节约交付人员批量部署成本。
技术关键词
GPU服务器 批量 网络交换机 操作系统 GPU并行 介质 模版 软件配置信息 智能体平台 读取配置文件 高可用 集群 开箱 镜像 容器 笔记本 参数 显卡 客户端