
AI 一体机
从边缘端到 AI 服务器,围绕实际应用选择软硬件部署形态。
01 适用场景
边缘端现场推理
面向产线、设备侧与分布式现场,结合空间、功耗及接口条件,评估图像分析和本地推理的部署形态。
企业本地 AI 应用
面向知识问答、文档处理及智能体应用,将模型服务和应用部署在约定的本地环境中,按使用需求配置资源。
AI 服务器与集中部署
面向多应用或较大模型负载,结合计算、存储和网络需求,评估服务器配置及与现有基础设施的对接方式。
02 方案说明
从实际应用负载出发,将计算硬件、运行环境、模型与应用组合为可部署的软硬件方案。根据现场条件选择边缘设备、本地一体机或 AI 服务器,结合模型规模、任务并发、存储和网络需求确定配置。具体型号、兼容范围与性能指标以配置清单和实测结果为准。
03 技术流程
- 01
负载分析与配置匹配
梳理模型、输入数据与任务规模,评估计算资源、内存或显存、存储及接口需求。
- 02
运行环境与模型适配
按配置安装运行环境,完成模型格式、推理框架与硬件的适配,核对软件依赖。
- 03
应用接入与联合验证
连接数据源和业务应用,使用代表性任务验证输入输出、响应表现及资源占用。
- 04
运行配置与维护准备
按部署要求配置服务启动、日志和必要的监测项,明确更新与故障处理方式。
04 实施与交付
| 服务项目 | 工作内容与交付说明 |
|---|---|
| 配置方案 | 明确设备形态、软硬件配置、接口和部署条件,形成双方确认的配置清单。 |
| 集成与部署 | 按约定范围完成软硬件集成、环境安装、模型部署及业务系统联调。 |
| 测试与验收 | 依据约定任务和负载开展测试,记录效果、响应及资源使用情况,核对验收条件。 |
| 资料与交接 | 交付约定的配置记录、操作说明和维护指引,明确支持范围及后续服务安排。 |
05 需求准备
- 应用负载
- 计划运行的模型与应用、数据类型、并发任务量,以及响应时间和效果要求。
- 现场条件
- 安装空间、供电、散热、网络条件,以及设备尺寸、功耗或环境限制。
- 系统接口
- 需要连接的设备和业务系统、数据接口、身份认证及访问权限要求。
- 部署与验收
- 预算与部署计划、代表性测试任务、验收标准,以及维护和更新需求。
