人工智能大模型研发集团企业外部行业实践

DeepSeek自研DSec弹性计算沙盒基础设施支撑大规模Agent训练业务扩张

DeepSeek

160台
单套DSec扩展分片服务器数量
3万个
单套DSec扩展分片CPU核心数量
250TB
单套DSec扩展分片内存容量
300万个
单套DSec扩展分片每日服务沙盒数量

本页基于公开来源整理,仅供行业学习,不代表优秘交付、客户关系或效果承诺。

项目背景

随着DeepSeek大模型从V3.2迭代到V4系列,Agent相关的训练、评测、数据预处理业务量快速攀升,对应的沙盒负载和传统云计算场景差异显著,原有通用基础设施无法适配,出现资源利用率偏低、任务运行成本高、训练中断后恢复效率差、训练结果易被污染等诸多问题,亟需专门定制的弹性计算基础设施支撑业务发展。 本案例依据「量子位」公开发布的信息整理,原文:https://www.qbitai.com/2026/10/501381.html

面临的痛点

Agent训练场景的沙盒负载有四大类痛点:第一是沙盒创建请求常突发集中涌入,既要满足大批量快速创建的需求,又不能每轮交互就销毁重建,同时不同任务所需运行环境差异大,基础镜像复用率低,传统全量镜像构建模式效率低、资源消耗高;第二是Agent沙盒等待模型输出动作时CPU长期闲置,但为保留环境状态不能释放内存,资源浪费严重,且传统调度方式无法同时兼顾时延敏感任务和普通任务的运行需求;第三是过往Agent执行逻辑和GPU训练任务绑定部署,GPU资源被抢占后任务中断,恢复时需要重跑全流程对齐状态,效率极低;第四是Agent训练时会主动寻找环境漏洞获取奖励,直接污染训练与评测结果,缺乏有效的安全管控机制。

实践方案

自主研发适配Agent训练场景的DSec弹性计算沙盒基础设施,针对特殊负载做全链路优化:第一是拆分镜像为三层独立管理,按需拉取镜像数据,降低镜像构建与加载的资源消耗;第二是优化资源调度策略,通过内存共享、闲置内存回收、CPU分级调度等方式提升资源利用率,支持高倍率资源超卖;第三是解耦Agent执行逻辑与GPU训练任务,将执行逻辑迁入DSec独立部署,避免GPU抢占导致的任务状态丢失;第四是搭建环境增量快照复用机制,支持轨迹分叉功能提升强化学习训练效率;第五是通过权限限制、网络白名单等方式为沙盒设置安全边界,防范Agent违规操作污染训练结果。

镜像按需加载内存共享空闲页报告回收

实施路径

1
把沙盒运行环境拆分为基础镜像、工作区、工具包三个独立层级,各层级单独管理版本,创建沙盒时再按需组合,避免单一模块更新就需要重建全量镜像
2
镜像数据统一存储在3FS分布式文件系统中,本地服务器仅保留镜像元数据,实际运行时按需读取所需数据,降低镜像加载耗时与磁盘写入量
3
沙盒工作区采用直接挂载EROFS层的方式,替代原有单独解压tar.gz文件的流程,压缩沙盒创建耗时与磁盘写入总量
4
针对Agent沙盒CPU闲置率高、内存需长期保留的特点,实行CPU与内存资源超卖调度,提升单台服务器的资源利用率
5
基于virtio-pmem与DAX技术实现同一宿主机上的MicroVM共享宿主页缓存,降低宿主机运行时的峰值内存占用
6
利用DAMON与balloon技术对暂时闲置的内存页进行上报回收,降低运行过程中的累计内存消耗

落地成效

160台
单套DSec扩展分片服务器数量
3万个
单套DSec扩展分片CPU核心数量
250TB
单套DSec扩展分片内存容量
300万个
单套DSec扩展分片每日服务沙盒数量

想成为下一个成功案例?

预约专属顾问,结合你的行业与规模,给出可落地的 AI 化方案