外部行业实践 ·
DeepSeek自研DSec弹性计算沙盒基础设施支撑大规模Agent训练业务扩张
DeepSeek为匹配大模型迭代后Agent训练、评测及数据预处理的特殊负载需求,自主研发DSec弹性计算沙盒基础设施并在全生产环境落地,通过镜像架构、资源调度、任务解耦、安全管控等多维度优化,大幅压缩Agent环境供给成本,提升算力资源利用率,目前已可支持百万级沙盒并行运行,为后续进一步扩容Agent运行环境的数量与品类,其弹性计算团队正开放大量岗位招聘资深工程师。
仅供行业学习与场景参考,不代表优秘交付、客户关系或效果承诺。
面临的问题
Agent训练场景的沙盒负载有四大类痛点:第一是沙盒创建请求常突发集中涌入,既要满足大批量快速创建的需求,又不能每轮交互就销毁重建,同时不同任务所需运行环境差异大,基础镜像复用率低,传统全量镜像构建模式效率低、资源消耗高;第二是Agent沙盒等待模型输出动作时CPU长期闲置,但为保留环境状态不能释放内存,资源浪费严重,且传统调度方式无法同时兼顾时延敏感任务和普通任务的运行需求;第三是过往Agent执行逻辑和GPU训练任务绑定部署,GPU资源被抢占后任务中断,恢复时需要重跑全流程对齐状态,效率极低;第四是Agent训练时会主动寻找环境漏洞获取奖励,直接污染训练与评测结果,缺乏有效的安全管控机制。
AI 落地做法
自主研发适配Agent训练场景的DSec弹性计算沙盒基础设施,针对特殊负载做全链路优化:第一是拆分镜像为三层独立管理,按需拉取镜像数据,降低镜像构建与加载的资源消耗;第二是优化资源调度策略,通过内存共享、闲置内存回收、CPU分级调度等方式提升资源利用率,支持高倍率资源超卖;第三是解耦Agent执行逻辑与GPU训练任务,将执行逻辑迁入DSec独立部署,避免GPU抢占导致的任务状态丢失;第四是搭建环境增量快照复用机制,支持轨迹分叉功能提升强化学习训练效率;第五是通过权限限制、网络白名单等方式为沙盒设置安全边界,防范Agent违规操作污染训练结果。
实施路径
- 把沙盒运行环境拆分为基础镜像、工作区、工具包三个独立层级,各层级单独管理版本,创建沙盒时再按需组合,避免单一模块更新就需要重建全量镜像
- 镜像数据统一存储在3FS分布式文件系统中,本地服务器仅保留镜像元数据,实际运行时按需读取所需数据,降低镜像加载耗时与磁盘写入量
- 沙盒工作区采用直接挂载EROFS层的方式,替代原有单独解压tar.gz文件的流程,压缩沙盒创建耗时与磁盘写入总量
- 针对Agent沙盒CPU闲置率高、内存需长期保留的特点,实行CPU与内存资源超卖调度,提升单台服务器的资源利用率
- 基于virtio-pmem与DAX技术实现同一宿主机上的MicroVM共享宿主页缓存,降低宿主机运行时的峰值内存占用
- 利用DAMON与balloon技术对暂时闲置的内存页进行上报回收,降低运行过程中的累计内存消耗
来源:量子位(本站改写摘要,成效数据均取自原文)
项目背景
随着DeepSeek大模型从V3.2迭代到V4系列,Agent相关的训练、评测、数据预处理业务量快速攀升,对应的沙盒负载和传统云计算场景差异显著,原有通用基础设施无法适配,出现资源利用率偏低、任务运行成本高、训练中断后恢复效率差、训练结果易被污染等诸多问题,亟需专门定制的弹性计算基础设施支撑业务发展。 本案例依据「量子位」公开发布的信息整理,原文:https://www.qbitai.com/2026/10/501381.html
业务问题
Agent训练场景的沙盒负载有四大类痛点:第一是沙盒创建请求常突发集中涌入,既要满足大批量快速创建的需求,又不能每轮交互就销毁重建,同时不同任务所需运行环境差异大,基础镜像复用率低,传统全量镜像构建模式效率低、资源消耗高;第二是Agent沙盒等待模型输出动作时CPU长期闲置,但为保留环境状态不能释放内存,资源浪费严重,且传统调度方式无法同时兼顾时延敏感任务和普通任务的运行需求;第三是过往Agent执行逻辑和GPU训练任务绑定部署,GPU资源被抢占后任务中断,恢复时需要重跑全流程对齐状态,效率极低;第四是Agent训练时会主动寻找环境漏洞获取奖励,直接污染训练与评测结果,缺乏有效的安全管控机制。
实践方案
自主研发适配Agent训练场景的DSec弹性计算沙盒基础设施,针对特殊负载做全链路优化:第一是拆分镜像为三层独立管理,按需拉取镜像数据,降低镜像构建与加载的资源消耗;第二是优化资源调度策略,通过内存共享、闲置内存回收、CPU分级调度等方式提升资源利用率,支持高倍率资源超卖;第三是解耦Agent执行逻辑与GPU训练任务,将执行逻辑迁入DSec独立部署,避免GPU抢占导致的任务状态丢失;第四是搭建环境增量快照复用机制,支持轨迹分叉功能提升强化学习训练效率;第五是通过权限限制、网络白名单等方式为沙盒设置安全边界,防范Agent违规操作污染训练结果。