外部行业实践 ·
云知声搭建RSI后训练闭环打造U2-Flash大模型,兼顾效率、成本与任务能力
云知声依托自身数据积累打造具备递归自我改进(RSI)特征的U2-Flash大模型,通过让模型深度参与自身训练演进的后训练闭环,突破了传统Flash类模型速度快、成本低但能力打折的行业惯例,在代码、Agent、长文档处理等复杂任务上的表现反超上一代旗舰模型,同时使用成本处于行业较低水平,可适配多种开发工具,支撑不同难度的业务需求。
仅供行业学习与场景参考,不代表优秘交付、客户关系或效果承诺。
面临的问题
传统Flash类大模型普遍定位为旗舰模型平替,存在速度快、成本低但任务能力打折的痛点;大模型训练环节存在固定训练题库易被刷穿、Agent长任务训练同步等待耗时长、多专项能力训练易顾此失彼、训练系统故障人工恢复效率低的问题;落地应用端,大模型处理复杂任务时存在反复试错多、Token消耗高、推理深度与速度难以兼顾、对接工具适配成本高的痛点。
AI 落地做法
云知声依托深耕行业十余年积累的海量真实场景数据与高质量标注能力,搭建模型深度参与的后训练闭环,从训练任务生成、训练流程优化、训练效果评判三个核心环节重构训练体系,同时让模型参与训练系统的运维管理,采用稀疏MoE架构打造U2-Flash大模型,在压低推理激活参数量的同时提升任务表现,还配套优化了调用接入能力与使用定价,降低用户使用门槛。
实施路径
- 搭建模型深度参与的后训练闭环,让模型参与生成训练数据、分析执行轨迹、巡检和修复训练系统
- 采用稀疏MoE架构打造U2-Flash,总参数约266B,单次推理仅激活约10B参数,降低推理资源消耗
- 推出自主任务生成机制,根据模型当前能力动态生成适配的新训练任务,自主构建近10万道高质量SWE任务覆盖多主流编程语言
- 采用异步Agent RL训练架构,将任务拆分给多个Worker并行执行,标记关键Action追溯结果成因,提升训练效率
- 采用多教师在线策略蒸馏方案,先训练不同领域的专项教师模型,再由教师对学生模型的执行轨迹逐Token打分,保障多专项能力协同提升
- 推出none、low、high、max四档思考强度调节功能,支持用户按任务难度在速度和推理深度之间切换
来源:量子位(本站改写摘要,成效数据均取自原文)
项目背景
递归自我改进(RSI)成为全球AI领域的热门技术方向,行业开始探索让模型参与自身训练演进的落地路径,市场亟需兼顾推理速度、使用成本与复杂任务处理能力的大模型产品,支撑代码开发、系统运维、内容处理等多场景的业务需求。 本案例依据「量子位」公开发布的信息整理,原文:https://www.qbitai.com/2026/09/491091.html
业务问题
传统Flash类大模型普遍定位为旗舰模型平替,存在速度快、成本低但任务能力打折的痛点;大模型训练环节存在固定训练题库易被刷穿、Agent长任务训练同步等待耗时长、多专项能力训练易顾此失彼、训练系统故障人工恢复效率低的问题;落地应用端,大模型处理复杂任务时存在反复试错多、Token消耗高、推理深度与速度难以兼顾、对接工具适配成本高的痛点。
实践方案
云知声依托深耕行业十余年积累的海量真实场景数据与高质量标注能力,搭建模型深度参与的后训练闭环,从训练任务生成、训练流程优化、训练效果评判三个核心环节重构训练体系,同时让模型参与训练系统的运维管理,采用稀疏MoE架构打造U2-Flash大模型,在压低推理激活参数量的同时提升任务表现,还配套优化了调用接入能力与使用定价,降低用户使用门槛。