优秘智能观察：近日arXiv平台发布的一项AI安全新研究，揭示了大模型驱动的交互型AI系统存在的新型攻击风险，对各行业企业落地AI应用的安全防护具有重要参考价值。
最新研究：LLM交互型AI曝全新攻击面
该研究针对大模型驱动的具身智能体（即可与物理/数字环境交互、自动生成执行计划的AI系统，比如智能作业机器人、自动化业务AI、数字员工等），首次提出了「环境状态-文本注入（ESTI）」攻击方式。
与传统攻击篡改用户指令、模型参数、感知输入的思路不同，ESTI攻击无需修改原始任务要求、模型本身或执行器，仅需修改AI可读取的环境状态文本（比如传感器传回的文字化状态、任务规则说明、执行反馈信息等），就能通过误导AI对环境的判断，使其生成错误规划甚至执行错误操作。测试显示该攻击的规划层成功率最高可达89.32%，执行层成功率最高可达43.69%。
对企业AI部署的核心启示
该研究为不同阶段的企业AI落地提供了明确的安全参考：
- 1人公司/小团队：使用AI数字员工、自动化内容工具时，需增加关键操作的人工复核环节，避免AI接收的环境信息被篡改导致内容错发、客诉等问题；
- 成长型企业：部署自动化营销、智能客服、业务流程AI系统时，不能仅做输入层防护，需增加环境数据多源交叉校验逻辑，降低被注入攻击的风险；
- 集团类企业：部署涉及物理操作、核心业务链路的AI系统时，需做全链路安全审计，设置多层权限隔离与异常预警机制。
优秘智能点评
AI安全是企业落地AI应用的核心前提，优秘智能在营销智脑、数字员工、灵秘数字分身等产品的研发过程中，始终基于灵枢网关底座构建全链路数据校验、权限隔离、人工复核节点，帮助企业在享受AI带来的效率提升的同时，降低安全风险。如果您有企业AI落地、安全部署相关的需求，可访问优秘智能官网umi6.com咨询了解。
优秘智能