近期,由中国信息通信研究院依托中国人工智能产业发展联盟(AIIA)安全治理委员会编制的
《智能体安全护栏能力要求》技术规范正式发布,美创科技多位专家参与起草工作。
规范研制
智能体已在企业办公、客户服务、代码开发、数据分析、车载终端等场景应用。任务规划、工具调用与业务系统对接能力在提升效能的同时,也带来提示词泄露、越权冒用、高危不可逆操作、资源消耗劫持等风险,风险正向流程化、链式化演变。传统安全手段难以覆盖智能体运行中的全部风险,安全护栏的能力定义与评价依据仍需进一步明确。
为此,中国信通院发起《智能体安全护栏能力要求》技术规范编制工作。规范面向部署在智能体外围的安全护栏,提出输入防护、决策安全、执行安全、数据与记忆安全、输出安全、系统治理、评估优化等七方面要求,覆盖智能体运行全链路,为安全护栏产品的能力分级、功能完备性与实战有效性提供统一评价依据。
智能体安全护栏能力要求总体架构,图源 CAICT人工智能研究所
产品实践
美创科技于2026年世界互联网大会“互联网之光”博览会期间,正式发布美创AI数据安全一体化平台(AIDSC)。
平台围绕AI数据访问与使用过程,以统一的资产与身份治理厘清责任,以精细化访问和内容防护约束数据使用,以全链路审计与风险处置支撑持续治理,帮助企业将安全要求落实到已接入的智能问数、办公助手和业务智能体场景,为AI应用落地提供数据安全支撑。
对正在将智能体接入业务系统的政企单位而言,可结合规范要求梳理护栏能力,完善运行时安全防护。
如您正在关注智能体接入业务后的数据权限、工具调用与高危操作管控,欢迎与美创科技交流:
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/69973247/viewspace-3189200/
,如需转载,请注明出处,否则将追究法律责任。