ITPub博客

首页 > 数据治理 > 数据治理 > 美创参编|《智能体安全护栏能力要求》发布

美创参编|《智能体安全护栏能力要求》发布

原创 数据治理 作者:数据安全 时间:2026-11-17 14:37:34 0 删除 编辑
近期,由中国信息通信研究院依托中国人工智能产业发展联盟(AIIA)安全治理委员会编制的 《智能体安全护栏能力要求》技术规范正式发布,美创科技多位专家参与起草工作。


规范研制

智能体已在企业办公、客户服务、代码开发、数据分析、车载终端等场景应用。任务规划、工具调用与业务系统对接能力在提升效能的同时,也带来提示词泄露、越权冒用、高危不可逆操作、资源消耗劫持等风险,风险正向流程化、链式化演变。传统安全手段难以覆盖智能体运行中的全部风险,安全护栏的能力定义与评价依据仍需进一步明确。
为此,中国信通院发起《智能体安全护栏能力要求》技术规范编制工作。规范面向部署在智能体外围的安全护栏,提出输入防护、决策安全、执行安全、数据与记忆安全、输出安全、系统治理、评估优化等七方面要求,覆盖智能体运行全链路,为安全护栏产品的能力分级、功能完备性与实战有效性提供统一评价依据。
智能体安全护栏能力要求总体架构,图源 CAICT人工智能研究所


产品实践

美创科技于2026年世界互联网大会“互联网之光”博览会期间,正式发布美创AI数据安全一体化平台(AIDSC)。
平台围绕AI数据访问与使用过程,以统一的资产与身份治理厘清责任,以精细化访问和内容防护约束数据使用,以全链路审计与风险处置支撑持续治理,帮助企业将安全要求落实到已接入的智能问数、办公助手和业务智能体场景,为AI应用落地提供数据安全支撑。
美创AI数据安全一体化平台(AIDSC)平台架构
对正在将智能体接入业务系统的政企单位而言,可结合规范要求梳理护栏能力,完善运行时安全防护。
如您正在关注智能体接入业务后的数据权限、工具调用与高危操作管控,欢迎与美创科技交流:
400-811-3777


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/69973247/viewspace-3189200/ ,如需转载,请注明出处,否则将追究法律责任。

下一篇: 没有了~
请登录后发表评论 登录
全部评论
美创科技,以“数据安全领导者和引路人,数字化转型推动者”为使命,十八年专注深耕,围绕数据安全、数字化转型、运行安全三大业务,为政企用户提供专业产品与解决方案。

注册时间:2020-07-08

  • 博文量
    540
  • 访问量
    464348