ITPub博客

首页 > 人工智能 > 人工智能 > 视程空间将边缘AI内存用量降低约20%,让智慧社区影像分析在NVIDIA Jetson Orin NX 8GB

视程空间将边缘AI内存用量降低约20%,让智慧社区影像分析在NVIDIA Jetson Orin NX 8GB

原创 人工智能 作者:visionspace 时间:2026-11-19 14:33:12 0 删除 编辑

视程空间将边缘 AI 内存用量降低约 20% ,让智慧社区影像分析在 NVIDIA Jetson Orin NX 8GB 上运行

 

图1  头图:

采用轻量化视觉模型后,视程空间将智慧社区跨摄像机影像分析从 16 GB 平台移至 Jetson Orin NX 8GB 。

社区各处的摄像机记录大厅、公共空间、多功能室和电梯内的活动。检视事件时,管理人员往往需要在不同摄像机画面之间切换,手动拼凑事件经过。跨摄像机影像分析可串联各视角的信息。处理多路影像串流也会增加边缘运算与内存负担。

视程空间的跨摄像机影像分析方案在 NVIDIA Jetson Orin NX 8GB 上运行,搭配 NVIDIA JetPack 6.2 ,每台设备可同时处理四路 1080p 影像串流。

通过轻量化 AI 模型、 NVIDIA TensorRT FP16 推理与系统服务精简,视程空间将 AI 模型的内存用量从 4.4 GB 降至 3.5 GB ,减少 20.5% 。 Rank-1 准确率从 95.2% 降至 94.6% ,相差 0.6 个百分点。

一、在内存有限的边缘设备上执行多摄像机分析

跨摄像机影像分析会持续检测目标、提取外观特征,并关联不同摄像机画面中的移动轨迹。这些工作与影像解码、串流缓冲区、操作系统和后台服务共用内存。

在 8 GB 边缘设备上,减少模型与系统的内存负担,有助于兼顾比对准确率与部署需求。视程空间同时优化这两个层面,使内存容量较小的平台也能用于社区的多摄像机分析。

二、串联摄像机画面以加快事件检视

视程空间的方案通过三个处理阶段,整合不同区域的摄像机信息。

1. 目标检测与单一摄像机追踪:检测各摄像机画面中的目标,建立目标在该视角内的移动轨迹。

2. 跨摄像机关联:根据外观特征、时间戳记与摄像机之间的空间关系,比对不同视角的轨迹。

3. 整合移动纪录:将关联后的轨迹整理成纪录,供管理人员检视事件时查询。

例如:若事件横跨大厅、公共空间与电梯,管理人员可利用关联纪录找出相关地点,以及最后拍到目标的摄像机画面,缩小人工查阅的影像范围。关联质量会受到照明、遮挡、拍摄角度和摄像机位置影响。

视程空间推动智慧社区的自主机器人巡检。视程空间的边缘 AI 运算与机器视觉技术,让机器人能与既有摄像机及物联网( IoT )系统协作,在事件触发后执行巡检,支持社区运营。

三、视程空间优化模型与系统软件

(一)轻量化模型与 TensorRT FP16 推理

视程空间采用轻量化 AI 模型,搭配 NVIDIA TensorRT 和 FP16 半精度推理,以降低模型执行时的内存需求。比较优化前后的 Rank-1 准确率,可量化这些调整对人员外观特征比对的影响。

(二)精简 BSP 、 Jetson Agent Skills 与系统服务

视程空间依部署需求调整板级支持套件(BSP )、 Jetson Agent Skills 及系统设置,并采取以下措施。

· 停用应用程序用不到的图形接口服务。

· 停用非必要的后台服务。

这些调整可降低系统常驻内存用量,为影像处理和 AI 分析保留更多空间。实际停用哪些服务,取决于设备功能与维护需求。

四、量测内存用量与比对准确率

优化后,单台 NVIDIA Jetson Orin NX 8GB 设备可同时处理四路 1080p 影像串流。下图与下表列出 AI 模型层级的量测结果。

 

图2  优化前后的 AI 模型内存用量与 Rank-1 准确率(来源:视程空间)

表1  优化前后量测结果对比(来源:视程空间)

指标

优化前

优化后

变化

AI 模型内存用量

4.4 GB

3.5 GB

降低 0.9 GB (约 20.5% )

Rank-1 准确率

95.2%

94.6%

下降 0.6 个百分点

注:内存数据反映 AI 模型用量,并非整体系统内存消耗。

五、如何解读测试结果

Rank-1 准确率衡量的是人员外观特征检索时,排名第一的候选结果为正确对象的比例。不同场域中,跨摄像机追踪从头到尾的成功率须另行评估。

内存数据反映的是 AI 模型用量。从 NVIDIA Jetson Orin NX 16GB 移至 8GB 平台,是硬件内存容量的变更。 20.5% 则是模型本身的内存用量降幅,整体系统用量须另行量测。

部署时,须依串流帧率、画面中的人数与场域条件,验证处理帧率、延迟及系统内存峰值用量。硬件成本与功耗方面的效益也取决于最终部署配置。

六、将优化方法应用于更多边缘 AI 场景

视程空间结合轻量化模型、TensorRT 推理与系统服务调整,在降低内存需求的同时,维持接近原有水平的 Rank-1 准确率。

这套做法也可作为零售、制造与交通运输部署多摄像机分析的参考。这些场域往往需要较多硬件设备。开发团队与企业可依设备资源与比对准确率需求选择部署配置,有助于降低硬件成本。

 


来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70050123/viewspace-3189568/ ,如需转载,请注明出处,否则将追究法律责任。

下一篇: 没有了~
请登录后发表评论 登录
全部评论

注册时间:2026-05-15

  • 博文量
    25
  • 访问量
    26877