一台边缘 AI NVR 的架构拆解,以及它真实的选型边界
很多智慧城市项目验收时很好看:点位图密密麻麻,大屏上视频流畅轮巡,AI 模块也“上线了”。但真到用时,值班员干的还是同一件事,出了事回放录像、找人、截图、上报。
系统能告诉你“这里检测到人”,却答不上“这里正在发生什么”。这两句话之间看起来只差一层算法,实际上差的是整套架构。
先把三笔账摊开,都是行业里公开可算的常识,不是某家的营销数字。
第一笔,带宽账。 一路 1080p30 的 H.265 码流,按常见码控策略大约在 2~4 Mbps 区间。1000 路就是 2~4 Gbps 的 持续上行;如果是 4K,数字还要再乘几倍。把这些原始流全量回传云端做分析,专线成本和云存储成本会先把预算吃掉,而且吃掉的是每年的运营预算,不是一次性的建设预算。
第二笔,时延账。 回传、排队、云端推理、结果下发,端到端几十秒到几分钟是常态。交通事故的黄金处置时间是以秒计的,火情更是。这个链路天生不适合“即时”。
第三笔,存储账。 全量存 30 天,和“只把事件前后 30 秒锁存下来”,成本差一个数量级以上。绝大多数场景里,真正会被调阅的录像不到总量的百分之几。
三笔账指向同一个结论: 判断必须发生在离画面最近的地方。
传统方案是堆设备:PoE 交换机一台、NVR 一台、AI 分析服务器一台,中间靠网线串起来。每多一跳,就多一次编码解码、多一段时延、多一个故障点、多一个需要单独运维的系统。
视程空间的 EDG6N0-S T5X NVR 走的是另一条路:把摄像机接口、AI 推理、音视频编解码、本地存储集成在同一台主机里。链路从“三跳”压到“一跳”,这是架构层面的变化,不是参数堆叠。
它的核心是 NVIDIA Jetson Thor 平台,厂商给出的规格是最 高 2070 FP4 TFLOPS 算力,配 128GB LPDDR5X 内存、273 GB/s 带宽。下面逐个拆关键件,顺便说说这些数字该怎么读。
3.1 2070 FP4 TFLOPS:这个数字要看“FP4”两个字
FP4 是极低精度数值格式,它是为大模型量化准备的。换句话说,这个峰值不是拿来跑传统 CNN 检测器的,而是拿来在边缘端跑 量化后的多模态模型。
真正决定体验的往往不是峰值算力,而是 128GB 统一内存和 273 GB/s 带宽。VLM 这类模型的瓶颈很少在算力上,通常在显存容量和访存带宽:KV cache 一涨,内存不够就直接 OOM,带宽不够就一个字一个字往外挤。128GB 的意义在于,你可以同时驻留多个模型和一批并发视频上下文,而不用为了省内存把分辨率砍到看不清。
3.2 从“侦测物件”到“事件理解”,这一步才是分水岭
过去的 AI 是 detection:画个框,标“人”“车”“物”。规则是写死的,换个场景就要重新标数据、重新训练。
多模态模型改变的是交互方式:给几帧关键画面和一句提示词,模型输出的是自然语言的事件描述。想新增一条规则,比如“有人翻越护栏”“车辆在禁停区滞留超过 3 分钟”,很多时候不需要重新训练,改提示词和阈值就行。这对工程侧的意义很大,现场需求几乎每周都在变。
素材里列的三类落地场景,正好对应三种不同的技术负载:
这里有个必须点出来的工程常识: VLM 很贵,不能每帧都过。 合理的做法是两级流水,轻量检测器常驻、逐帧跑,命中可疑目标再把关键帧丢给 VLM 复核、生成结构化描述。如果哪家方案是“所有视频流全程喂给大模型”,那它在 8 路以上就一定撑不住,或者只能跑极低帧率。
3.3 8 路 PoE:省的是布线和取电点
一根网线同时传画面和供电,路口、车站、校园这类点位不用再拉电源线、不用单独做取电点。这在改造类项目里价值最大,老点位往往就是卡在“没地方取电”上。
但做方案时有两个数必须问清楚,素材里没给: 8 个 PoE 口的总功率预算是多少,以及单口能不能带起带加热、带云台的球机。另外现场线缆等级(Cat5e/Cat6)、单段 100 米限制、机柜散热,都要按点位算,不能按“8 路”这个数直接乘。
3.4 100G/75G QSFP28 加 5G RJ45:这条是给“站到中心”用的
QSFP28 100G 这个口,用途不是接摄像机,而是接骨干。5G RJ45 接管理网、本地平台或者片区汇聚。
这套分布式架构的分工很清晰:摄像机 → 边缘节点做推理 → 只把事件包和关键帧走高速网上行 → 指挥中心。上行流量从“Gbps 级的原始流”变成“MB 级的事件包”,这是它敢用 100G 却依然“不拥堵”的根本原因,因为要传的东西本来就少了。
选型上我说句实话: 一个末端路口站点配 100G 通常是过剩的,光模块和光纤的价钱会让人心疼。更合理的部署是枢纽站、片区中心、大型场馆配 100G/75G,末端点位用 5G/25G/40G 接进来。100G 的价值在“片区汇聚”这一层,不在“每个杆子上”。
3.5 编解码与存储:一台顶几十路,但要算清楚留存周期
128GB 版本的解码能力是最高 10 路 4K60 或 82 路 1080p30,编码是 6 路 4K60 或 54 路 1080p30,支持 H.26X、AV1、VP9。这个量级意味着不用为了“多接几路”去堆第二台设备,运维复杂度直接少一半。
存储是 1×M.2 2280 M-Key NVMe 做系统盘,加 2×2.5 英寸 SATA HDD 做数据盘。策略是边缘优先:AI 判定异常,先在本机锁存事件前后的关键片段,再按需把告警、元数据或指定片段传到中心。
这里必须算一笔账,不能含糊。按 1080p30、4 Mbps 估算,单路每小时约 1.7~1.8 GB,8 路 24 小时大约 340 GB/天。如果两块 2.5 英寸盘做 RAID1、单盘 4TB,可用约 4TB,能存不到 12 天的全量;换成单盘 8TB,也就 20 天出头。
结论很明确:这台设备的定位是“短周期循环 + 事件长期锁存”,不是“30 天全量归档”。 需要长期全量留存的,应该把归档放到中心侧,边缘只负责判断和锁存。把定位搞清楚,方案才不会在验收后被运维投诉。
3.6 I/O:决定它能不能变成“平台”而不是“盒子”
M.2 M/E/B Key、USB 3.2 Type-A / Type-C、HDMI 2.0、DisplayPort 1.4。这些接口的意义不只在扩展,更在于它能不能承担二次开发:加 5G 模组或 WiFi、加 NVMe 缓存、本地接屏做可视化、接声光报警器或其他外设。有这些口,它才是一个可以按项目定制的边缘平台。
说明一下:以下是根据上述能力做的 逻辑推演,不是实测数据。
早高峰,某路口东侧一辆车停滞不动,后方开始排队。
第 1 步,轻量检测器发现“车辆静止时长异常 + 排队长度增长”,触发复核。 第 2 步,边缘端取若干关键帧送 VLM,生成结构化事件:时间、点位、类型、置信度、关键帧、简短描述。 第 3 步,本机把事件前后各若干十秒的片段锁存到 SATA 盘。 第 4 步,只把事件包(几 MB 级别)经高速网回传指挥中心。 第 5 步,值班员看到的不是“检测到车辆”,而是“某路口东侧,车辆滞留约 4 分钟,后方排队 6 辆,疑似故障车”。
它省掉的正是整个环节里最耗人的那一段:人来看、人来判断、人来描述。
PoE 总功率与线缆等级。 8 路全插满、每路都是球机加加热模块时,功率预算够不够,必须实测确认。
硬盘选型。 2.5 英寸盘的容量天花板比 3.5 英寸低不少,而且视频写入是典型的持续顺序写,用普通桌面盘会加速损耗。要选录像专用的监控盘,并且把 S.M.A.R.T. 告警接到运维平台上,别等盘坏了才发现。
散热与粉尘。 路口机柜夏天温度很高,风扇进灰是常态。这直接决定设备能不能三年不出问题,比多几十 TFLOPS 更影响口碑。
误报闭环。 多模态模型会有幻觉,也会有场景漂移,比如季节变化、光照变化、施工改道。必须有“人工确认 → 回灌 → 调整阈值或提示词”的闭环,否则误报率会在三个月后失控。
模型更新与时间同步。 几十上百个节点,模型怎么灰度下发、怎么回滚,是运维核心能力。多节点事件要能对齐时间线,得靠 NTP 甚至 PTP,不能靠各机器自己漂。
适合:8 到 80 路这个量级;多个分散点位,比如路口、车站、校园、园区、政府设施;必须本地闭环、不能等云端;专线贵或者不允许出网;需要按项目做二次开发和接口定制。
不太适合:三五路摄像头的小店;只要录像、不要分析的传统安防;必须 30 天以上全量归档且没有中心侧存储的项目;现场完全没有运维人力的场景。这些情况下,轻量的方案更划算,硬上边缘大算力属于浪费。
这一轮边缘 AI 硬件真正的分水岭,不是谁的算力数字更大,而是 判断发生在哪里。
判断留在云端,城市就只有“记录”能力,你永远在事后找答案。判断搬到摄像头旁边,城市才开始有“反应”能力:感知、理解、告警、处置,在几秒内闭环。带宽、时延、存储成本这三笔账,也跟着一起改写。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70050123/viewspace-3189301/ ,如需转载,请注明出处,否则将追究法律责任。