Pandora 搭载 157TOPS算力,足够支撑主流开源大模型、多模态 VLM 模型在本地完成推理计算。相比低算力边缘盒子,它可以不用依赖云端服务器,直接在设备本地加载模型,实现断网环境下稳定运行。
对于开发者来说,157TOPS 算力可以覆盖从文本大模型、代码模型,到视觉多模态模型的本地部署需求,不用再为了跑通大模型单独搭建昂贵的本地工作站,在边缘端就能完成模型调试、验证与业务上线。
Pandora 依托 Hugging Face 生态,开箱即可支持市面上主流开源大模型,覆盖文本、代码、视觉多模态多个方向:
Meta 系列:Llama3、CodeLlama 代码模型
阿里通义:Qwen2.5 千问系列
微软:Florence 视觉模型、Phi-4 轻量高性能大模型
Google:Gemma 模型
DeepSeek:DeepSeek-R1 深度推理模型、DeepSeek-VLM 多模态视觉模型
GPT-OSS 开源模型
不管是做文本问答、代码生成,还是图像理解、多模态识别项目,开发者都可以直接选用对应模型,在 Pandora 设备上完成离线开发,不用做大量底层适配工作。
硬件只是基础,边缘 AI 项目最大的难点往往在适配、调试与后期维护。视程空间提供完整配套技术支持,减少开发团队的底层工作量:
硬件质保与维修:硬件设备提供质保服务,硬件故障可走维修流程,保障项目稳定运行;
SDK 开发支持:配套 SDK 开发包,简化模型部署、二次开发的调用流程;
线上技术支持:开发阶段遇到部署、调参问题,可以获得线上技术对接;
固件、BSP 及系统镜像升级:持续提供系统底层更新,支持后续模型、驱动迭代,延长硬件生命周期。
整套服务覆盖从模型移植、开发调试,到后期运维升级全流程,非常适合企业集成商、算法团队快速验证项目原型,落地私有化边缘 AI 方案。
这套离线大模型方案,更适合对 数据安全、低延迟有硬性要求的场景:工业现场设备分析、本地智能质检、嵌入式多模态识别、涉密内网 AI 应用、无网络环境下的智能交互等。数据全程留在本地设备,不会上传云端,从根源规避数据泄露风险。
来自 “ ITPUB博客 ” ,链接:https://blog.itpub.net/70050123/viewspace-3182887/ ,如需转载,请注明出处,否则将追究法律责任。