DX-All Suite v2.5.0现已可用

摘要

DX-All Suite v2.5.0 现已发布。本次更新涵盖了编译器、运行时、驱动程序和示例应用程序,并新增了 ARM 上的 GPU 加速预处理、吞吐量调优以及扩展的 Docker 和模型示例。

组件 版本
DX-Compiler v2.5.0
DX-COM v2.5.0
DX-Runtime v2.5.0
DX_FW v2.7.6
NPU Driver v2.7.0
DX-RT v3.5.0
DX-STREAM v3.2.0
DX-APP v3.3.0
DX-ModelZoo v1.0.0

亮点

性能与效率

  • ARM 上的 GPU 预处理 (DX-STREAM): 图像裁剪、缩放、letterbox 处理和颜色转换可通过基于 DMA-BUF 的零拷贝 OpenGL ES 后端在板载 GPU 上运行。在 Raspberry Pi 5 测试中(1080p30 摄像头,NV12 1920×1080 转换为 RGB 640×640),主机 CPU 使用率从 95.2% 降至 4.8%。
  • 自动吞吐量调优 (DX-RT): dxrun --max-throughput 会在目标系统上搜索能最大化吞吐量的 I/O 缓冲区数量,从而无需手动调优。
  • 核心延迟 API (DX-RT): 新增的端到端和核心延迟 API(C/C++/Python)将 NPU 核心执行时间与缓冲区池和调度等待时间分离开来,有助于定位瓶颈。
  • 更小的模型包 (DX-APP): extract_model_package.sh 仅复制每个模型引用的 common/ 依赖项。使用 --no-prune 可保留所有资源。

工具与功能

  • Docker (DX-AS): docker_run.sh 新增了容器硬件加速选项:--nvidia_gpu(可选 --cuda_version,默认为 12.8.1)和 --intel_gpu_hw_acc。仅限 Ubuntu 系统。
  • DX-Compiler: 在可用时,install.sh 使用 uv 管理 Python 依赖项(--uv=true)。新增 --use_gpu 标志用于控制量化过程中的 GPU 使用。新增 --verbose 选项以显示根本原因错误消息。
  • DX-RT: 支持带有 PPU 数据块传输的 V9 .dxnn 格式。在 import dx_engine 时进行版本检查,以检测 Python 包装器与 libdxrt.so 之间的不匹配。新增 DXRT_ERR_DEVICE_REMOVED 错误代码和 DeviceRemovedException,允许应用程序处理设备移除事件。
  • DX-STREAM: 新增 YOLO26 单目深度估计流水线以及使用 libcamerasrc 的 Raspberry Pi 摄像头演示流水线。
  • DX-APP: 新增 multi_model_graph_sync 和 multi_model_graph_async CLI,147 个新模型示例,以及 8 个可从 Python 调用的高性能 C++ 后处理器类。

升级说明(重大变更)

  • DX-TRON 已在此版本中移除。
  • DX-Compiler QAT 配置: 四个独立的 Python 参数已合并为一个单一的 QMasterConfig 对象。请更新现有的 QAT 脚本。
  • DX-RT C# 绑定: 重写为纯 P/Invoke C API。移除了对 C++/CLI 的依赖,因此构建 DX-RT 不再需要 .NET SDK 或 msbuild。请检查现有的 C# 集成代码。
  • 模型包: extract_model_package.sh 现在默认修剪未使用的 common/ 文件。如需之前的行为,请使用 --no-prune。
  • 版本检查: 如果不匹配的 Python 包装器和核心库版本,现在会在导入时产生错误。
1 个赞