2. Alveo 加速器卡应用
  3. VCK5000 上的 MLPerf v1.0 基准测试演示

VCK5000 上的 MLPerf v1.0 基准测试演示

Xilinx
MLPref

VCK5000 上的 MLPerf v1.0 基准测试演示

MLPerf.org 发布了其第 3 轮推断结果（MLPerf Inference v1.0）。在本次基准测试中，Xilinx 使用最新 Versal ACAP PCI-e 卡 VCK5000 以 5,921 FPS（提供目录、服务器模式）的速率为数据中心实现了 ResNet-50 推断吞吐量的结果。它在 Xilinx 自适应计算平台上使用针对 AI 推断优化的专用域架构展示了业界领先的性能加速。该演示现在可以在应用商店上免费评估。

供应商： Xilinx

更新日期：2021 年 6 月 11 日

大小: 370MB

容器版本： xilinx/vitis-ai-cpu:1.3.598

> 解决方案简介

开始设计

部署选项

该应用是容器化的，可以在几分钟内轻松地在云中或本地运行。

本地
Alveo VCK5000
查看 & 购买产品
  • Xilinx Runtime: 2020.2_PU1
  • 目标平台：xilinx_vck5000-es1_gen3x16_base_2-3102046

 

开始评估

请按照部署方法进行操作。

对于此应用是否有任何问题和反馈？
Alveo VCK5000

1.

主机设置

1.1 Vitis AI 1.3.1 Docker 安装

    docker pull xilinx/vitis-ai-cpu:1.3.598

1.2 安装 VCK5000 Shell/XRT 包

安装后，冷重启机器。对于 CentOS7.4/REHL7.4：

    cd shell_xrt/CentOS7.4       
sudo yum install xrt_202110.2.9.204_7.4.1708-x86_64-xrt.rpm
sudo yum install xilinx-sc-fw-vck5000-4.4.6-2.e1f5e26.noarch.rpm
sudo yum install xilinx-vck5000-es1-gen3x16-validate-2-3105556.noarch.rpm
sudo yum install xilinx-vck5000-es1-gen3x16-base-2-3102046.noarch.rpm
sudo /opt/xilinx/xrt/bin/xbmgmt flash --update --shell xilinx_vck5000-es1_gen3x16_base_2

1.3.请在 AIE5000 主机上安装 XBulter

请参考 XBulter Installation (https://github.com/Xilinx/Vitis-AI/tree/master/setup/alveo/u200_u250/packages) 安装 XBulter。安装 Xbulter 后，重新启动 XBulter 服务。

    Sudo 服务 xbutler 将重启

2.

运行 MLPerf

2.1 下载完 Vitis-AI docker 后，进入 Vitis-AI 目录，随后启动 Docker。

在 docker 中更新 Vitis AI 运行时库

    cd vitis-ai-libs 
sudo dpkg -i librt-engine_1.3.0_amd64.deb
sudo dkpg -i libtarget-factory_1.3.0_amd64.deb

2.2 数据集下载

请从 http://image-net.org/challenges/LSVRC/2012/ 下载验证数据集

2.3 构建并安装 MLPerf 基准测试：

    cd xilinx-mlperf-v1.0/mlperf-vitis-benchmark-app
make clean&& make -j

2.4 运行 MLPerf 基准测试

请注意，MLPerf ResNet50 基准测试结果可能会由于硬件资源配置的不同而略有波动。例如，高级 CPU 处理器和更高 PCIe 带宽将带来更好的性能结果。

  • MLPerf 服务器性能测试
    • cd mlperf-vitis-benchmark-app
    • ./run.sh -r [TARGET_QPS] --dir [IMG_DIR]

注意：TARGET_QPS 默认值为 4000。要获得更好的性能结果，就要修改 TARGET_QPS 值。

--dir 用于指定 imageNet 验证数据集的位置。

e.g. ./run.sh -r 5200 --dir  /workspace/CK-TOOLS/dataset-imagenet-ilsvrc2012-val
结果显示在 mlperf_log_summary.txt 中

  • MLPerf 服务器准确性测试
    • conda activate vitis-ai-tensorflow
    • ./run.sh -m AccuracyOnly -n 50000 --dir [IMG_DIR]

  • MLPerf 服务器准确性测试
    • cd mlperf-vitis-benchmark-app
    • ./run.sh -r [TARGET_QPS] -s Offline --dir [IMG_DIR]
        
  • MLPerf 离线精度测试
    • conda activate vitis-ai-tensorflow
    • ./run.sh -m AccuracyOnly -n 50000 -s Offline --dir [IMG_DIR]

3.

结果

在 mlperf_log_summary.txt 中查看基准性能结果；
在 accuracy.txt 中查看准确性结果

**如果您有任何问题或技术咨询，请联系bingqing@xilinx.com