五、AI扩展大模型测试：神经网络速度可达21.8it/s 最快4.7秒即可生成一张图像

UL Procyon套件近期加入了AI基准测试功能，支持对多种AI推理引擎和Stable Diffusion图像生成模型进行测试，并给出非常直观的结果，包含总分、总耗时、图片生成速度等数据、CPU和GPU型号以及跑分设置等信息。

其中AI Image Generation Benchmark套件，包含了2个不同版本的Stable Diffusion模型构建的测试，分别为SD1.5和SDXL，在兼容性上支持TensorRT、OpenVIVO、ONNX Runtime，也就是说支持主流的NVIDIA、Intel、AMD三大平台。

在运行测试时，对本地主机的显存有不同要求：SD1.5至少配有8GB容量的独显、或至少需要32GB RAM；SDXL至少配有10GB容量的独显、或至少16GB VRAM。

我们要测试的就是基于SD1.5（FP16）的AI Image Generation Benchmark，在这个测试过程中会创建16幅512×512分辨率的图像，每批次4幅。

在TensorRT加持下，Stable Diffusion 1.5的UNET（神经网络架构）速度达到了21.8it/s，总体生成速度4.8秒/一张图像。