快科技4月21日消息，据GiggleHD实际测试，AMD X3D处理器在RAG（检索增强生成）AI基准测试中展现出远超预期的性能表现，最高领先非X3D芯片达88%。

RAG AI通过外部向量数据库检索信息来增强大模型的回答质量，与纯LLM推理不同，向量搜索的大量计算负载落在CPU而非GPU上。

随着Agentic AI工作负载的推进，搜索驱动的任务流越来越多，CPU的延迟瓶颈问题日益突出。

HNSW（分层可导航小世界）搜索算法就是典型例子，在GPU执行LLM推理的同时，CPU负责图检索，更大的缓存意味着更短的检索时间。

GiggleHD使用开源的X3D RAG基准测试，针对个人PC和小团队单节点场景（约100K-200K向量），对AMD锐龙9000X3D系列及多款非X3D芯片进行了实测。

结果显示，在100K向量批量搜索中，X3D CPU最高比非X3D芯片快88%；在200K向量测试中，同为8核的锐龙7 9850X3D比锐龙7 9700X快50%以上，且8核X3D芯片的速度超过了16核的锐龙9 9950X。

索引构建方面，100K向量测试时间缩短50%，200K向量缩短39%，并发RAG吞吐量同样由X3D芯片领跑。

差距较小的项目是TTFT（首Token时间）吞吐量，因为该任务主要依赖GPU而非CPU。