正文内容 评论(0)
五、AI测试和大语言模型:酷睿锐炬Xe核显也能“炼丹”
1、Stable Diffusion
我们也测试了当下最热门的AI制图工具——Stable Diffusion,它是一个基于图像的AI模型,只需要输入一句话,或者几组特定的关键词,就能生成一幅想要的图像。
Stable Diffusion对核显一直不算友好,不过还好Intel通过OpenVINO方案提供了支持,让核显也能进行“炼丹”。
AMD则是通过硬件上专有的AI加速模块实现,很遗憾的是锐龙7 7735H并未搭配,无法使用Radeon 680M核显生成图片。
通过实际测试来看,在同样条件下,未开启OpenVINO前,酷睿锐炬Xe核显生成一张图片大概需要132秒,开启OpenVINO后,只需61秒就可完成,效率提升了116.4%。
我们也测试了CPU渲染,酷睿i7-12650H用时337秒,锐龙7 7735用时427秒。
虽然与独显RTX 4060 Laptop的8秒成绩无法相比,但通过OpenVINO方案加持,至少可以使Stable Diffusion不再依赖独显,让核显也能参与进来,即便是轻薄本用户,也能体验到AI的丰富玩法。
2、大预言模型
为了让本地也能够运行大语言模型,Intel构建了BigDL-LLM库,通过各种各样的大语言模型进行优化和支持,从而让搭载 16GB 内存的Intel酷睿处理器以上的笔记本上,也能运行参数量高达 160 亿的大语言模型。
我们使用的AI 应用是“英特尔大语言模型”Demo应用, 要求它将一篇长大千字的新闻,简炼出重点。
由于文章太长,酷睿i7-12650H的思考的时间话花费97秒,First token的平均生成率为126.56 ms/token。
PS:token是指文本中的一个基本单元,可以是一个单词、一个字、一个子词(subword)、一个标点符号,或者其他可以进行语义处理的最小单元,简单理解,token数字越大它的思考速度越接近真人,生成能力就越好。
同时我们也测试了锐龙7 7735H的First token表现,虽然81秒的思考时间速度要更快一些,但平均生成率为113.81 ms/token,稍显逊色。
3、CrossMark
CrossMark是一款生产力测试工具,通过生产力,创造力,反应能力三个方面进行综合评定,可以反映出电脑的综合性能。
在CrossMark中,酷睿i7-12650H得到了1838的总分,其中生产率为1775、创造性为1952、反应能力为1704。
锐龙7 7735H得到了1711的总分,其中生产率为1680、创造性为1804、反应能力为1540。
在生产率、创造性、反应能力各个测试项目都是酷睿i7-12650H处于领先地位,总分要比锐龙7 7735H快了7.4%。