正文内容 评论(0)

14MB内存跑起Gemma3!打印机一分钟一个token
2026-11-20 10:42:19  出处:快科技 作者:知微 编辑:知微     评论(0)点击可以复制本篇文章的标题和链接复制对文章内容进行纠错纠错

快科技11月20日消息,Google DeepMind工程师Omar Sanseviero在社交平台上展示了一次实验,他把270M参数的Gemma模型塞进一台办公激光打印机里跑了起来。整个过程没有改打印机固件,也没有外接计算板。

打印机里的算力一直被认为不够用,这次的做法是把推理编译成一份PostScript打印文件,交给打印机自带的解释器执行,模型就在机器内部完成计算。

14MB内存跑起Gemma3!打印机一分钟一个token

搭档是一个叫Carbon的轻量推理引擎,它把模型压到打印机能承受的体量。为了不把内存撑爆,实验用了动态层流式加载,让模型的不同层轮流进出内存。

代价是速度,原帖给出的峰值内存占用是14MB,生成速度大约一分钟一个token,一句短回答就得等上几分钟。

实验输入的提示语是Read the fine,打印机最后在纸上印出Read the fine print。答案只有三个词,确实是打印机算完再打出来的。

14MB内存跑起Gemma3!打印机一分钟一个token

这台设备是理光的办公激光打印机,跑的是打印机里最平常的PostScript页面描述语言。Sanseviero自己也说得很克制,这更像一次把硬件推到极限的测试,离能干活还远。

14MB内存跑起Gemma3!打印机一分钟一个token

【本文结束】如需转载请务必注明出处:快科技

责任编辑:知微

文章内容举报

  • 支持打赏
  • 支持0人

  • 反对

  • 打赏

文章价值打分

当前文章打分0 分,共有0人打分
  • 分享好友:
  • |

  • 热门文章
  • 换一波

  • 好物推荐
  • 换一波

  • 关注我们

  • 微博

    微博:快科技官方

    快科技官方微博
  • 今日头条

    今日头条:快科技

    带来硬件软件、手机数码最快资讯!
  • 抖音

    抖音:kkjcn

    科技快讯、手机开箱、产品体验、应用推荐...
 <%Response.Write("ZZMARK14098")%>