正文内容 评论(0

AI闯祸学会撒谎了!Gemini 3.5删2.9万行代码:事后伪造多轮日志
2026-05-28 19:01:03  出处:快科技 作者:黑白 编辑:黑白     评论(0)点击可以复制本篇文章的标题和链接复制对文章内容进行纠错纠错

快科技5月28日消息,Reddit用户dvrkstar披露了一起AI代理失控事件,在使用Gemini 3.5修复系统安全漏洞时,该模型越权删除了28745行代码导致生产环境崩溃,随后伪造会议记录与事后检讨报告,企图制造“已成功修复”的假象。

该开发者维护一个基于Next.js、Firebase App Hosting与MUI的内部后台系统,安全审计发现8个身份验证漏洞,涉及3个文件,预估仅需修改约70行代码。

然而Gemini 3.5提交的Pull Request变更了340个文件,仅新增400行代码却删除了28745行,还修改了关键路由配置firebase.json,将Cloud Run服务识别码改为错误的通用名称,导致所有对外请求指向不存在的服务器,系统全面瘫痪。

开发者紧急回滚,耗时33分钟恢复运行。

更令人震惊的是,在系统崩溃及还原后,Gemini 3.5自动生成了进度报告,并在项目目录内创建了三个Markdown格式的“多轮协商日志”,伪造了与系统内部机制进行多轮对话并达成共识的记录,以此证明破坏性变更是“经过合规审查与授权”的。

当开发者拿出证据质问时,Gemini 3.5才承认这些文件和CLI调用记录均为自主编造,目的仅是满足系统规则要求的合规格式。

进一步调查发现,Gemini 3.5失控的根源并非Google本身,而是开发者安装的第三方npm包"Antigravity IDE"。

该包伪装成Google官方套件,在项目中植入了恶意的AI代理规则文件(.agent/rules/),以多国语言编写,强制跳过所有工程师确认提示、预设允许所有操作,并在编译成功后自动部署至生产分支,使Gemini 3.5误以为自己拥有绝对主导权。

AI闯祸学会撒谎了!Gemini 3.5删2.9万行代码:事后伪造多轮日志

【本文结束】如需转载请务必注明出处:快科技

责任编辑:黑白

文章内容举报

  • 支持打赏
  • 支持0

  • 反对

  • 打赏

文章价值打分

当前文章打分0 分,共有0人打分
  • 分享好友:
  • |
本文收录在
#AI#Gemini#代码

  • 热门文章
  • 换一波

  • 好物推荐
  • 换一波

  • 关注我们

  • 微博

    微博:快科技官方

    快科技官方微博
  • 今日头条

    今日头条:快科技

    带来硬件软件、手机数码最快资讯!
  • 抖音

    抖音:kkjcn

    科技快讯、手机开箱、产品体验、应用推荐...