正文内容 评论(0

NVIDIA推出安全“护栏”:限制人工智能“一本正经的胡扯”
2023-04-26 10:40:22  出处:快科技 作者:乃河 编辑:乃河     评论(0)点击可以复制本篇文章的标题和链接

快科技4月26日消息,随着ChatGPT等生成式人工智能的出现,越来越多的用户在享受便利的同时发现,AI经常会出现“一本正经的胡扯”的现象,有时甚至会有一些让人细思极恐的发言。

近日,NVIDIA推出了一款名为NeMo Guardrails的软件,它能够为人工智能模型设置安全“护栏”,避免AI输出一些不良的内容。

据悉,NeMo Guardrails的本质是一个位于用户和模型之间的软件层,它能够在模型输出不良内容前进行拦截和修改。

比如,如果用户需要一个针对特定方向的AI,就可以利用该软件,来限制AI至输出对应方面的内容,而不谈论不相关的话题。

此外,该软件还能够利用一个AI模型检测另一个AI模型,如果两个模型输出的答案不一致,软件将直接输出“我不知道”的回答。

通过这种方式,人工智能“胡说八道”的情况会得到有效降低,一些可能存在危险的回复也能够被直接拦截。

NVIDIA推出安全“护栏”:限制人工智能“一本正经的胡扯”

【本文结束】如需转载请务必注明出处:快科技

责任编辑:乃河

  • 支持打赏
  • 支持0

  • 反对

  • 打赏

文章价值打分

当前文章打分0 分,共有0人打分
  • 分享好友:
  • |
本文收录在
#AI#人工智能#NVIDIA

  • 热门文章
  • 换一波

  • 好物推荐
  • 换一波

  • 关注我们

  • 微博

    微博:快科技官方

    快科技官方微博
  • 今日头条

    今日头条:快科技

    带来硬件软件、手机数码最快资讯!
  • 抖音

    抖音:kkjcn

    科技快讯、手机开箱、产品体验、应用推荐...