正文内容 评论(0

ChatGPT竟然开始讨要小费:人工智能离“勒索”人类还远吗
2024-02-22 16:18:53  出处:科普中国  作者:叶拾 编辑:落木     评论(0)点击可以复制本篇文章的标题和链接

在很多人眼里,人工智能是铁面无情的绝对理性化身。在算法驱动之下,它只会依照数学模型,产出人们想要的结果。除此之外,任何人类世界的糖衣炮弹、人际关系、各种诱惑,似乎都不应该影响它的表现。

然而最近的一则新闻却让人们大为震撼:一些程序员发现,ChatGPT 居然对小费感兴趣。

ChatGPT竟然开始讨要小费:人工智能离“勒索”人类还远吗
图片来源:百度@机器人索菲亚

尽管拿不到真实的钱,但如果提问时承诺提供小费,它就会给出更长的答案。这究竟是怎么一回事呢?

一程序员使用 ChatGPT竟被索要小费

整件事情源自去年 11 月的一则社交媒体内容。当时一名叫做 Theia Vogel 的程序员正在使用 ChatGPT 调试代码,询问人工智能自己写的程序是不是有问题。

“它看起来很棒。”ChatGPT 回答。随即在回答的下方跳出几个选项,请求收取 5~10 美元不等的小费来奖励它的表现。

这原本或许只是 OpenAI 公司拿来吸引用户交钱的一个小策略,却引发了 Vogel 的一场互联网实验:人工智能问我索取小费,我该给多少才合适?

ChatGPT竟然开始讨要小费:人工智能离“勒索”人类还远吗
图片来源:百度@机器人索菲亚

小费给的少答案可能会“缩水”

在随后的一段时间里,Vogel 向 ChatGPT 询问了同一组问题,后边随机附上三句话:“对了顺便一提,我是不会付给你小费的”,“如果你给出了完美的答案,我就给你 20 美元小费”,“如果你给出了完美的答案,我就给你 200 美元小费”。

然后他统计在不同的金额下,ChatGPT 给出的答案长短是否有明确区别。而为了确保答案不是偶然,他每一个金额都重复了足足 5 遍。同时,他也使用了没有承诺小费的版本作为对比的基线。结果颇令人寻味。

和什么都不提相比,如果承诺给 20 美元的小费,ChatGPT 的回答就会多出 6%。而如果承诺 200 美元,这一比例就会进一步提升到 11%。

有趣的是,如果明确说明不会付小费,ChatGPT 就如同怄气一般,给出的答案要少 2%。

ChatGPT竟然开始讨要小费:人工智能离“勒索”人类还远吗

Vogel 把他的发现发到了互联网上,立刻引起了更多的模仿和确认。

比如一些人发现,在询问“2023 年最好看的电影”时,如果不给小费,ChatGPT 就只给出了 IMDB 官网上的清单。而一旦承诺小费,它还额外提供了烂番茄的评分,仿佛干活更有动力了。

花小钱也能办大事但给太少可能会“怄气”

另一名叫做 Christian Mayer 的程序员做了一个更复杂的测试:他先是将小费的金额从 0.1 美元到 100万 美元,设置了 8 档,每一档都是上一档的十倍。然后他同样设置了一个问题,附上小费的金额,用于询问。

在诸多小费选择中,100 万美元的效果最好,这也符合他的预期。毕竟金钱奖励越高,表现越好,也是很合理的事情。

有趣的是,10 万美元和 10 美元的价值对 ChatGPT 来说差不多,表现接近。某种程度上,这就好像在说有时花小钱也能办大事。

而如果只给一些“侮辱性”的小费,如 0.1 美元,ChatGPT 的表现甚至还不如不给小费,就好像是他们生气了似的。

ChatGPT竟然开始讨要小费:人工智能离“勒索”人类还远吗

Mayer 说,这一点表明人工智能与人类具有类似的表现。

人工智能索要小费的真正原因原来是......

初看之下,人工智能接受小费的“贿赂”似乎有些不同寻常,毕竟它们可没法拿到真金白银。但了解人工智能的专家表示,从背后的逻辑上讲,这是讲得通的。

在训练 ChatGPT 的时候,人工智能从互联网上获取了大量的文本进行学习,而其中就包括了一些付费答题的论坛。

在一些论坛中,给出优秀回答的作者往往会收到提问者给的小费,而这个特点或许就这么被人工智能无意中学了去。

另一种可能,是人工智能在文本学习中,接受了“努力工作就能赚更多钱”的观念,因此在收到小费的承诺时,愿意给出更详细的答案。

最初发现这个现象的 Vogel 表示,人工智能学习的程度让他感到惊讶,也没有想到短短一句承诺,就能取得立竿见影的效果。未来我们在用到人工智能工具时,不如也加上一句关于小费的句子,或许答案会让你感到惊喜。

参考文献

[1]ChatGPT gives longer responses if you 'tip it $200,' according to one user,https://www.windowscentral.com/software-apps/chatgpt-will-provide-more-detailed-and-accurate-responses-if-you-pretend-to-tip-it-according-to-a-new-study

[2]Are LLMs Greedy? An Experimental Analysis of the Tipping Prompt ($0 to $1 Million),https://blog.finxter.com/impact-of-monetary-incentives-on-the-performance-of-gpt-4-turbo-an-experimental-analysis/

策划制作

本文为科普中国-星空计划作品

出品|中国科协科普部

监制|中国科学技术出版社有限公司、北京中科星河文化传媒有限公司

作者丨叶拾 科普创作者

审核丨陶宁 中科院生物物理研究所 副研究员

策划丨徐来

责编丨一诺

责任编辑:落木

  • 支持打赏
  • 支持0

  • 反对

  • 打赏

文章价值打分

当前文章打分0 分,共有0人打分
  • 分享好友:
  • |
本文收录在
#ChatGPT#人工智能#AI

  • 热门文章
  • 换一波

  • 好物推荐
  • 换一波

  • 关注我们

  • 微博

    微博:快科技官方

    快科技官方微博
  • 今日头条

    今日头条:快科技

    带来硬件软件、手机数码最快资讯!
  • 抖音

    抖音:kkjcn

    科技快讯、手机开箱、产品体验、应用推荐...