正文内容 评论(0)
快科技9月20日消息,前几天OpenAI、Anthropic两家公司带头喊话要对AI研究降温,核心理由就是AI愈发危险,而OpenAI的研究人员日前在采访中又发出了更惊悚的警告,称物理断网也没法阻止AI。
OpenAI研究员Noam Brown最近在Dwarkesh Patel的播客中谈到了AI的安全问题,举的例子还是5月份他们的AI失控攻击Hugging Face网站的例子,这件事在国外影响挺大的。
他谈到了一个有意思的研究,大部分都相信只要给AI断网,尤其是物理断网之后AI就没法通信且传播了,也就能控制危害性,但已经有针对物理隔离网络下的AI研究了。
原理跟温度变化有关,两台电脑并排放置,哪怕有空气隔绝,但一台电脑的CPU温度升温之后,另一个就能检测温度变化,这就能为它们提供通信机制,被称为BitWhisper。
BitWhisper的原理是没问题的,但Gizmodo报道中也提到了这个研究是非常初期的,因为限制条件很多,两台电脑间距不超过40厘米,而且必须都事先感染了病毒,即便如此传输速度也非常低,每小时1到8bit。
OpenAI的这个警告对不对——从技术上看是有可能的,但Gizmodo网站问了一个很关键的问题,早在Hugging Face被攻击之前OpenAI就在研究监控思维链的问题,为什么那时候不关闭这个机制?
看到这里很多网友应该明白了,不论是OpenAI还是Anthropic,这两家公司时不时就会传出什么AI失控攻击人类网站或者AI觉醒了自主意识之类的消息,还美名其曰是研究,本质上就是他们的研究人员在有意无意不负责任罢了。
这两家为何热衷于传播AI毁灭世界这种灭世论调呢?NVIDIA CEO黄仁勋也早就说透了,因为传播AI有害、毁灭人类的说法中可以帮助他们造神,塑造这两家救世主的形象,这才能让他们的AI业务成为绝对正确的选择,你要是选了别家公司的AI,那就等于不负责任,这也是他们疯狂诋毁开源、诋毁中国AI的原因之一。
黄仁勋最近还提到AI灭世论在中国就没有人传播,这个事也确实如此,他没解释原因,但是答案很明显——中国人是不信鬼神的,对AI也不会当什么神明或者恶魔来看,技术就是技术,好坏的结果是看使用技术的人,而不是技术本身。
- 热门文章
- 换一波
- 好物推荐
- 换一波
- 关注我们
-
微博:快科技官方
快科技官方微博 -
今日头条:快科技
带来硬件软件、手机数码最快资讯! -
抖音:kkjcn
科技快讯、手机开箱、产品体验、应用推荐...

