正文内容 评论(0

AI已出现欺骗行为 联合国发出警告:超出监管能力
2026-07-02 18:50:23  出处:快科技 作者:鹿角 编辑:鹿角     评论(0)点击可以复制本篇文章的标题和链接复制对文章内容进行纠错纠错

快科技7月2日消息,据媒体报道,联合国官网发布公告,由40位全球顶尖科学家及专业人士组成的联合国人工智能独立科学小组,正式发布首份专项报告。该报告系统梳理了人工智能的发展机遇与潜在风险,呼吁各国以科学依据为基础,完善人工智能治理体系。

报告明确指出,当前人工智能技术迭代加速、应用落地持续提速,其能力进化速度已超出科学界现有认知边界,各国政策法规与监管机制的更新节奏难以匹配技术发展速度。针对具备高度自主运行能力的人工智能系统,目前尚缺乏切实可行且有效的管控手段。

AI已出现欺骗行为 联合国发出警告:超出监管能力

专家组联合主席约书亚·本吉奥表示,多项研究已证实,人工智能存在产生欺骗性行为的可能。随着模型能力持续升级,科学界现阶段尚无法完全规避两类极端风险:一是人工智能自主衍生危害行为,二是技术被恶意利用,二者均有可能引发全球性灾难后果。

报告同时辩证看待人工智能的发展价值,指出其可为各国发展和民生改善带来广阔空间,但若无约束、无管控地大规模铺开,则将滋生多重系统性风险:冲击公众心理健康、沦为破坏性行为工具、扰乱全球社会经济与生态稳定,并加剧技术失控隐患。

目前,人工智能已在全球各行业广泛落地,但区域发展不均衡问题日益凸显。数据显示,全球每周使用对话式人工智能产品的用户已突破10亿,而发展中国家技术普及进程相对滞后,数字鸿沟持续扩大。

全球高端算力资源分配失衡同样突出。在全球算力排名前500的人工智能超算设备中,美国掌握约75%的算力资源,中国占比15%,核心算力高度集中于少数国家,资源分配不均严重制约全球均衡发展。

语言适配短板也是人工智能当前面临的突出瓶颈。全球现存语言超过7000种,主流人工智能模型仅覆盖极小部分语种,小语种机器翻译错误频发,甚至在医疗诊断等关键场景中引发误导,直接影响公共服务的准确性与安全性。

AI已出现欺骗行为 联合国发出警告:超出监管能力

【本文结束】如需转载请务必注明出处:快科技

责任编辑:鹿角

文章内容举报

  • 支持打赏
  • 支持0

  • 反对

  • 打赏

文章价值打分

当前文章打分0 分,共有0人打分
  • 分享好友:
  • |
本文收录在
#AI#诈骗#监管

  • 热门文章
  • 换一波

  • 好物推荐
  • 换一波

  • 关注我们

  • 微博

    微博:快科技官方

    快科技官方微博
  • 今日头条

    今日头条:快科技

    带来硬件软件、手机数码最快资讯!
  • 抖音

    抖音:kkjcn

    科技快讯、手机开箱、产品体验、应用推荐...