当前,生成式人工智能(AI)正以惊人的创造力和应用潜力在全球范围内掀起一场革命。在中国,各行各业都在思考如何利用生成式AI技术实现自身行业的自动化和高质量、高效率发展。然而,正如光明与阴影相伴,生成式AI的进一步发展也让网络攻击的潜力达到前所未有的水平。

Jumio发布的《2023年在线身份研究》验证了这一点,67%的消费者意识到这类生成式AI工具可以制作捏造的内容,包括视频、图像和音频等,将会为身份欺诈带来更大风险。假冒诈骗已经成为一个全球性问题,其影响深远且代价巨大。仅在 2022 年,冒名欺诈就给英国消费者造成了 1.07 亿英镑的损失,给美国消费者造成了 26 亿美元的损失,给新加坡造成了 1.01 亿新元的损失。在中国也有真实的案例发生,去年6月在内蒙古包头,骗子通过AI换脸和拟声技术佯装好友实施诈骗,导致被害人10分钟内被骗走430万元。

为什么生成式AI会带来如此大的欺诈风险?

生成式AI工具如果被欺诈团伙所利用,将为个人和企业带来严重的安全威胁。以网络钓鱼电子邮件为例。以前,大家经过仔细观察一般很容易发现钓鱼邮件的异常之处,因为它们充满了错别字和语病。而借助生成式AI工具,欺诈者可以轻松起草一封精美的专业电子邮件,从而更难识别为冒名顶替。

再比如,机器人现在能够在社交媒体上开设账户,并使用生成式AI撰写看起来很可靠的消息。如果这一消息被自动化地传播出去,虚假信息的规模将达到前所未有的水平,用户将很难辨别真实信息和虚假信息。生成式AI也被欺诈者滥用于制造逼真的深度伪造内容。估计市场上有 50 多种工具可以让人在 10 到 15 分钟内就制作出一份深度伪造内容。今年2月份,有媒体报道称,诈骗团伙利用深伪技术在视频会议中冒充企业高管,导致一家大型跨国公司香港分公司的财务人员被骗取高达2,500万美金。

对于企业而言,以金融行业为例,尽管很多企业已经意识到KYC(了解您的客户)流程的重要性并开始部署,但在生成式AI的挑战下,这一流程正面临着前所未有的考验。例如,诈骗团伙利用生成式AI技术伪造身份证件和护照,通过线上银行进行诈骗活动,往往造成巨大的经济损失。

应对之策在于永远保持领先于欺诈技术

面对生成式AI带来的欺诈风险,我们必须以AI对抗AI驱动的欺诈,保持永远领先于欺诈技术。例如,AI可用于检测篡改迹象,如文字和照片篡改。采用基于面部的生物识别技术和先进的活体检测技术,可以检测到复杂的欺骗攻击,如人脸互换和人脸变形等。

事实上,越来越多的企业正在利用基于AI的生物识别和活体检测技术来加固其欺诈预防系统。Jumio 数字身份调查表明,由于生成式AI的兴起和深伪图像的出现,54% 的全球受访者认为面部识别技术在身份验证方面将发挥更大价值。

对于金融行业来说,在拥有强大的eKYC流程之外,结合生物识别认证技术将有助于增强安全性。此外,在注册过程中加上被动风险信号可提供更多一层保障。例如,验证用户的个人身份信息 (PII)、验证年龄、评估用户电子邮件和电话号码的信用级别、通过 IP 地址验证用户的位置,评估设备的可信度以评估用户的风险等级。拥有高度准确和主动化的身份验证解决方案,将有助于实时拦截可疑交易并迅速采取适当的行动。对于出海企业来说,还需要考虑不同国家和地区的客户尽调标准和跨境支付工作流程。

基于生物识别的身份验证变得更加重要

作为全球生物识别和身份验证解决方案的领导者,Jumio以创新的生物识别、活体检测、欺诈分析等技术,提供了一种有效的以AI对抗AI的策略。Jumio的流程简洁而高效,用户只需拍摄身份证照片,然后自拍,系统便会迅速完成身份验证。在这一过程中,Jumio运用AI技术进行实时分析,不仅验证身份证的真实性,还确保了验证过程的真实性。

在区分机器生成和人类交互越来越具有挑战性的环境中,基于生物识别的身份验证变得更加重要。Jumio将继续致力于推动身份验证技术的进步,确保在AI时代,安全、便捷的身份验证不再是奢侈品,而是每一笔交易的标准配置。

关于Jumio

Jumio帮助企业了解并信赖其在线客户。从开设账户到持续监控,Jumio平台提供先进的身份验证、风险评估和合规解决方案,帮助企业准确建立、保持和恢复信任。

Jumio利用自动化、生物识别、人工智能/机器学习、活体检测和无代码编排等强大技术,结合数百个数据源,帮助企业有效打击欺诈行为和金融犯罪,确保真实客户能够快速完成登录,并满足包括KYC和AML在内的各项监管合规要求。Jumio已在全球范围内处理了超过10亿笔身份验证的交易,业务覆盖200多个国家和地区。

总部位于美国加利福尼亚州的森尼维尔,Jumio在全球范围内运营,在北美、拉丁美洲、欧洲、亚太地区和中东均设有办事处和代表处,公司因其创新性解决方案多次获得奖项认可。Jumio得到了Centana Growth Partners、Great Hill Partners和Millennium Technology Value Partners等多家投资机构的支持。