近日，西安交通大学与蚂蚁集团合作落地了国内第一门以“可信AI理论及应用实践”为核心内容的产学合作课程——《对抗性机器学习与人工智能安全》。课程是面向研究生和高年级本科生的专业性课程，共计32学时，3学分，由西安交通大学教授与蚂蚁集团技术专家共同讲授。内容围绕“数据隐私保护”、“鲁棒性（Robustness）”、“可解释性与因果分析”、“公平性”四个部分进行设计，涵盖了可信AI领域中的重要技术理论以及应用实践。

基于理论研究与实践积累，后续蚂蚁集团还将与清华大学、上海交通大学、浙江大学等高校合作定制特色课程；通过参与产学合作教育，支持高校推进可信AI相关人才培养。

西安交通大学&蚂蚁集团可信AI联合课程授课讲师、蚂蚁安全实验室高级算法专家赵智源

可信AI发展依赖人才体系建设

在人工智能被广泛应用的今天，其安全和可信性引发了社会各界的关注，已经成为制约下一阶段人工智能技术快速发展的瓶颈所在。早在2017年，国务院在《新一代人工智能发展规划》中，就将人工智能的安全可信性研究、评估和有效管理作为重点提及。

如何破解人工智能在数据使用、流转过程中的安全性问题？如何增强AI模型的抗打击能力、稳定性？如何破解AI决策过程的“黑盒”，增加人们对于决策结果的信赖度？如何防范因为数据、算法问题造成不公平性？可信AI技术研究，涉及人工智能中包括多方安全计算、智能对抗等多个细分技术域，并且对于技术的综合性应用提出了更高的要求。

课程负责人、西安交通大学网安学院副院长沈超在采访中指出，“真实工业场景中的问题往往是多面和交错的，而高校传统的学科教育则更侧重于某一技术域的体系性和完整性。学生需要真实的场景案例，来帮助建立分析、解决综合性问题的能力。”同时，课程的联合负责人西安交通大学蔺琛皓研究员也强调“可信AI的发展依赖于技术探索，而技术探索则来自于技术人才的培养。”

“及早建立对可信AI的关注和认知，将有助于推动高校参与可信AI技术研究，同时也能为产业培养更加‘接地气’的综合性人才”，本次课程讲师、蚂蚁安全天筭实验室内容算法总监祝慧佳表示。

产学合作培养 可信AI走入高校

公开资料显示，自2015年起投入可信AI相关技术研究，蚂蚁集团在智能风控、隐私保护、智能搜索等多样化的数字服务场景中摸索建立了一整套“可信AI”技术理论及应用体系，在探索技术实践的同时，积极参与和推动各类安全可信标准建设。

国际专利权威机构IPR daily在今年6月发布的《人工智能安全可信关键技术专利报告》中指出，蚂蚁集团旗下的支付宝在该领域专利申请及授权数上均位列全球第一；其基于可信AI技术研发的反欺诈模型，也成为业内首个通过国家金融科技测评中心测评的人工智能算法金融应用，在安全性、性能、可解释性等方面均以高标准通过。

其实不仅蚂蚁，各家互联网大厂和研究机构，也在积极投入可信AI相关技术领域的讨论和研究。

2020年，商汤率先成立了人工治理伦理委员会，从算法、数据以及社会影响三个方面旗下产品线进行伦理审核。2021年，中国信通院与京东探索研究院联合发布《可信人工智能白皮书》，对可信AI技术及行业发展提出建议。同年10月，哥伦比亚大学数据科学研究院主任周以真在权威期刊《ACM通讯》上发表文章《可信人工智能》，介绍「可信AI」的定义与研究意义。

作为学界和工业界研究的热点问题，此次可信AI的前沿技术理论和实践案例走入高校，既是响应国家“产学合作人才培养”的号召、促进人才培养与产业接轨，也为可信AI技术领域的多维发展做出了先行示范作用。