速看！阿里清华等一手安全技术信息

最近，#AI绘画有多离谱#的相关话题火上热搜，比如明明是欢喜的结婚照，被 AI 绘画软件加工后，新郎被“挂”在墙上，剩下新娘一人；少女和狗的合影中，作为主角的少女被AI绘画理解成了“狗”。看上去，AI绘画软件的“理解力翻车”是源于高维数据合成任务十分复杂，导致生成结果不可控，出现了各种搞笑的错误。但是，在医疗、自动驾驶等多种领域的“AI翻车”会产生严重的问题，比如误诊耽误治疗、高速行驶的自动驾驶车辆识别错误引发交通事故。

如何从底层构建更稳定的AI，避免AI大翻车？11月30日下午，7位来自阿里巴巴、清华大学、上海交大等公司和高校的90后和00后研究者分享了他们在对抗学习、贝叶斯深度学习、异常检测、鲁棒评估、噪声学习、鲁棒动态图学习、偏微分方程求解等方向上发表的研究成果，共同探讨如何打造更加安全可靠的智能技术，这些研究成果均被AI顶会NeurIPS收录。

毛潇锋是阿里巴巴人工智能治理与可持续发展研究中心（AAIG）的一名算法工程师。进入阿里以来，他最重要的工作就是研究如何通过对抗训练来增强AI的鲁棒性，这些研究能力被应用在非常接地气的直播和图片内容审核中。在实际应用中，直播摄像头的光线变化、主播对商品的快速晃动等因素都会对抗AI对违规商品的识别，如果AI识别的稳定性难以保障，漏过违规商品，最终受损的还是消费者。

《利用离散对抗训练增强视觉表征》是毛潇锋的分享议题。“如果把图片拆成一个个像素，对某个或者多个像素点进行修改，往往可能引起AI无法识别，我所做的工作就是对AI进行对抗训练，让它不纠结于少量不引起图片本质内容的像素级别的改变，AI模型依然认出这张图片表达的含义。”毛潇锋解释道：“就像我今天戴了眼镜，但这并不妨碍我还是我。”他认为，将这种能力用于平台风控后，能更好地守护消费者的安全。

董胤蓬是清华大学计算机系的一名95后博士后研究员，已发表30多篇顶级国际期刊和会议论文，主要专注于深度学习鲁棒性的研究。他本次的分享集中在3D世界的视角变化对AI视觉识别产生的影响。董胤蓬举例：“这项研究与自动驾驶场景密切相关，如果前车车辆发生车祸，自动驾驶车辆可能以非常不正常的视角拍摄了图片或视频，从而影响识别和判断，我关心的是，在3D空间里，如果拍摄视角或者其他视觉条件出现变化，AI是否能正确识别，从而避免车祸发生。”

“希望通过研究分享，让大家关注真实世界的安全性问题。我想知道，AI 用它的‘眼睛’看世界时，是否处于非常稳定和精准的状态。” 董胤蓬强调道。

00后的刘松铭是清华大学的在读本科生。在他的研究中，他试图利用物理信息机器学习方法解决结构优化等广义上的“安全”问题。

刘松铭选取了燃料电池组、飞机机翼等场景介绍：“假如我们要建模一个安全稳定可靠的电池，需要模拟电池的动态，比如它的温度或电流分布，这是一个物理问题，但我想用数学的办法探索，然后通过神经网络求解。”他希望用“AI”探索广义的科学问题，包括解决至关重要的安全问题，让AI研究者从交叉学科中找寻思路。

在这场AI安全的主题分享中，众多年轻的AI研究者从别出心裁的角度探索了如何构建更安全可靠的智能技术，而这场研究分享背后，是主办方阿里巴巴和清华大学试图探讨如何打造负责任的好科技。

今年阿里巴巴集团科技伦理治理委员会正式成立，提出“以人为本、普惠正直、安全可靠、隐私保护、可信可控、开放共治”六项伦理准则，着手风险能力建设和技术能力建设，重点关注技术的安全性、公平性、可解释、鲁棒性、可干预性。

除了涉及AI鲁棒性的研究，阿里还有关于隐私保护的研究被数据库领域三大顶级会议之一的VLDB 2023收录，文章提出了更高效的联邦梯度来提升决策树训练，在隐私保护和模型准确性之间取得了更好的平衡。

阿里巴巴集团科技伦理治理委员会执行主席、AAIG主任薛晖表示：“这些研究者的探索最后会反哺于实际应用，帮助集团和社会建设负责任的好科技。对安全可靠的重视和关注是也是企业社会责任感的重要体现。我很高兴，越来越多的年轻研究者们不断投身于此，一起促进人工智能技术的健康发展。”

图说：科技伦理治理研究分享会议程

﹀

球分享

球点赞

球在看