在阿里巴巴安全与清华大学联合举办的AI与安全研讨会上，阿里巴巴集团首席风险官郑俊芳认为安全已成为数字经济时代的新基础设施，安全基础设施必须通过AI（人工智能）来实现。 AI面临算法安全性问题，中国科学院院士，清华大学人工智能研究所所长张波认为，人工智能将首先在交通，医疗，金融，和智能制造。从长远来看，人工智能将从根本上改变这些领域。从现实的角度来看，仍然有许多困难需要克服。目前，制造商已经在该国某些地区试行了自动驾驶出租车服务，但总体而言，当前所有将要推出的自动驾驶产品或将要推出的产品都低于L4。西安交通大学人工智能与机器人研究所教授薛建儒认为，无人驾驶的安全性和可信度面临的挑战在于无人驾驶面临动态决策的事实。它固有的复杂性，不确定性和模糊性都是开放式的。问题。薛建茹说：“目前，在处理复杂场景时，与人类驾驶员相比，我们的无人驾驶汽车在适应性上有很大的差距。如何引入人类驾驶知识并将人类直觉和演绎推理整合到认知机制中。我们仍然缺乏将其放入驾驶模型中以提高当前模型表示能力的能力。张博表示，人工智能面临算法安全的根本原因是神经网络仅执行功能映射，缺乏任务理解以及算法的鲁棒性。性能不佳（鲁布斯的音译，是指系统在异常和危险条件下生存的能力），具体表现为“首先，测试集的鲁棒性很差。如果测试集和训练数据之间存在差异，则提升能力将变差。正是由于对噪声的鲁棒性差，使得AI算法易于被滥用，攻击和滥用。”安全能力的提高需要开放合作。正如郑俊芳所说，安全基础架构必须由AI实现，并且安全AI已在许多领域中使用。带来改变。清华大学计算机科学系副主任朱文武介绍了他对多媒体和人工智能的研究，希望人工智能将为多媒体研究提供新的思路和范例。例如，通过特征提取来分析原始语义处理，并且语义学习为多媒体提供语义。以及多模式信息，可以帮助机器学习做得更好。多媒体和人工智能正在以相互促进，相互帮助和相互指导的趋势发展。阿里巴巴集团首席风险官郑俊芳在会上讲话。阿里安全高级算法专家薛辉表示，在过去五年中，阿里每10,000笔交易中的侵权商品数量下降了近三分之二。在过去三年中，Ali平台通过输出线索来协助公安部门进行打击。线下生产，销售假窝点近1万名犯罪嫌疑人，涉案金额累计超过200亿元。这两个数字的背后是一个基于人工智能的复杂电子商务环境治理系统，该系统发挥着巨大作用。算法专家不仅必须确保上述系统的两个功能可以高速发挥作用，还必须密切关注电子商务关键节点模型的安全性，以确保该模型不会具有漏洞，不会被黑色产品使用，并确保模型的鲁棒性。性别。郑俊芳说，阿里在安全领域投入了大量资金，技术人员占安全团队的50％以上。在过去的几年中，我们与不同领域的顶尖团队合作。合作背后的原因是我们遇到了许多挑战。因此，安全必须依靠坚定的投资和更开放的合作来解决当今面临的复杂挑战。