人工智能产生革命性变化须克服诸多困难

时间:2020-12-07 10:59:42 来源: 中国新闻网


5日,在阿里安全与清华大学联合举办的AI与安全研讨会上,阿里巴巴集团首席风险官郑俊芳判断,安全成为数字经济时代的新基建,安全基建又必须靠AI(人工智能)来实现。

AI面临算法安全问题

中国科学院院士、清华大学人工智能研究院院长张钹认为,人工智能将先在交通、医疗、金融、智能制造等领域产生革命性的变化。从长远来看,AI会根本性改变这些领域,从现实来看,还有许多困难要克服。

现在,已有厂商在国内部分地区试点自动驾驶出租车服务,不过整体来看,现在所有的自动驾驶产品或者即将上市的产品都处于L4级以下。

西安交通大学人工智能与机器人研究所教授薛建儒认为,无人驾驶的安全可信面临的挑战性在于,无人驾驶面临动态决策,它固有的复杂性、不确定性和歧义性都是一些开放式问题。

薛建儒说,“当前我们的无人驾驶在应对复杂场景和人类驾驶员相比在适应性上存在很大差距。在如何引入人类的驾驶知识,把人类的直觉推理和演绎推理这样的认知机理放到驾驶模型里,提高当前模型表征能力,我们还有所欠缺。”

张钹表示,AI面临着算法安全的根本原因在于,神经网络只是进行函数映射,缺乏对任务的理解,算法的鲁棒性(Robust的音译,指在异常和危险情况下系统生存的能力)差,具体表现在“一是测试集的鲁棒性差,当测试集和训练数据有差别,推广能力就会变差。二是对噪声的鲁棒性很差,导致AI算法容易被滥用、攻击、误用。”

安全能力提升需开放合作

正如郑俊芳所说,安全基建必须靠AI来实现,安全的AI正在给多个领域带来变化。

清华大学计算机系副主任朱文武介绍了其在多媒体与AI上的研究,希望人工智能给多媒体提供研究的新思想和范式,比如原来的语义处理通过特征提取进行分析,语义学习给多媒体提供了语义和多模态信息,这能帮助机器学习做得更好。多媒体和AI呈互相促进,互相帮助、互相指导的态势发展。

据阿里安全资深算法专家薛晖介绍,近五年来,阿里每万笔交易的一次侵权商品量下降将近三分之二;近三年来,阿里平台通过输出线索协助公安打击线下制售假窝点,拘捕嫌疑人近万名,累计涉案金额超过200亿元。

这两个数字背后,是阿里建立的一套基于人工智能的复杂电商环境治理体系在发挥巨大作用。算法专家不仅要保障上述体系的两大能力高速发挥其作用,还要十分关注电商关键节点模型自身的安全性,以保证模型不会出现漏洞,不被黑产所利用,保证模型的鲁棒性。

郑俊芳称,阿里在安全领域投入非常大,技术人员在安全团队中占比超过50%。“这几年我们和顶级的团队在不同领域进行合作,合作背后就是因为我们遇到了很多挑战,所以说,安全必须要靠坚定的投入和更开放的合作,才能解决今天面临的复杂挑战。”(张旭)


关于我们 加入我们 广告服务 网站地图

All Rights Reserved, Copyright 2004-2020 www.ctocio.com.cn

如有意见请与我们联系 邮箱:5 53 13 8 [email protected]

豫ICP备20005723号-1    IT专家网 版权所有 

营业执照