6月14日下午,学院邀请北京大学孙猛教授为我院师生作主题为《深度学习系统的可信性保障》的学术报告,报告会由学院执行院长韩道军教授主持。报告会在学院201会议室举行,学院教师和研究生参加了本次报告会。
报告会上,孙猛以深度学习系统的安全性、鲁棒性保障相关问题为引,介绍了近期深度神经网络的语义鲁棒性验证和估计工作进展。相关研究工作在语义扰动和局部棒性的形式化基础上,通过引入一种基于统计的方法,验证了神经网络对于一般语义扰动的局部鲁棒性。报告会还从统计模型检验的角度介绍了DNN局部鲁棒性和全局鲁棒性的估计算法,并对主流统计模型检验工具中使用的0kamoto bound估计方法改进思路进行了介绍。
专家简介:孙猛,北京大学数学科学学院信息与计算科学系副主任,教授,博士生导师,CCF形式化方法专委执行委员,CCF区块链专委执行委员,CSIAM区块链专委常务委员CSIAM金融科技与算法专委常务委员,CAAI人工智能逻辑专委委员。主要研究领域包括程序理论、软件形式化方法、信息物理系统、深度学习、区块链与智能合约,主持及作为主要成员参与国家自然科学基金、重点研发计划等国家及省部级项目十余项,在IEEETSE、ICSE、ESEC/FSE、AAAI、FM等期刊及会议发表论文百余篇,获TASE2015、SBMF2017等国际会议最佳论文奖,任FACS2009、TTSS2011、ICFEM2018、TASE2023.FACS2024、ICFEM2024等国际会议程序委员会主席,FM、TACAS、ICECCS等多个国际会议程序委员会委员。