近期，2015级“致远荣誉计划”本科生项冲（工科方向）以第一作者身份撰写的论文“Generating 3D Adversarial Point Clouds”被IEEE Conference on Computer Vision and Pattern Recognition（CVPR）接收。该论文是第一篇研究三维点云数据的对抗性样本生成算法的论文，填补了对抗性机器学习在三维视觉上的研究空白。CVPR是IEEE一年一度的学术性会议，主要内容是计算机视觉与模式识别技术。作为世界三大计算机视觉方面的顶级会议之一，今年CVPR共收到了5165篇投稿论文，最终接收了1299篇，接受率为25.2%。

项冲于2018年申请加入“致远学者研究计划”，在上海交通大学电子信息与电气工程学院计算机系朱浩瑾教授与美国伊利诺伊大学厄巴纳-香槟分校李博教授联合指导下，以“对抗深度学习及其物联网安全应用”为题，开展相关科学研究工作。

随着机器学习的发展，深度学习相关的算法模型逐渐在各个领域（如自动驾驶、人脸识别、医疗诊断）得到运用。然而以神经网络为代表的机器学习模型逐渐被发现存在一些安全问题。恶意攻击者通过制造一些与正常数据非常相近的对抗性样本使得机器学习模型以非常高的置信度进行错误地分类，从而影响相关计算机系统的安全性。例如自动驾驶汽车的感知系统（如相机、雷达等）被恶意攻击后，对环境可能产生错误判断，从而发生交通事故。为了研究这一安全问题，项冲以自动驾驶中常用的LiDAR传感器所收集的点云数据为研究对象，通过计算机模拟来研究点云数据的对抗性样本的生成算法，进而探讨基于LiDAR传感器的感知系统的鲁棒性。论文研究的算法在ModelNet40数据集上检验可行性后发现，在各种不同的攻击场景下该算法均取得99%以上的成功率。

在项目研究的过程中，项冲与导师充分讨论后确定了攻击场景、攻击结果评价标准以及可能的攻击算法，并在暑期科研实习期间完成了对十余种可能算法的实验模拟与验证。除了该论文，在“致远学者项目”的支持下，项冲另一篇一作论文“AppClassifier: Automated App Inference on Encrypted Traffic via Meta Data Analysis”（论文链接：https://ieeexplore.ieee.org/document/8647508/） 已于2018年12月份在GLOBECOM 2018发表。该项目小组专注于研究深度学习的隐私保护、基于生成对抗网络的网络流量分析与隐藏等前沿课题。项目组成员闫璐（2016级致远荣誉计划工科方向）参与发表的论文“Dynamic Traffic Feature Camouflaging via Generative Adversarial Networks”于2019年3月被IEEE CNS 2019接收。  

该项目顾问导师朱浩瑾教授主要研究领域为移动网络安全与隐私保护。近日，朱浩瑾团队联合申报的《云安全的关键理论与方法研究》项目获得2018年度高等学校科学研究优秀成果奖自然科学一等奖。朱浩瑾的研究工作曾入选“2014年中国百篇最具影响国际学术论文”；他本人于2016年入选“长江学者奖励计划”青年学者项目，2017年入选日本学术振兴会JSPS Fellowship。2018年，他志愿加入“致远学者研究计划”，带领致远学子追求科学梦想。

论文链接：https://arxiv.org/abs/1809.07016

供稿人：项冲、李敏