2019年09月25日
近日,西交利物浦大学电气与电子工程系研究团队参加了第十届脑启发认知系统国际会议(International Conference on Brain-Inspired Cognitive System, BICS)。黄开竹教授获最佳论文奖,博士生杨关禹获最佳学生论文奖。
会议上,黄开竹教授以“利用对抗样本的鲁棒机器学习:理论与应用(Harness Explainable Adversarial Examples for Robust Machine Learning: Theory and Applications)”为题,就深度学习领域中的对抗样本发表了主旨演讲。
黄教授介绍说:“当前深度神经网络容易受到对抗样本的影响,这使得大多数深度学习模型在面对对抗样本时分类效果较差。”他提出了一个利用对抗样本来进行鲁棒机器学习的通用学习模型。
鲁棒是robust的音译,也就是健壮、强壮、坚定、粗野的意思。鲁棒性(robustness)就是系统的健壮性,是指控制系统在一定(结构,大小)的参数摄动下,维持某些性能的特性,是在异常和危险情况下系统生存的关键。比如说,计算机软件在输入错误、磁盘故障、网络过载或有意攻击情况下,能否不死机、不崩溃,就是该软件的鲁棒性。
通过理论分析和实际实验证明,黄教授提出的模型对各种针对机器学习的扰动较为鲁棒。黄教授指出,将该模型应用于深度学习网络中后,网络的识别性能可以得到显著提高。
博士生杨关禹(下图左)的论文题目为《用于粗粒度零样本分类的自注意深度嵌入模型 (Self-Focus Deep Embedding Model for Zero-Shot Classification)》。在黄开竹教授的指导下,该研究通过在神经网络编码器结构中构建一层仅应用于训练过程的自注意神经网络模块,使其基于各已知类别的信息来学习目标空间中各维度的重要程度,从而在模型训练过程中将类别层面过拟合部分集中到该自注意模块上,最终使模型在测试过程中更具鲁棒性,并提高未见过类别的分类准确度。
获得会议最佳论文奖的论文题目为《长短期记忆注意力模型 (Long Short-Term Attention)》,由黄教授和中国海洋大学仲国强教授合作完成。该研究从生物启发角度,提出了机器学习尤其是深度学习模型的注意力机制也需要考虑长期记忆和短期记忆的不同,获得评奖委员会的一致认可。
本次脑启发认知系统国际会议在中国广东举行,中科院院士谭铁牛教授,澳大利亚科技工程院院士、国际自动控制学会主席David Feng教授等来自世界各地的知名学者出席了此次会议。该会议所收录的论文大多关注机器学习领域和脑认知等相关领域,将会发表在EI检索的Springer LNAI丛书之中。
(图文提供:电气与电子工程系 编辑:胡秋辰)
2019年09月25日