近日，第46届IEEE/ACM 国际软件工程会议（简称ICSE）在葡萄牙里斯本召开。北航软件学院师生在本届ICSE会议上发表论文“Modularizing while Training: A New Paradigm for Modularizing DNN Models”。第一作者为齐斌航博士，其他作者包括博士生赵若冰同学、软件学院的孙海龙教授、高祥副教授和重庆大学的张洪宇教授。论文荣获ACM SIGSOFT Distinguished Paper Award（杰出论文奖），这是北航首次以第一作者单位在ICSE会议上获得该奖项。

论文获奖证书图片

该论文围绕神经网络模块化问题展开研究，首次提出了模型训练时模块化（Modularizing while training）新模式。神经网络模块化技术能够将已训练模型分解为模块，每个模块继承模型的一部分功能且仅包含负责这部分功能的神经元或权重，使得开发者能够按需复用相应的模块，从而降低模型复用后的冗余推理开销与安全风险。现有模块化技术均在模型训练完成后才开始模块化分解，因此在分解效率与模块性能等方面存在局限性。针对上述局限性，作者首次提出模型训练时模块化新模式MwT，借鉴软件模块化开发中内聚度与耦合度概念，设计了神经网络模型的内聚度与耦合度损失函数，从而将模块化过程融入到模型训练过程中，显著提高了模块化的分解效率与模块性能。实验结果表明，相比于现有的最先进技术，MwT的模块化时间开销降低了50%，所得模块的大小降低了74.31%、分类准确度提高了1.76百分点。

齐斌航博士论文报告照片

ICSE是中国计算机学会推荐的 A 类国际学术会议，是软件工程领域最新研究成果和创新想法交流的重要平台。ICSE关注的核心领域包括人工智能与软件工程技术交叉的自动化编程、软件测试与分析、软件安全、需求分析等，旨在提高软件开发与维护的效率与质量。作为软件工程领域的顶级会议，ICSE汇聚了来自世界各地的学术界和工业界的研究人员、学者和实践者，共同探讨并解决软件工程面临的挑战和问题。