科研学术

分享到微信 ×
打开微信“扫一扫”
即可将网页分享至朋友圈
“珠峰班”学生在机器学习顶级会议ICML 2025发表多篇论文
文:王硕,郑洋,张世奇 图:王硕,郑洋 来源:计算机学院 时间:2025-05-09 1165

       近日,2025国际机器学习大会(ICML,International Conference on Machine Learning)官方公布论文收录结果,计算机(网安)学院国家“珠峰计划”拔尖人才实验班本科生撰写的3篇论文被此次会议接收。

       ICML是中国计算机学会CCF推荐的A类国际学术会议,在机器学习领域享有较高学术声誉,这些被录取的最新科研成果涵盖了机器学习领域各项前沿工作。

     2021级本科生郑洋以第一作者撰写的论文《Integrating Intermediate Layer Optimization and Projected Gradient Descent for Solving Inverse Problems with Diffusion Models》(作者:郑洋,李文,刘昭强【通讯作者】)主要关注现有基于扩散模型的逆问题求解算法存在的内存开销大和收敛至次优解的问题,提出了两种创新性方法:DMILO 和 DMILO-PGD。考虑到扩散模型中的多步采样过程可视为多个函数的复合,该研究首先引入了中间层优化以缓解内存负担并提高推理效率。此外,该研究还在扩散模型反向采样过程中引入稀疏偏移项,以拓展生成模型的表达能力,使其能够探索原始数据分布之外的潜在解空间。为进一步提高逆问题求解的稳健性,该研究结合投影梯度下降策略,对生成信号进行迭代优化,从而减轻初始点选择不当所带来的次优收敛问题。大量实验结果表明,该方法在多个线性与非线性逆问题场景中均优于现有方法,展现出更高的重建精度与泛化能力。

image.png

图1 论文《Integrating Intermediate Layer Optimization and Projected Gradient Descent for Solving Inverse Problems with Diffusion Models》算法流程示意图

      2022级本科生王硕、黄顺阳以共同第一作者撰写的论文《Cooperation of Experts : Fusing Heterogeneous Information with Large Margin》(作者:王硕、黄顺阳、袁景辉、沈智翔、康昭【通讯作者】)提出了“专家合作(CoE)”框架,旨在将多重信息进行融合与深度挖掘,解决异构多关系图信息融合的问题。在传统的混合专家(MoE)模型中,各个专家通过门控机制独立工作,虽然这种方法提升了计算效率,但往往忽视了专家间的协作,限制了其在复杂网络数据中的信息融合能力。为此,CoE框架通过引入一个“信任张量”来促进专家之间的合作,而非竞争,从而增强了专家在捕捉不同模式和关系中的协作性。具体而言,CoE采用两级专家设计,低级专家专注于学习单一网络中的模式,而高级专家则通过优化的互信息最大化方法,融合来自不同网络的信息,从而有效捕捉跨网络关系。通过这一创新的协作机制,CoE在多个数据集上显示出优越的性能,特别是在多模态和多关系任务中,实验结果验证了其在处理异构信息时的强大能力和广泛适用性。

image.png

图2 论文《Cooperation of Experts: Fusing Heterogeneous Information with Large Margin》的专家合作(CoE)框架详细过程

       2022级本科生王硕、王博奎以共同第一作者撰写的论文《Multi-Domain Graph Foundation Models : Robust Knowledge Transfer via Topology Alignment》(作者:王硕、王博奎、沈智翔、邓柏言、康昭【通讯作者】)提出了一种新的多领域图基础模型(MDGFM),旨在通过拓扑对齐实现跨领域知识的稳健传递。现有的图学习方法往往依赖固定的图拓扑结构,限制了其在多领域应用中的泛化能力。MDGFM通过引入图结构学习模块,有效处理了不同领域图之间的拓扑差异,并采用自适应平衡令牌来融合领域特征和拓扑信息,以实现跨领域的知识转移。此外,论文还提出了一种高效的提示学习方法,进一步增强了跨领域的预训练效果,并通过理论分析证明了其优越性。广泛的实验验证显示,MDGFM在多个同质性和异质性图数据集上均表现出强大的鲁棒性和有效性,特别是在面对未见过的目标领域时,模型能够保持良好的泛化能力。

image.png

图3 论文《Multi-Domain Graph Foundation Models : Robust Knowledge Transfer via Topology Alignment》的多领域图基础模型(MDGFM)整体框架

       国家“珠峰计划”拔尖人才实验班依托“计算机科学拔尖学生培养计划2.0基地”(首批全国12所)设置专业,面向国家重大需求,注重通识、数理和计算机科学基础以及创新能力的培养和提升。学生在导师指导下,量身定制个性化课程修读及科研训练计划,并与研究生培养衔接,锻炼学生的获取知识能力、应用知识能力和创新能力,使之成为能从事计算机理论研究、应用与创新实践的创新引领性人才。专业充分发挥电子科技大学在计算机科学领域的学科优势,致力于培养具有强烈社会责任感、热爱科学、基础扎实、勇于创新、具有国际竞争力的计算机科学领域未来一流科学家,促进基础学科的发展和研究水平的提升,并为其他学科的发展提供源泉和动力。



编辑:助理编辑  / 审核:刘瑶  / 发布:陈伟