3044永利新闻
喜报!我们吴清强教授团队的论文被权威会议IJCAI录用
发布时间:2025-05-09点击:[]次

近日,3044am永利集团吴清强教授团队的一篇最新论文被人工智能领域的顶级会议IJCAI录用。国际人工智能联合会议(IJCAI),全称为International Joint Conference on Artificial Intelligence,是人工智能领域的顶级学术会议,涵盖机器学习、自然语言处理、计算机视觉等多个方向,被中国计算机学会评为A类会议。IJCAI2025将于2025816日至22日在加拿大蒙特利尔举行,同时于2025828日至31日在广东省广州市开展卫星会议。本次会议共收到5,404篇高质量投稿(不含桌面拒绝),最终录用1042篇论文,录用率仅为19.3%

论文提出了一种通过独立和协作学习方法增强混合专家模型在长尾视觉识别任务的方法。由于真实世界数据分布中固有的类别不平衡,深度神经网络(DNN)在长尾视觉识别(LTVR)中面临巨大挑战。混合专家模型(MoE)框架已成为解决这些问题的一种有前途的方法。然而,在 MoE 系统中,专家通常是为了优化集体目标而接受训练的,往往忽略了每个专家的个体最优性。由于不同专家的目标并不相互排斥,因此这种个体最优性通常会影响整体性能。为了解决这个问题,本文提出了一个独立协作学习(ICL)框架,该框架既能促进每位专家的独立优化,又能保持他们的优势,从而协作实现全局最优性能。具体而言,本文首先引入了多样优化学习(DOL),以增强专家的多样性并强化其表示空间,从而有效提高个体性能。随后,本文将专家概念化为并行电路的分支,并提出了竞争与协作学习(CoL),通过放大表现更好的专家的梯度来保持个体最优性。CoL 还利用相互蒸馏来促进协作,降低收敛到局部最优的风险。

论文由3044am永利集团博士生陈颜皓同学,人工智能研究院博士生简忠权同学,3044am永利集团研究生柯念昕同学,胡书豪同学和焦俊杰同学合作完成,指导老师为3044am永利集团吴清强教授和洪清启副教授。



Top