近日，中国科学院软件研究所天基综合信息体系天下重点试验室研究团队的一项研究结果，聚焦元进修的进修机制与使命采样，有助在模子泛化与迁徙机能的晋升，被被人工智能范畴顶级国际集会IJCAI吸收。

元进修旨于从有限的数据中构建多样化的练习使命来进修正常常识，然后迁徙到新的使命中。传统不雅点以为，练习使命越多样，模子的泛化威力越好。然而，研究团队经由过程布局因果模子试验发明，于元进修机制下的使命最好分类器不只是哄骗因果因子举行决议计划，同时还会遭到非因果因子的干涉干与，即元进修中特定使命的因果因子以及标签之间有虚伪相干性，这些使命稠浊因子会惹起使命负迁徙，从而影响泛化机能。

基在上述发明，研究团队提出了一种元进修因果暗示进修器MetaCRL，用来消弭使命稠浊因子。MetaCRL由两个模块构成：解耦模块以及因果模块。解耦模块起首经由过程进修语义矩阵得到整个天生因子，然后使用分组函数获取与每一个使命相干的天生因子子集，旨于得到所有与使命相干的天生因子和与单个使命相干的特定使命天生因子；因果模块则卖力确保天生因子的真实因果瓜葛，即基在因果稳定性定理和统一模子可以于差别漫衍中进修因果相干性，一方面是对于体现出漫衍变迁的多个练习数据集强迫履行稳定性，另外一方面是经由过程简朴的双层优化来包管解耦模块得到的语义矩阵以及分组函数获得的天生因子具备真实因果瓜葛。

MetaCRL能运用在各类元进修框架，经由过程瓜代优化MetaCRL与元进修模子，使元进修基在真实因果因子进修各类使命的通用常识，从而消弭使命稠浊因子。研究团队进一步于各类下流使命长进行了分类、回归、猜测等广泛试验。成果注解，引入MetaCRL的各类元进修基线要领都得到了不变的机能晋升。此外，于多个基准数据集的常识迁徙试验中进一步证实了MetaCRL消弭使命稠浊的有用性。

该论文配合第一作者为硕士生王婧瑶、副研究员任懿，通信作者为出格研究助理强文文。

相干论文信息：https://arxiv.org/abs/2312.05771

代码地址：https://github.com/WangJingyao07/MetaCRL