基于材料组分信息的高居里温度铁磁材料预测.pdf

基于材料组分信息的高居里温度铁磁材料预测*孙敬淇吴绪才阙志雄张卫兵(长沙理工大学物理与电子科学学院,柔性电子材料基因工程湖南省重点实验室,长沙410004)(2023年 3月 12 日收到;2023年 6月 19 日收到修改稿)寻找具有高居里温度的铁磁材料是凝聚态物理的热点问题.本文建立了有效的基于材料组分信息的居里温度机器学习模型,并预测了多种高居里温度铁磁材料.基于收集到的 1568 个铁磁材料数据,并以铁磁材料的组分信息作为描述符,通过超参数优化和十折交叉验证,构建了支持向量回归、核岭回归、随机森林及极端随机树四种高效的机器学习模型.这其中,极端随机树模型具有最好的预测性能,其交叉验证 R2评分可达 81.48%.同时,还应用极端随机树模型对 MaterialsProject 数据库 36949 种铁磁材料进行了预测,发现了338 个居里温度大于 600K 的铁磁材料.本文提出的方法可以为获取具有高居里温度的铁磁材料提供有价值的帮助,加快铁磁材料设计的过程.关键词：机器学习,铁磁材料,材料组分,居里温度PACS：02.60.Pn,75.50.Ww,77.80.BDOI:10.7498/aps.72.202303821引言作为一种重要的智能材料,铁磁材料在现代科学技术中得到广泛的应用.居里温度(CurieTem-perature,Tc)高于室温是铁磁材料工业化应用的重要前提.遗憾的是,目前 Tc高于室温的候选铁磁材料不多.为满足信息技术发展需要,近年来许多研究者通过不同的方法试图合成高 Tc的铁磁材料13.另一方面,密度泛函理论已成为模拟铁磁材料的典型理论方法,它结合海森伯哈密顿量,求解磁交换相互作用,并通过蒙特卡罗方法求解 Tc.这种方法计算量大、效率低,不适用于高通量材料计算和设计.在材料基因组计划的推动下,基于机器学习的材料设计414已成为当前材料研究的一个热点领域.机器学习方法缩短材料设计周期,也被广泛地应用于磁性材料的预测.Kabiraj 等6利用高通量自动化代码和数据驱动模型,遍历了二维(two-dimension,2D)材料数据库,并预测了大量具有高Tc的二维铁磁(ferromagneticmaterials,FM)材料.卢帅华等7通过将先进的机器学习技术与高通量密度泛函理论计算相结合,开发了一个自适应框架,以加速二维内秉铁磁材料的发现.Vishina 等12通过对 ICSD(inorganiccrystalstructuredatabase)中包含 3d 和 5d 元素的已知晶体结构进行数据挖掘,使用特定材料的筛选方法结合电子结构计算的高通量方法来寻找无稀土永磁体的可能候选材料.磁性是一种典型的量子效应,与材料组成、结构、化学键、电子结构等密切相关,发展简单高效的磁性如 Tc预测模型仍存在挑战.材料的化学组分是决定材料物性的基础.常用的永磁材料包括铝镍钴系永磁合金、铁铬钴系永磁合金、永磁铁氧体、稀土永磁材料和复合永磁材料等.通过分析现有的永磁材料15及铁磁材料数据集1619,可以发现绝大多数磁性材料含有 Fe,Co,*国家自然科学基金(批准号:11874092)、霍英东教育基金会第十六届高等院校青年教师基金(批准号:161005)和湖南省杰出青年科学基金(批准号:2021JJ10039)资助的课题.通信作者.E-mail:2023中国物理学会ChinesePhysicalSocietyhttp:/物理学报ActaPhys.Sin.Vol.72,No.18(2023)180202180202-1Mn,Ni,O 以及稀土等元素.这表明,材料的组分信息如元素和化学配比,对材料的磁性如 Tc起着至关重要的作用.本文力图基于材料的化学组成信息,建立铁磁材料 Tc预测模型,并发掘具有高 Tc的铁磁材料.本文构建和优化了具有较好的回归和泛化性能的多种机器学习模型.最后,还利用具有最佳性能的极端随机树模型,预测了多种 Tc超过室温的铁磁材料.2数据及方法2.1 数据集从参考文献 1619 中收集了 1568 个铁磁材料作为数据集,该数据集只包含铁磁材料的化学成分信息(元素、化学配比)和相应的 Tc.图 1 展示了铁磁材料的 Tc分布情况,可以看出数据集中铁磁材料的 Tc范围为 01400K,大多数数据样本分布在 600K 以下,而高于 600K 的数据仅占总数据的 20%左右,这表明高 Tc的铁磁材料在数据集中相对较为稀缺.图 2 显示了数据集中 Tc分别大于 300 和 600K时的铁磁材料元素的分布情况,元素分布主要集中在 Fe,Co 和 O.通过分析数据集中大于 300K 的数据,发现 Fe,Co 和 O 元素分别占总元素的 34.3%,11.6%和 16.8%,而在 600K 时,Fe,Co 和 O 元素分别占总元素的 32.2%,25.8%和 15.8%,说明 Fe,Co和 O 是本数据集高 Tc铁磁材料的主要元素.Ni,Mn也是常见的磁性元素,在高 Tc的数据中相对 Fe,Co 元素占比较少,从图 2 可以得知,Ni,Mn 的占比相对其他元素依旧拥有一定的数量,对模型的训练不会产生太大的影响.2.2 机器学习模型及超参数的优化本文采用 sklearn20平台上的支持向量机(supp-ortvectorregression,SVR)、核岭回归(kernelridgeregression,KRR)、随机森林(randomrorest,RF)以及极端随机森(extremelyrandomizedtrees,EXT)四个机器学习模型.针对 SVR 和 KRR 算法的超参数采用了遗传算法21进行优化.KRR 和 SVR选取了高斯核函数(rbf),对模型中的 alpha 参数进行了优化,其值设置为 0.00567165.对于 SVR模型,其模型性能取决于参数 c 和 gamma.参数c 是一个常数,它决定了对估计误差的正则化惩罚,其设置为 181.8797945,gamma 是核系数的系数,其设置为 0.18646131.针对 RF 和 EXT 模型,主要由 3 个超参数决定模型的性能.通过在一定的超参数区间内,采用均匀网格搜索22的方式选取最Curie temperature/K020406080100Number0200400600800100012001400图11568 个铁磁材料数据集 Tc的分布情况Fig.1.Distribution of Tc in 1568ferromagnetic materialdatasets.Fe O CoMn Ni H Y Gd Cr Rh B Ge S NdCu05101520253035Chemical elementPercentage(a)05101520253035PercentageChemical element(b)Fe Co O Ni MnRhGd B SmCu Y Tb H Dy Al图2数据集中铁磁材料的元素分布情况(a)Tc大于 300K 时元素分布;(b)Tc大于 600K 时元素分布Fig.2.Elementdistributionofferromagneticmaterialsindataset:(a)ElementdistributionwhenTcisgreaterthan300K;(b)ele-mentdistributionwhenTcisgreaterthan600K.物理学报ActaPhys.Sin.Vol.72,No.18(2023)180202180202-2佳超参数(图 3 所示),“n_estimators”被设置为从100 到 300,步长为 10;“max_features”以 0.02 步,从 0.10 到 0.60;“min_samples_leaf”默认选择最小的 0.001.不同模型的优化结果见表 1.3结果及讨论3.1 特征选择特征选择可以降低过拟合的风险,更好地去除与目标值无关的特征从而达到优化模型以及缩短训练时间的目的.本文总共生成了 397 个特征,其中使用 matminer 库生成了 362 个特征,参考文献 8,9,18,23 生成了 35 个特征.在这些特征中,根据化学配比的关系,采用了加权比例的方法来构建特征,如 Fe2O3,其原子序数特征被定义为:8(3/5)+26(2/5)=15.2.针对 397 个特征,我们发现前 20%的特征几乎占据了 95%以上对 Tc预测模型的贡献度,因此提取了前 20%的 80 个特征作为新一轮的候选特征.之后考虑到特征之间可能存在相似性高的情况,影响模型的预测结果,采用皮尔逊相关系数24,计算两个特征之间的相似性且去除相似度大于 90%的特征,最终得到了表 2 中21 个化学参数作为铁磁材料的描述符.0.794(a)RF0.7920.79020.7880.7860.10.2max_featuresn_estimators0.30.40.50.61001502002503000.81(b)EXT0.800.7920.780.760.770.10.2max_features_estimators0.30.40.50.6100150200250300图3均匀网格搜索(a)随机森林参数优化图;(b)极端随机树参数优化图Fig.3.Uniformgridsearch:(a)Randomforestparameteroptimizationmap;(b)extremerandomtreeparameteroptimizationmap.表1本研究中四种机器学习模型的超参数Table1.Hyperparametersoffourmachinelearningmodelsinthisstudy.模型超参数KRRalpha=0.00567165,kernel=“rbf”SVRkernel=“rbf”,C=181.8797945,gamma=0.18646131RFn_estimators=170,max_features=0.30,min_samples_leaf=0.001EXTn_estimators=180,max_features=0.58,min_samples_leaf=0.001表2基于特征筛选获得的化学参数描述符Table2.Chemicalparameterdescriptorsobtainedbasedonfeaturescreening.No.MeaningsFeatures1MeanatomicnumberMAN2MeanIonicRadiusMIR3MeanModulusofElasticityMME4MeanmeltingpointMMP5MeanGSmagmomMGSM6MeancovalentradiusMCR7MeanIonizationEnergyMIE8MeanElectronAffinityMEA9MeanAtomicVolumeMAV10MeanMendeleevNumberMMN11CompositionofMnCMn12CompositionofFeCFe13CompositionofCoCCo14CompositionofNiCNi15rangeAtomicRadiusRAR16rangeElectronegativityREE17avgpvalenceelectronsApV18avgdvalenceelectronsAdV19fracfvalenceelectronsFfV20transitionmetalfractionTMF212-norm2N物理学报ActaPhys.Sin.Vol.72,No.18(2023)180202180202-33.2 模型训练本研究采用 80%数据作为训练集,20%数据作为验证集,构建并比较了四个不同的机器学习模型.使用平均绝对误差(MAE),均方根误差(RMSE)和决定系数(R2)三项指标对四种机器学习模型的结果进行评估,评估结果见表 3(CSMAE,CSRMSE,CSR2分别表示十次交叉验证结果的平均绝对误差、平均均方根误差、平均决定系数).其中,KRR 模型的 CSMAE,CSRMSE 和 CSR2分别为 94.41,141.21 和 73.70%;SVR 模型的 CSMAE,CSRMSE和CSR2分别为88.64,137.62 和74.92%;RF 模型的CSMAE,CSRMSE 和 CSR2分别为 81.18,124.13和 79.45%;EXT 模型的 CSMAE,CSRMSE 和CSR2分别为 74.04,117.98 和 81.48%.为了更好地展示不同机器学习模型的预测性能,图 4 给出了四种机器学习模型在实验值和预测值之间的二维散点图.经过比较,发现无论是模型本身还是交叉验证的结果,EXT 模型都拥有最低的 MAE 和 RMSE 以及最高的 R2评分.这表明相对于其他三种模型而言,EXT 模型具有更加优秀的性能,在铁磁材料 Tc的预测方面表现出色.图 5 展示了 EXT 模型在训练过程中,描述符的重要性情况.在所有描述符中,“型在训练过GSmagmom”(原子的单元素固体磁矩的平均值)是最重要的特征,占特征重要性的 21.6%.其次,“CompositionofFe”和“CompositionofCo”分别占重要性的 11.0%和 15.1%.这表明在化合物中,Fe 和 Co 元素的含量对预测高 Tc铁磁材料具有很大的影响.3.3 预测还将建立的 EXT 模型用于预测已有数据库中化合物的 Tc.使用了 MaterialsProject 数据库25中所有的铁磁材料,经过去重复处理,得到了包含36949 个数据的预测数据集.如图 6 所示,我们的预测模型发现在 2531 个 Tc大于 300K 的材料中,主要元素成分以 O,Fe 和 Co 为主,分别占据了 28.2%,表3本研究中四种机器学习模型的最终评估结果Table3.Final evaluation results of four machinelearningmodelsinthisstudy.KRRSVRRFEXTMAE89.4383.2176.5270.86RMSE125.50125.77114.71109.32R2/%80.7580.6783.9285.39CSMAE95.4188.6481.1874.04CSRMSE141.21137.62124.13117.98CSR2/%73.7074.9279.4581.48Predict c02004006008001000 1200 1400(b)Experimental c020040060080010001200Predict c02004006008001000 1200 1400(d)Experimental c02004006008001000120002004006008001000 1200 1400-300030060090012001500(a)Predict cExperimental cPredict c02004006008001000 1200 1400(c)Experimental c020040060080010001200图4四种机器学习模型实验值和预测值对比的二维散点图(a)核岭回归;(b)支持向量机;(c)随机森林;(d)极端随机树Fig.4.Two-dimensionalscatterplotscomparingexperimentalandpredictedvaluesoffourmachinelearningmodels:(a)Kernelridgeregression;(b)supportvectormachine;(c)randomforests;(d)extremelyrandomtree.物理学报ActaPhys.Sin.Vol.72,No.18(2023)180202180202-421.5%和 6.9%.在 Tc大于 600K 的 338 个材料中,主要元素成分以 Fe,O 和 Co 为主,分别占据了36.2%,33.8%和 9.6%,相较于 Tc大于 300K 的元素分布,Tc大于 600K 的元素分布中 Fe,O 和 Co在元素中的占比得到了提升,这表明,如果要获取较高的 Tc铁磁材料,则在这些元素组合的化合物中进行寻找相对更为合理.在不存在于训练集且 Tc大于 600K 以上的预测数据中,找到了 6 个有实验值的数据,AlFe3预测值为 750K,实验值为 755K26;AlFe 预测值为756K,实验值为 640K27;FeNi 预测值为 701K,相对实验值为 785K28;Fe3Pd 预测值为 595K,实验值为 463K29;Fe3Sn 预测值为 704K,实验值为 743K30;Mn4N 预测值为 758K,实验值为710K31.数据分析可知实验值和预测值的平均相对误差为 11.7%.由于铁磁材料的 Tc微观物理机制复杂,目前仍缺少精确的预测方法.常用的平均场方法预测 Tc误差在 10%20%之间,且根据磁性物质的具体特征和实验条件等因素,实际的误差范围可能会更大.因此,EXT 模型在预测铁磁材料的 Tc方面表现良好.同时,图 7 还给出了预测的338 个数据中 Tc的分布情况,结果表示 FeCo9,Li3Zn(Fe5O8)4,Fe3B,FeCo2Ge,Li9Fe23O32,Li3Fe7O12等铁磁材料可能具有较高的 Tc,其预测值都在 800K 以上.6007008009001000110012001300051015202530354045Curie temperature/KNumber图7预测集中 338 个 Tc600K 的铁磁材料的 Tc分布情况Fig.7.Curietemperaturedistributionof338ferromagneticmaterialswithTc600Kinpredictionset.4结论本文使用元素基本的物理性质等信息构建了一系列特征,针对铁磁材料的 Tc进行了训练,使用了四种机器学习方法(SVR,KRR,RF 和 EXT).通过模型优化和交叉验证等方法,对不同机器学习方法得到的相关评价分数进行了比较,最终发现EXT 模型表现最佳,其 R2值达到了 81.48%,展现了良好的精度和泛化能力.基于 EXT 模型,本文2NIEIR00.050.100.150.20Importance GSMCCoCFeTMFAVMOECREAANAdVREEMNCMnMPFfVRARApVCNiFeature图5基于极端随机数模型的特征重要性排序图Fig.5.Featureimportance ranking graph based on ex-tremerandomnumbermodel.O Fe Co Mn Ni LiFBN Ge Si Al Cu Cr Sr05101520253035Chemical elementPercentage(a)05101520253035Percentage(b)Chemical elementFe O Co FLiBSi Ni MgMn Ga Al Zn Ge P图6预测集中铁磁材料元素分布情况(a)2531 个 Tc大于 300K 数据的元素分布图;(b)338 个 Tc大于 600K 数据的元素分布图Fig.6.Element distribution of ferromagnetic materials inpredictionset:(a)Elementdistributionof2531datawithTcgreaterthan300K;(b)elementdistributionof338datawithTcgreaterthan600K.物理学报ActaPhys.Sin.Vol.72,No.18(2023)180202180202-5预测了 MaterialsProject 数据库中 36949 个不同组分和配比的数据,并从中筛选出 338 个 Tc很可能大于 600K 的铁磁材料,这将有助于加速铁磁材料的设计.参考文献 Sanvito S,Oses C,Xue J,Tiwari A,Zic M,Archer T,TozmanP,VenkatesanM,CoeyM,CurtaroloS 2017 Sci.Adv.3e16022411JiangZ,WangP,JiangX,ZhaoJ2018Nanoscale Horiz.33352LuX,FeiR,YangL2019Phys.Rev.B1002054093ClaussenN,BernevigBA2020Phys.Rev.B1012451174JiangZ,WangP,XingJ,JiangX,ZhaoJ2018ACS Appl.Mater.Interfaces10390325KabirajA,KumarM,MahapatraS2020npj Comput.Mater.6356LuSH,ZhouQH,GuoY,WangJL2022Chem87697LuSH,ZhouQH,GuoYL,ZhangYH,WuYL,WangJL2020Adv.Mater.322002658.8NelsonJ,SanvitoS2019Phys.Rev.Mater.31044059XueYF,ShenZ,WuZB,SongCS2022J.Appl.Phys.13205390110ZhangB,ZhengXQ,ZhaoTY,HuFX,SunJR,ShenBG2018Chin.Phys.B2706750311VishinaA,VekilovaOY,BJrkmanT,BergmanA,HerperHC,ErikssonO2020Phys.Rev.B10109440712KwonHY,KimNJ,LeeCK,WonC2019Phys.Rev.B9902442313ChoudharyK,GarrityKF,GhimireNJ,AnandN,TavazzaF2021Phys.Rev.B10315513114CoeyJMD2011IEEE Trans.Magn.47467115Buschow K J 2003 Handbook of Magnetic Materials(Amsterdam:Elsevier)pp29345616ConnollyTF2012Bibliography of Magnetic Materials andTabulation of Magnetic Transition Temperatures(NewYork:SpringerScience&BusinessMedia)pp13017LongT,FortunatoNM,ZhangY,GutfleischO2021Mater.Res.Lett.916918ZhaiX,ChenM,LuW2018Comput.Mater.Sci.1514119Fabian P,Gal V,Alexandre G,Vincent M,Bertrand T,OlivierG,MathieuB,PeterP,RonW,VincentD,JakeV,AlexandreP,DavidC,MatthieuB,MatthieuP,Duchesnay2011J.Mach.Learn.Res.12282520Mirjalili2019Enetic Algorithm(Berlin:Springer)pp435521Syarif I,Prugel A,Wills G 2016 Telecommun.Comput.Electron.Control14150222YangZX,GaoZR,SunXF,CaiHL,ZhangFM,WuXS2019Acta Phys.Sin.68210502(inChinese)杨自欣,高章然,孙晓帆,蔡宏灵,张凤鸣,吴小山2019物理学报6821050223Benesty J,Chen J,Huang Y,Cohen I 2009 PearsonCorrelation Coefficient(Berlin:Springer)pp1424JainA,OngSP,HautieG,ChenW,RichardsWD,DacekS,CholiaS,GunterD,SkinnerD,CederG2013APL Mater.101100225PopoelE,TuszynskiM,ZarekW,RendeckiT1989J.Less-Common Met.14612726LiJG,PanMX,SunJR,ZhangFX,LiSP,ZhaoDQ,YuXH,ZhaoSX,ChenXC1996Solid State Commun.97pp104727DangMZ,RancourtDG1996Phys.Rev.B53229128MiyataN,KamimoriT,GotoM1986J.Phys.Soc.Jpn.55203729Trumpy G,Both E,Djga-Mariadassou C,Lecocq P 1970Phys.Rev.B2347730MeinertM2016J.Phys.Condens.Matter2805600631物理学报ActaPhys.Sin.Vol.72,No.18(2023)180202180202-6Prediction of ferromagnetic materials with high Curietemperature based on material composition information*SunJing-QiWuXu-CaiQueZhi-XiongZhangWei-Bing(Hunan Provincial Key Laboratory of Flexible Electronic Materials Genome Engineering,School of Physics&Electronic Science,Changsha University of Science and Technology,Changsha 410004,China)(Received12March2023;revisedmanuscriptreceived19June2023)AbstractThesearchforferromagneticmaterialswithhighCurietemperature(Tc)isahotissueincondensedmatterphysics.Inthiswork,aneffectivemachinelearningmodelofCurietemperaturebasedonmaterialcomponentinformationisestablishedtopredictavarietyofferromagneticmaterialswithhighCurietemperature.Basedonthecollecteddataof1568ferromagneticmaterials,andtakingthecomponentinformationofferromagneticmaterialsasdescriptors,inthisworkfourefficientmachinelearningmodelsareconstructed,namelysupportvector regression,kernel ridge regression,random forest and extremely randomized trees,throughhyperparameteroptimizationandten-breakcross-validation.Ofthem,extremelyrandomizedtreemodelhasthebest prediction performance,and its cross-validation R2 score can reach 81.48%.At the same time,theextremelyrandomizedtreemodelisalsousedtopredict36949materialsinthematerialsprojectdatabase,and338ferromagneticmaterialswithTcgreaterthan600Karefoundinthiswork.Themethodproposedinthispaper can help obtain ferromagnetic materials with high Curie temperature and accelerate the process offerromagneticmaterialdesign.Keywords:machinelearning,ferromagneticmaterials,materialcomponent,CurietemperaturePACS:02.60.Pn,75.50.Ww,77.80.BDOI:10.7498/aps.72.20230382*Project supported by the National Natural Science Foundation of China(Grant No.11874092),the Fok Ying-TongEducation Foundation,China(Grant No.161005),and the Science Fund for Distinguished Young Scholars of HunanProvince,China(GrantNo.2021JJ10039).Correspondingauthor.E-mail:物理学报ActaPhys.Sin.Vol.72,No.18(2023)180202180202-7