通过机器学习设计新型超导材料_崔志强.pdf

第 51 卷第 2 期 2023 年 2 月 硅 酸 盐 学 报 Vol.51，No.2 February，2023 JOURNAL OF THE CHINESE CERAMIC SOCIETY http:/ DOI：10.14062/j.issn.0454-5648.20221022 通过机器学习设计新型超导材料 崔志强1，罗 颖1，张云蔚1,2(1.中山大学物理学院，广州 510275；2.广东省磁电物性分析与器件重点实验室，广州 510275)摘 要：在常压下寻找新型高温超导材料是物理和材料领域共同关注的热点问题。近年来，机器学习技术和大数据成功地解决了材料特性与复杂物理因素之间关系建模的难题，在新型材料的优化设计中获得了重要应用。然而利用机器学习在材料数据库中寻找常规 Bardeen-Cooper-Schrieffer(BCS)超导材料，存在可用数据量少的问题，导致设计出的超导材料种类少，结构构型单一。结合 BCS 超导理论和半监督学习方法，发展了神经网络模型预测 BCS 超导体。通过充分利用材料数据库中大量的无标签数据，即未知超导温度但已知电子结构的晶体材料，使得训练出的分类模型准确性达 72%。模型预测出数十种可常压下存在的新型 BCS 超导材料，其中 B-C 和 B-C-N 体系的超导温度最高可达约 60 K，高于 MgB2的 39 K 超导纪录。关键词：高温超导；半监督学习；材料设计；神经网络 中图分类号：TQ172.75 文献标志码：A 文章编号：04545648(2023)02041105 网络出版时间：20230118 Discovering High-Temperature Conventional Superconductors via Machine Learning CUI Zhiqiang1,LUO Ying1,ZHANG Yunwei1,2(1.School of Physics,Sun Yat-sen University,Guangzhou 510275,China;2.Guangdong Provincial Key Laboratory of Magnetoelectric Physics and Devices,Sun Yat-sen University,Guangzhou 510275,China)Abstract:Searching for high-temperature ambient-pressure superconductors is a challenge in materials science.Machine learning has a promising application in materials discovery.A data-driven approach that overcomes low-data limitations by computationally inexpensive descriptors based on the Bardeen-Cooper-Schrieffer(BCS)theory and semi-supervised learning was proposed.The accuracy of the classification mode is 72%.This approach can screen over 10 000 binary and ternary BCS compounds in the Material Project database,thus identifying some promising superconductors at ambient pressure.The compounds in B-C and B-C-N systems have a maximum superconducting critical temperature(TC)of 60 K,which is greater than that for MgB2(i.e.,TC=39 K)Keywords:high-temperature superconductors;semi-supervised learning;materials design;neural networks 超导材料由于其在特定温度下呈现出零电阻，且在一定条件下具有高密度载流能力、完全抗磁性、Josephson 效应等常规导体不具备的电磁特性，因此在诸多领域展示出了诱人的应用前景，如医疗领域的核磁共振成像仪，电气与电子工程领域的大容量输电电缆和交通领域的高速磁悬浮系统等12。自1911 年荷兰物理学家首次发现低温 4.2 K 下金属汞具有超导电性以来，历代科学家们致力于不断提升超导的临界温度，同时也在持续探索超导机制。1957 年 Bardeen-Cooper-Schrieffer(BCS)超导理论3的建立揭示了常规超导材料中由电声子耦合导致超导的微观机制。BCS 理论框架下的第一性原理计算可以准确地模拟常规超导体的超导转变温度(TC)，然而，在广袤的材料空间中探索潜在的高温超导材料十分具有挑战性，发展先进的计算方法是促进新型超导材料发现的关键45。收稿日期：20221127。修订日期：20221225。基 金项 目：广 东省磁 电物 性 分析与 器件 重 点实验 室开放 课题(2022B1212010008)资助項目。第一作者：崔志强(1997)，男，硕士研究生。通信作者：张云蔚(1989)，女，博士，副教授。Received date:20221127.Revised date:20221225.First author:CUI Zhiqiang(1977),male,Master candidate.E-mail: Correspondent author:ZHANG Yunwei(1989),female,Ph.D.,Associate Professor.E-mail: 412 硅酸盐学报 J Chin Ceram Soc,2023,51(2):411415 2023 年 近年来，结合第一性原理计算发展起来的晶体结构搜索方法68在预测新型高温超导材料方面取得了突破性进展。例如 2014 年 Li 等利用 CALYPSO方法预言了硫化氢体系中由压力诱导的高温超导特性9，启发了 Drozdov 等进行实验探索，最终在 155 GPa 下的该体系中观察到了高达 203 K 的 TC值10。这一发现不但突破了科学家们基于 BCS 理论提出的 MacMillan 极限(39 K)11，并且打破了非常规超导材料(铜基和铁基超导体)保持了 10 年之久的高温超导纪录。Liu 和 Peng 等预言了高压 210 GPa 下LaH10具有近室温的超导转变温度(274286 K)1213。2019 年该理论预言再次被 Drozdov 团队实验验证14。现阶段多种高压氢化物被预言具有极高的超导转变温度1417，理论上不断刷新着高温超导的纪录，并且理论预言陆续被实验所证实18。然而传统的第一性原理计算方法模拟 TC，需要耗费大量的计算资源。因而利用该方法在已知材料数据库中开展高通量计算搜索新型超导材料仍具有挑战。基于大数据的机器学习方法能够独立于材料的物理机制，仅需基于统计学理论即可构建材料数据与物性关系，进而加速材料设计1920。近年来，几种能够预测超导材料 TC值的机器学习模型被开发2124。然而，大部分模型选取的模型输入量缺少超导物理机制指导。例如使用了组成元素的基本性质，如电负性、元素主族序列，价电子数目等25作为模型的输入量，导致这些模型未能区别具有相同化学组分的同素异形体结构。另一方向，由于相较于非常规超导材料，常规 BCS 超导材料的数据量小，因此模型预言的新型超导材料多为非常规超导材料。然而，非常规超导材料的超导机制仍不清晰，其预言的超导特性无法通过理论计算进行验证。Xie等26发展了几种由超导理论驱动的机器学习模型，准确构建了 TC和与电声耦合强度间的复杂关系。然而，现有材料数据库中缺少相应的电声耦合数据，因此该模型仍难以应用于大规模材料搜索。BCS 超导理论为选取机器学习模型的输入量提供了物理指导。根据 BCS 理论，常规超导体与其电子和声子特性密切相关，而能带结构、电子态密度和声子结构能够反映这些特性。相较于严格的 TC计算，上述与超导电性相关的电子和声子性质从计算上更易获得，理论上可作为良好的模型输入量27。然而，实验或理论上已知的 BCS 超导体数量有限，基于小数据集训练准确的机器学习模型具有挑战性。值得注意的是，尽管已知超导材料的数量有限，但材料数据库如 Materials Project28中存在大量的电子与声子数据，与超导性质间存在着隐含关系。本工作将利用半监督学习方法来克服小数据集的问题。近 年来，半监督学习广泛应用于自然语言处理等复杂问题29。在只有少量标记样本，大部分数据都是无标记的情况下，可以通过半监督学习方法，基于无标记样本与标记样本之间的相似度、无标记样本潜在的分布这 2 个核心思想，对无标记的样本进行标记。超导性质相近的材料在高维材料相空间中易于聚集，因此考虑非标签数据，利于模型对材料相空间进行划分。利用半监督学习发展了神经网络模型，构建了材料的电子与声子性质与超导特性间的映射关系。该模型较传统的监督学习模型而言，在对超导材料进行分类上具有更高的准确性。继而，利用发展的模型对 Materials Project 中 10 000 种二元和三元化合物进行了搜索，并对位列前 20 的化合物进行了第一性原理计算，获得了 TC，在理论上对它们的超导性质进行了验证。本模型在多种常压氢化物和碳化物中寻找到了具有较高 TC(2060 K)的新材料。选取 B-C 和 B-C-N 2 类碳化物为例，进一步理论分析了其高温超导机制。1 模型与方法 1.1 模型输入量 基于 BCS 理论，选取了一系列表征电子和声子性质的物理量做为神经网络模型的输入量。具体包含 3 种不同物理量：Fermi 面处态密度值，约化原子质量以及 Fermi 面附近的能带值。详述各类输入量如下：1)Fermi 面处态密度值。基于 BCS 理论的McMillan 公式30能够计算传统超导材料的 TC值：logC*1.04(1)exp1.210.62()T+=|+(1)其中：log是平均声子振动频率；*是Coulombic 势；是电子声子耦合常数，通常是计算TC过程中计算耗时最久的部分。根据McMillan-Hopfield表达式31，电子声子耦合具有如下形式：2F2()N EIM=(2)其中：F()N E是Fermi面处的态密度值；M是原子质量；2是声子频率的平均值；I是电声耦合强度。由式(1)和式(2)可知：TC与Fermi面处态密度第 51 卷第 2 期 崔志强 等：通过机器学习设计新型超导材料 413 F()N E成正比，因次选取该物理量作为模型的输入量之一。2)约化原子质量 根据式(1)，TC与声子频率log相关，然而由于 声子谱计算较为耗时，这里我们选取化合物组成元 素的约化质量近似描述TC与log的关系。以二元化 合物为例，2种元素的质量分别记为m和M，则约化质量为/()mMmM+。3)Fermi面附近能带值 材料的能带结构决定了其电学性质，是另一个表征超导特性的重要物理量。例如，BCS超导体的Fermi面附近通常会出现陡带和平带。其中陡带表明电子具有较高的电子群速度，而平带意味着将贡献较大的电子态密度。因而，选取Fermi能级附近5条能带在各自高对称点上的数值，作为第3种模型输入量描述TC与能带拓扑结构的关系。1.2 半监督学习模型 模型方面，利用半监督学习方法充分挖掘数据库中的未标签数据信息，即模型选取的上述输入量已知，但TC未知的数据点。从未标签数据中能够获得2类信息：1)表征超导属性的模型输入量之间是密切相关的，不可能改变其中一个输入量而不影响其他输入量，因此，尽管模型不能直接建立未标签数据的电子结构与TC间的关系，仍可以起到强化不同材料的电子结构之间关系的作用，从而提升模型的准确性；2)具有相似物性的材料在高维材料相空间中相距较近，有理由推断在材料相空间中，与已知超导材料相距越近的材料，具有超导性的可能性越大。为证明上述推断，利用t-SNE方法将高维模型输入量进行降维处理，发现同类型超导材料在低维材料相空间中确实发生了聚集(如图1所示)。2 结果与讨论 2.1 模型准确性 基于已知的超导材料数据库SuperCon训练了半监督学习模型，其中标签数据为实验已知的53个常规BCS超导材料和42个非超导材料，非标签数据为Material Project中约7 000个二元和三元化合物。所用模型为3层前馈神经网络模型，每层含有16个神经元。所用半监督学习Mixmactch32方法利用梯度下降法进行模型参数的优化，因而仅针对神经网络模型有效，该模型能够准确判断材料是否为BCS超导体。图2为模型的Receiver operating characteristic curve(ROC)曲线和Area under the curve(AUC)值，同时与监督学习的准确性进行了比较。通过利用了Materials project中7 224个未标签数据，半监督学习的分类准确性高于监督学习10%，提升至72%。图 1 低维材料相空间。其中红色和蓝色为标签数据(已知超导/非超导材料)，灰色为无标签数据(已知电子结构，未知 TC的材料)Fig.1 Two-dimensional materials space.Red(known superconductors)and blue(known non-superconductors)marks represent labeled data,grey marks are unlabeled data 图 2 半监督与监督学习的曲线 Fig.2 Receiver operating characteristic(ROC)curve of semi-supervised learning and supervised learning methods 为了进一步证明该模型预测超导材料的准确性，利用该模型搜索材料数据库Materials Project，并对模型选择出的位列前20个可能超导结构进行了DFT计算验证。其中10个结构为超导材料，成功率为50%，远超于随机搜索的概率。更重要的是，模型筛选出了若干(如BC，B2CN，BC7等)超导温度高于MgB2的新超导材料，这些材料不曾被现有机器学习模型所预言，从而证实了该模型寻找新超导 414 硅酸盐学报 J Chin Ceram Soc,2023,51(2):411415 2023 年 材料的有效性。2.2 模型预测结果 利用训练的模型搜索了Materials Project中10 000个二元和三元化合物，其中模型在B-C、B-Si和B-C-N体系中预测了14种超导材料，超导温度在20 K和60 K之间，且均为常压相结构。这14种结构均具有金刚石结构，BC和B2CN结构如图3所示。实验上，在较低浓度的B元素掺杂下，金刚石即表现出7 K的超导电性3334。此后，利用晶体结构搜索和理论模拟，研究人员陆续在其他B-C和B-C-N化合物中预言了多种超导结构3538。本工作所设计的机器学习模型，除了准确地预言了理论上获得的所有超导结构，还在BC7中预言了新的超导结构。更重要的是，由于模型避免了耗时的TC计算，在计算效率上有了显著的提升，因此能够利用模型在已知材料数据中开展大规模材料搜索。图 3 BC 和 B2CN 的晶体结构，均具有相同的金刚石构型 Fig.3 Crystal structure of BC and B2CN,adopting the structure prototype of diamond.2.3 B2CN 的超导性质 选取B2CN(空间群：R3m，MP-ID：1008527)作为B-C和B-C-N体系的代表结构，进一步分析其常压下的超导性质，揭示其高温超导的物理机制。第一性原理计算模拟B2CN的TC高达57 K。投影声 子态密度、声子线宽、Eliashberg谱函数2()/F 和电声耦合参数()等超导计算数据如图4所示。图 4 B2CN 结构的投影声子态密度、声子线宽、Eliashberg谱函数2()/F和电声耦合参数()Fig 4 Phonon dispersions,projected phonon density of states,Eliashberg spectral function 2()/F and electron phonon coupling integration of()of B2CN 由投影声子态密度可知，B2CN中B、C、N的振动在中高频区发生耦合，共同贡献了电声耦合强度。模拟B2CN的值为1.32，高于MgB2的0.63，因此B2CN的TC高于MgB2的39 K。3 结论 基于半监督学习方法发展了神经网络模型，用来预测传统BCS超导体。利用BCS超导理论，选取了具有丰富物理意义的特征量作为模型的输入量，合理的物理特征量能够对复杂的材料相空间进行有效地划分。同时该模型充分利用了材料数据库中的无标签材料数据，弥补了数据量小的问题，模型准确性高于监督学习。训练后的模型能够对新材料的超导特性进行准确判断。进而利用该模型对Materials Project材料数据库进行了搜索，在B-C和B-C-N等体系中预言了新的超导结构，超导温度在2060 K之间。本工作证实了半监督学习在处理已知材料数据点少这一问题上的有效性，有望广泛应用于其他新型功能材料的设计。参考文献:1 XIAO L,LIN L.Recent progress of power application of superconductor in ChinaJ.IEEE Transact Appl Supercond,2017,17(2):23552360.2 KRABBES G,FUCHS G,CANDERS W R,et al.High temperature superconductor bulk materials:Fundamentals-Processing-Properties Control-Application AspectsM.Wiley-VCH,2006,3 BALATSKY,ALEXANDER V,ILYA VEKHTER,et al.Impurity-induced states in conventional and unconventional superconductorsJ.Rev Modern Phys,2006,78(2):373.4 LILIA B,HENNIG R,HIRSCHFELD P,et al.The 2021 room-temperature superconductivity roadmapJ.J Phys:Condensed Matter,2021,34:183002.5 COOPER Leon N.Bound electron pairs in a degenerate Fermi gasJ.Phys Rev,1956,104(4):1189.6 WANG Yanchao,LV Jian,ZHU Li,et al.CALYPSO:A method for crystal structure predictionJ.Computer Phys Commun,2012,183(10):20632070.7 GLASS C W,OGANOV A R,HANSEN N.USPEXEvolutionary crystal structure predictionJ.Computer Phys Commun,2006,175(11/12):713720.8 PICKARD C J,NEEDS R J.Ab initio random structure searchingJ.J Phys:Condensed Matter,2011,23(5):053201.9 LI Y,HAO J,LIU H,et al.The metallization and superconductivity of dense hydrogen sulfideJ.J Chem Phys,140(17):2014,174712.10 DROZDOV A P,EREMETS M I,TROYAN I A,et al.Conventional superconductivity at 203 kelvin at high pressures in the sulfur hydride systemJ.Nature,2015,525(7567):7376.11 MCMILLAN W L.Transition temperature of strong-coupled superconductorsJ.Phys Rev,1968,167(2):3311.12 LIU H,NAUMOV I I,HOFFMANN R,et al.Potential high-Tc 第 51 卷第 2 期 崔志强 等：通过机器学习设计新型超导材料 415 superconducting lanthanum and yttrium hydrides at high pressureJ.Proceedi Natl Academy Sci,2017,114(27):69906995.13 PENG F,SUN Y,PICKARD C J,et al.Hydrogen clathrate structures in rare earth hydrides at high pressures:Possible route to room-temperature superconductivityJ.Phys Rev Lett,2017,119(10):107001.14 DROZDOV A P,KONG P P,MINKOV V S,et al.Superconductivity at 250 K in lanthanum hydride under high pressuresJ.Nature,2019,569(7757):528531.15 Wang H,Li X,Gao G,et al.Hydrogenrich superconductors at high pressuresJ.Wiley Interdisciplinary Rev:Comput Molecular Sci,2018,8(1):e1330.16 SUN Y,LV J,XIE Y,et al.Route to a superconducting phase above room temperature in electron-doped hydride compounds under high pressureJ.Phys Rev Lett,2019,123(9):097001.17 XIE H,YAO Y,FENG X,et al.Hydrogen pentagraphenelike structure stabilized by hafnium:A high-temperature conventional superconductorJ.Phys Rev Lett,2020,125(21):217001.18 MA L,ZHOU M,WANG Y,et al.Experimental clathrate superhydrides EuH6 and EuH9 at extreme pressure conditionsJ.Physl Rev Resh,2021,3(4):043107.19 刘悦,邹欣欣,杨正伟,等.材料领域知识嵌入的机器学习J.硅酸盐学报,2022,50(3):863876.LIU Yue,ZOU Xingxing,YANG Zhengwei,et al.J Chin Ceram Soc,2022,50(3):863876.20 LIU Y,GUO B,ZOU X,et al.Machine learning assisted materials design and discovery for rechargeable batteriesJ.Energy Storage Mater,2020,31:434450.21 STANEV V.Machine learning modeling of superconducting critical temperatureJ.NPJ Comput Mater,2018,4:114.22 MATSUMOTO K,HORIDE T.An acceleration search method of higher TC superconductors by a machine learning algorithmJ.Appl Phys Express,2019,12:073003.23 KONNO T,KUROKAWA H,NABESHIMA F,et al.Deep learning model for finding new superconductorsJ.Phys Rev B,2021,103:014509.24 HUTCHEON M J,SHIPLEY A M,NEEDS R J.Predicting novel superconducting hydrides using machine learning approachesJ.Phys Rev B,2020,101:144505.25 BARHAM P,ISAACS R,MORTIER R,et al.Magpie:Online modelling and performance-aware systemsC/9th Workshop on Hot Topics in Operating Systems(HotOS IX).2003.26 XIE S,STEWART G,HAMLIN J,et al.Functional form of the superconducting critical temperature from machine learningJ.Phys Rev B,2019,100:174513.27 SHIPLEY A M,HUTCHEON M J,NEEDS R J,et al.High-throughput discovery of high-temperature conventional superconductorsJ.Phys Rev B,2021,104(5):054501.28 JAIN A,ONG S P,HAUTIER G,et al.Commentary:The materials project:A materials genome approach to accelerating materials innovationJ.APL Mater,2013,1:011002.29 DEVLIN J,CHANG M W,LEE K,et al.Bert:Pre-training of deep bidirectional transformers for language understandingJ.Arxiv,2018.Doi:10.18653/v1/N19-1423.30 MCMILLAN W.Transition temperature of strong-coupled superconductorsJ.Phys Rev,1968,167:331.31 ALLEN P B,DYNES R.Transition temperature of strong-coupled superconductors reanalyzedJ.Phys Rev B,1975,12:905.32 BERTHELOT David,CARLINI Nicholas,GOODFELLOW Ian,et al.Mixmatch:A holistic approach to semi-supervised learningJ.Arxiv,2019.Doi:10.48550/arXiv.1905.02249.33 EKIMOV E A,SIDOROV V A,BAUER E D,et al.Superconductivity in diamondJ.Nature,2004,428:542545(2004).34 YOKOYA T,NAKAMURA T,MATSUSHITA T,et al.Origin of the metallic properties of heavily boron-doped superconducting diamondJ.Nature,2005,438:647650.35 LI Q,WANG H,TIAN Y,et al.Superhard and superconducting structures of BC5J.J Appl Phys,2010,108:023507.36 TSUPPAYAKORN-AEK P,YANG X,PLUENGPHON P,et al.Route to high-TC superconductivity of BC7 via strong bonding of boroncarbon compound at high pressureJ.Sci Rep,2020,10:18.37 SAHA S,CATALDO S D,AMSLER M,et al.High-temperature conventional superconductivity in the boron-carbon system:Material trendsJ.Phys Rev B,2020,102:024519.38 LI Q,ZHOU D,WAN H,et al.Crystal and electronic structures of superhard B2CN:An abinitio studyJ.Solid State Commun2012,152,7175.