拓扑绝缘体由于具有受时间反演保护的拓扑表面态而展现出许多新奇特性，例如量子自旋霍尔效应、磁掺杂时的量子反常霍尔效应以及在拓扑/铁磁异质结中的非局域磁阻尼贡献等。这种拓扑表面态通常寄宿在样品表面约几个纳米左右的深度中，因此具有较大表面占比的超薄膜是放大这些新奇特性的理想体系。然而，随着厚度的减薄，薄膜上、下表面中的表面态会在空间上产生重合并相互耦合。以往理论工作计算了典型的狄拉克拓扑材料Bi₂Se₃超薄膜体系中上下表面态的杂化，并提出这种杂化会使表面态的狄拉克点打开一个能隙，且该能隙在某些厚度的体系中是拓扑非平庸，致使一维拓扑边缘态的出现。尽管单粒子能带理论可描述拓扑绝缘体的能带结构，预言的能隙在实验中被观测到，但随着薄膜厚度的降低，能隙理论计算值明显小于实验值。同时，在自旋分辨的角分辨光电子谱实验、铟掺杂诱导的拓扑相变实验以及微探针输运实验中，研究均未观测到该能隙的拓扑性质，表明单粒子能带理论无法描述Bi₂Se₃超薄膜体系的能带结构及其输运特性。

近期，中国科学院物理研究所/北京凝聚态物理国家研究中心磁学重点实验室M04课题组研究员成昭华团队与兰州大学教授薛德胜合作，探究了Bi₂Se₃超薄膜体系中上下表面态的耦合。实验上，科研人员通过超高真空分子束外延系统，制备出高质量且可精确控制厚度的Bi₂Se₃超薄膜，通过角分辨光电子谱（ARPES）测量了不同厚度Bi₂Se₃的表面态，并拟合出低厚度时能隙的大小以及Dirac点的位置。理论上，该研究引入了屏蔽库仑形式的等效互作用以描述这种表面态间的耦合。科研人员在Hartree近似下计算了该耦合的自能发现，该耦合会使表面态能带随着厚度变化而产生整体的平移。同时，研究人员计算了自洽质量能隙方程，得出了质量能隙随厚度的变化规律。研究显示，随着样品厚度的降低，能带的平移以及能隙大小的变化均与实验结果较好吻合。此外，研究发现，在Bi₂Se₃超薄膜体系中，上下表面的库仑耦合与石墨烯体系中K，K’点处两个狄拉克锥间的库仑耦合十分相似，打破的都是手征对称性，不会产生拓扑非平庸的能隙。该工作解决了之前在Bi₂Se₃超薄膜体系中实验与理论结论中的矛盾，加深了科学家对拓扑超薄膜体系中表面态行为的认知，为多层拓扑堆垛体系提供了新的描述方式。

相关研究成果发表在《自然-通讯》【Nature Communications 14, 4424（2023）】上。研究工作得到国家重点研发计划和国家自然科学基金会的支持。

论文链接

图1.（a）上下表面态耦合的示意图。蓝色线是自洽质量能隙方程对应的自能Feynman图。（b）厚度为27QL的Bi₂Se₃的ARPES谱，此时样品厚度足够厚，可视为无互作用时的情况。黑色点为Lorentz峰拟合得到的峰位，红色虚线为无质量Dirac费米子色散的线性拟合，理论计算中所用的两个参数通过该拟合得到。

图2. （a-f）为不同厚度Bi₂Se₃的ARPES谱，黑点为Lorentz峰拟合得到峰位，红色线为Dirac费米子色散关系的拟合。

图3. （a）实验中得到的Dirac点位置随厚度的变化（黑色点）与理论值（红色线）的对比。（b）实验中得到的能隙随厚度的变化（黑色点）与理论值（红色线）的对比，蓝色点为Y. Zhang等在实验中测得的值。