酷应用

突破神经网络限制，量子蒙特卡洛研究新进展登Nature子刊

百家作者：机器之心 2023-04-12 16:59:37

机器之心专栏

机器之心编辑部

时隔四个月，ByteDance Research 与北京大学物理学院陈基课题组又一合作工作登上国际顶级刊物 Nature Communications：论文《 Towards the ground state of molecules via diffusion Monte Carlo on neural networks 》将神经网络与扩散蒙特卡洛方法结合，大幅提升神经网络方法在量子化学相关任务上的计算精度、效率以及体系规模，成为最新 SOTA。

论文链接：
https://www.nature.com/articles/s41467-023-37609-3
代码地址：
https://github.com/bytedance/jaqmc

简介

作者将基于神经网络的试探波函数运用于固定节点面的扩散蒙特卡洛方法 (Diffusion Monte Carlo, or DMC) ，用以精确计算具有不同电子特性的原子以及分子系统。

扩散蒙特卡洛方法是量子化学领域精确计算分子和材料基态能量的常用方法之一。通过与扩散蒙特卡洛方法结合，作者显著提高了量子化学中神经网络 SOTA 方法的计算精度与效率。此外作者还提出了一种基于经验线性关系的外推方法，大幅改善了分子结合能计算。总体而言，该计算框架作为求解量子多体问题的高精度方法，为化学分子性质的深入理解提供了更强大的工具。

基于神经网络的量子蒙特卡洛方法

2018 年以来，多个研究小组将神经网络运用于变分蒙特卡洛方法 (Variational Monte Carlo, or VMC) 中 [1,2,3]，借助神经网络强大的表达能力，得到了更为精确的分子基态能量。本工作于 2022 年公开时，基于神经网络的变分蒙特卡洛方法中的 SOTA 工作是 DeepMind 于 2019 年提出的 FermiNet [2]，能够在规模较小的体系上得到非常精确的结果。然而变分蒙特卡洛方法的精度受限于神经网络的表达能力，在处理较大体系时会有越来越明显的精度问题。此外该类方法在处理较大体系时收敛非常缓慢，对计算资源提出了巨大挑战。

扩散蒙特卡洛方法作为量子化学领域的经典高精度算法之一，具有精度高、可并行性好、适合进行大规模计算等良好的特性。此外扩散蒙特卡洛可以突破神经网络的表达能力限制，利用投影算法超越变分蒙特卡洛方法的精度。

本工作中，作者将 SOTA 的神经网络 (FermiNet) 作为试探波函数与扩散蒙特卡洛方法结合。新的计算方法相比于 FermiNet 显著提升了精度并减少了所需的计算步数。本工作中所设计并实现的扩散蒙特卡洛软件具有神经网络友好、GPU 友好、并行友好的特点，可以与广泛的神经网络波函数结合，自动提升其精度与效率。

计算结果

1. 原子

使用神经网络对大型分子体系进行量子蒙特卡洛计算时，由于算力限制，所能使用的神经网络的表达能力也会受到一定限制。为了模拟这一场景，作者使用了仅仅两层的神经网络来研究第二、三排的原子。计算结果显示随着体系变大，变分蒙特卡洛方法的精度愈来愈差，而扩散蒙特卡洛方法所带来的精度提升也愈来愈明显。

2. 分子

作者在一系列分子体系上也验证了基于神经网络的扩散蒙特卡洛方法的有效性，包括氮气分子，环丁二烯以及双水分子。在所测试的体系上均观察到了明显的计算精度提升。

3. 苯环及双苯环

本工作公开前，量子化学领域中基于变分蒙特卡洛的神经网络波函数方法只处理过 30 电子以内的小型分子。本工作首次将神经网络波函数方法应用于 42~84 个电子的体系，即苯环与双苯环。计算结果显示，扩散蒙特卡洛方法在精度上显著优于变分蒙特卡洛方法，同时可以用少一个数量级的计算步数达到相同或更优的精度。

4. 线性关系及外推方法

作者在考察神经网络的不同训练阶段所对应的能量时，在很多体系上均发现变分蒙特卡洛与扩散蒙特卡洛的计算结果具有经验性的线性关系（下左图）。使用该线性关系对双苯环的解离能计算进行外推，显著提升了计算精度，得到了吻合于化学实验的结果（下右图）。

结语与展望

本工作表明，基于神经网络的扩散蒙特卡洛方法在精度与效率上均优于变分蒙特卡洛方法。作者开源的扩散蒙特卡洛代码可以与量子化学领域不断推陈出新的神经网络 [4,5] 快速结合，实现对研究社区的赋能。此外扩散蒙特卡洛方法也可以与处理真实固体的周期性神经网络 [6]、带赝势的神经网络 [7] 等一系列方法结合，在相应任务上提升计算效果。

参考文献

[1] Han, J., Zhang, L., & Weinan, E. (2019). Solving many-electron Schrödinger equation using deep neural networks. Journal of Computational Physics, 399, 108929.

[2] Pfau, D., Spencer, J. S., Matthews, A. G., & Foulkes, W. M. C. (2020). Ab initio solution of the many-electron Schrödinger equation with deep neural networks. Physical Review Research, 2 (3), 033429.

[3] Hermann, J., Schätzle, Z., & Noé, F. (2020). Deep-neural-network solution of the electronic Schrödinger equation. Nature Chemistry, 12 (10), 891-897.

[4] Gerard, L., Scherbela, M., Marquetand, P., & Grohs, P. (2022). Gold-standard solutions to the Schrödinger equation using deep learning: How much physics do we need?. In Advances in Neural Information Processing Systems.

[5] von Glehn, I., Spencer, J. S., & Pfau, D. (2023). A Self-Attention Ansatz for Ab-initio Quantum Chemistry. The Eleventh International Conference on Learning Representations.

[6] Li, X., Li, Z., & Chen, J. (2022). Ab initio calculation of real solids via neural network ansatz. Nature Communications, 13 (1), 7895.

[7] Li, X., Fan, C., Ren, W., & Chen, J. (2022). Fermionic neural network with effective core potential. Physical Review Research, 4 (1), 013021.