化学分子的隐藏空间嵌入方法原理和应用

陈昊天; 杨涛; 刘晓彤

doi:10.7536/PC20250308

化学进展 ›› 2025, Vol. 37 ›› Issue (10) :1456-1478 DOI: 10.7536/PC20250308

综述与评论

扫码查看或转发全文

化学分子的隐藏空间嵌入方法原理和应用

陈昊天 ¹^,² ,
杨涛 ¹^,² ,
刘晓彤 ¹^,²^,^*

作者信息 +

Latent Space Embedding Methods for Chemical Molecules： Principles and Applications

Haotian Chen ¹^,² ,
Tao Yang ¹^,² ,
Xiaotong Liu ¹^,²^,^*

Author information +

文章历史 +

摘要

化学分子的有效表示是推动化学信息学和新材料研发的关键。近年来发展出的基于数据驱动的分子表示技术，相较于传统手工设计描述符和图结构分析方法，能够有效避免噪声和信息冗余，为高效精准性质预测提供支持。嵌入表示具备高效信息压缩、数据表征增强和语义保留等特点，已广泛应用于深度学习与数据挖掘等领域。受自然语言处理领域词嵌入启发，研究者开始探索将类似方法应用于化学分子的隐藏空间构建，并提出多种用于分子性质预测和分子结构生成的嵌入方法。本综述首先阐述了机器学习中通用嵌入技术的原理，进而依次探讨了化学元素隐藏空间表示方法和化学分子隐藏空间嵌入技术。通过梳理自然语言处理、图嵌入等领域相关技术在分子嵌入中的创新应用，揭示当前分子嵌入正逐步向多模态、自监督学习和动态建模方向演进，对未来研究发展趋势提出展望。

Abstract

Effective representation of chemical molecules is the key to promoting chemical informatics and new material research and development. In recent years， data-driven molecular representation technology has been developed. Compared with traditional manually designed descriptors and graph structure analysis methods， it can effectively avoid noise and information redundancy， and provide support for efficient and accurate property prediction. Embedding representation has the characteristics of efficient information compression， data representation enhancement and semantic retention， and has been widely used in fields such as deep learning and data mining. Inspired by word embeddings in the field of natural language processing， researchers began to explore the application of similar methods to the construction of the latent space of chemical molecules， and proposed a variety of embedding methods for molecular property prediction and molecular structure generation. This review first elucidates the principles of general embedding technology in machine learning， and then sequentially discusses chemical element latent space representation methods and chemical molecule latent space embedding techniques. By examining the innovative applications of related technologies in natural language processing and graph embedding to molecular embeddings， the review reveals that current molecular embedding methods are gradually evolving towards multimodality， self-supervised learning， and dynamic modeling， and it outlines prospects for future research trends.

Contents

1 Introduction

2 Principles of embedding in machine learning

2.1 Word embedding

2.2 Graph embedding

2.3 Multimodal embedding

3 Element latent space representation methods

3.1 Attribute-based element representation

3.2 Element representation based on physicochemical knowledge

3.3 Data-driven element embedding

4 Advances in molecular latent space embedding

4.1 Traditional chemical feature-based molecular descriptors

4.2 Graph theory-driven molecular embedding

4.3 Data-driven molecular embedding

4.4 Multimodal molecular embedding

5 Conclusion and outlook

5.1 Current status and key technology

5.2 Future research prospects

Graphical abstract

关键词

分子嵌入 / 机器学习 / 表示学习 / 性质预测 / 多模态 / 自监督学习

Key words

molecular embedding / machine learning / representation learning / property prediction / multimodality / self-supervised learning

引用本文

引用格式 ▾

陈昊天, 杨涛, 刘晓彤. 化学分子的隐藏空间嵌入方法原理和应用[J]. 化学进展, 2025, 37(10): 1456-1478 DOI:10.7536/PC20250308

Haotian Chen, Tao Yang, Xiaotong Liu. Latent Space Embedding Methods for Chemical Molecules： Principles and Applications[J]. Progress in Chemistry, 2025, 37(10): 1456-1478 DOI:10.7536/PC20250308

登录浏览全文

4963

注册一个新账户忘记密码

1 引言

为满足分子信息处理与智能化任务对大规模数据量的需求，高通量实验与计算模拟技术近年来迅速发展^[1-2]，推动化学领域的科研数据呈指数增长。如何在大规模数据中进行高效数据分析与知识提取，成为揭示数据内在规律的关键挑战^[3]。受限于理论公式与先验假设，经验公式、线性回归及手工特征工程等传统分析方法在面对高维度、非线性、多源异构数据时存在明显局限，难以捕捉分子结构与性质间深层关联。研究人员尝试引入机器学习（Machine learning，ML）方法改变传统研究范式^[4]，希望在尽可能保留关键信息的前提下，实现高效数据压缩与潜在关联发现。深度学习作为机器学习方法子集，凭借在复杂数据特征提取和表示学习方面的卓越性能，逐渐成为材料与化学领域主流建模方法。

嵌入思想最初在自然语言处理领域^[5-6]取得突破性进展，词嵌入技术使计算机能够理解和处理自然语言中的语义关系，为语言理解与生成带来质的飞跃。随着嵌入技术在推荐系统、计算机视觉、社交网络分析中展现出强大的适应性，研究人员尝试将其推广至结构复杂、种类多样的分子和材料体系中。嵌入方法将原子或分子结构信息转化为可供算法处理的数值特征，向量所保留的有效信息极大程度上决定了下游模型性能与预测精度^[7]。

作为化学信息学研究的重要方向，化学分子隐藏空间嵌入研究能够揭示分子间的隐含关系，并在数据分析和模型训练上展现了独特价值。简化分子线性输入规范（Simplified molecular input line entry specification，SMILES）、分子指纹、分子图、分子图像、光谱以及文本（科研文献）等数据类型为嵌入技术提供了丰富应用场景。实验发现这些模态往往仅能在特定视角下提供分子信息，而融合多种数据来源的多模态嵌入方法可以更加全面地刻画复杂分子体系的多维属性^[8-11]。该方法通过融合不同来源信息，为模型提供更丰富、稳定的特征表示。图1展示了分子嵌入方法的发展历程，体现了分子表示方法向数据驱动学习方向的演进趋势。借助丰富的化学数据资源和文献知识，以及机器学习在特征学习方面的计算能力，数据驱动的嵌入方法通常展现出超越传统人工设计描述符的表示能力^[12]。当前基于人工智能的分子模型可以分为两大类：基于分子描述符的机器学习模型和端到端几何深度学习模型。这两类分子模型所采用的特征表示方法，可按其生成方式划分为三类：捕捉物理化学和结构特性（描述符和指纹）的表示方法、图论驱动的化合物图形表示方法、使用深度学习和自然语言处理算法的数据驱动嵌入方法。

化学分子由原子及其连接方式构成，原子类型、位置与局域环境等微观信息对整体性质起决定作用。元素嵌入作为原子层级特征表示，其原子信息及其相互关系为后续分子描述（如图嵌入、分子指纹等）提供基础数据，成为高效构建分子嵌入的首要步骤。本文将按由局部到整体的顺序展开，依次对机器学习嵌入原理、元素隐藏空间表示和分子隐藏空间嵌入进行介绍，比较不同嵌入方法异同，并展望分子嵌入研究的未来发展方向。

2 机器学习中“嵌入”原理

2.1 词嵌入

嵌入这一概念最早可以追溯到自然语言处理领域，Bengio等^[13]于2000年首次提出将词语映射到连续向量空间的思想，即“词嵌入”，旨在捕捉词汇间语义关系。这一概念有效推动了自然语言理解、生成等任务的发展，并为现代表示学习奠定了理论与方法基础。典型词嵌入模型方法包括Word2Vec^[5]、GloVe^[14]、FastText^[15]等，其实现原理如表1所示。语言结构启发的向量化表示方法也为其他复杂数据结构嵌入技术提供了普适框架。在化学领域中，词嵌入方法被引入分子序列与语料结构建模中，用于处理以文本为基础的结构表达或领域知识。例如，将SMILES分子结构序列类比为自然语言中的句子进行处理，或利用文献语料中上下文关系表示分子特征。

2.2 图嵌入

在化学领域中，分子图、反应网络、材料构型等数据天然具有图结构。图嵌入技术旨在将图中节点、边及其局部或全局结构特征转换为低维向量表示，有效解析数据实体之间关联，并支撑下游预测或聚类等任务。早期图嵌入方法，如拉普拉斯特征映射（Laplacian eigenmap，LE）^[20]和矩阵分解（Matrix factorization，MF）^[21]已经应用于化学领域的图分析任务中。在Word2Vec问世的第二年，Perozzi^[22]创造性地提出了DeepWalk，将词嵌入方法引入图嵌入领域，用于处理结构化数据和图数据场景。DeepWalk将图中游走的序列类比为语料库中的句子，序列中的节点类比为句子中单词，节点在序列中随机游走的共现关系类比为词汇共现关系。该方法将随机游走生成的节点序列，应用Word2Vec方式得到节点嵌入。后续研究中，Grover和Leskovec^[23]针对DeepWalk不能应用于带权图的问题，引入控制游走方向的参数，并设计了概率游走策略。图2为图嵌入方法应用于下游任务过程。与词嵌入不同，图嵌入不仅需要捕捉节点间关系，还需要考虑图的拓扑结构。此后发展出GraphSAGE（Graph SAmple and aggreGatE）^[24]和图卷积网络（Graph convolutional networks，GCN）^[25]等方法，直接利用节点邻居信息或执行图卷积操作，高效处理大规模或高复杂度图数据。图嵌入的核心优势在于能够利用局部原子环境捕捉整体结构拓扑特征，适用于结构复杂、拓扑多样的分子结构，这类方法已在化学性质预测、分子分类及反应路径识别等任务中广泛应用。

2.3 多模态嵌入

为了全面传递事物信息，描述同一物体不同方面的多种认知会被记录在不同类型数据中，如文本、图像、视频和声音。多模态表示学习的目标是在保持每种模态特定语义不变的前提下，减小其联合语义子空间中的分布差异。在表示学习领域中，“模态”指代编码信息的特定方法或机制。由于多模态数据从不同角度描述物体且通常在内容上互补，因此它们比单一模态数据蕴含更丰富的信息量。分子表示学习中的信息来源涵盖了多种异构数据类型，包括SMILES字符串、分子图、分子图像、光谱以及文献文本等，这些模态从不同维度提供了丰富的分子特征。由于来自不同模态的特征向量最初分布在各自独立的特征子空间，即使它们在语义上高度相关，所对应的数值表示仍可能存在显著差异。这种模态间的异质性会阻碍后续机器学习模型对多模态数据的有效利用^[26]，因此常见方法是将这些异质特征投影到一个共同子空间中^[27]，以减小不同模态间的异质性差距。在该子空间中，相似语义的多模态数据将由相似的向量表示，利用对齐后的特征构建机器学习模型时，可帮助模型更好地理解和融合多模态信息。如图3所示，当前多模态表示学习主要包含三种框架^[28]：联合表示框架通过学习共享语义子空间来融合信息、协调表示框架在特定约束下学习每种模态独立但协调的表示、编码器解码器框架专注于模态间转换并保持语义一致性。

3 元素隐藏空间表示方法

3.1 基于属性特征的元素表示

分子的性质由其构成元素的属性及元素间相互关系决定。为实现元素编码，通常根据具体任务选取一组物理化学属性作为特征，并将其转换为固定长度的向量表示。构建的特征表示能直接反映元素在周期表中的位置及其基本化学特性，有助于理解元素在分子或材料体系中的行为。常用的物理化学属性包括族、周期、电负性、原子半径、电子亲和能、化学键能等^[29-30]，研究人员可以根据研究需求构建不同的元素表示，以适应不同分子体系。原子序数作为一种基础特征，也常用于编码设计，一种典型实现方式是将元素的原子序数（或其他编号）转化为独热编码向量，这在化学元素种类相对有限的情况下较为适用。但由于独热编码向量在空间中彼此等距，无法体现元素间的物理或化学相似性，因而会限制模型的判别能力。在分子图结构中作为节点时，原子在不同模型中的表示方法有所不同^[31-34]，代表性的如Xie等提出的晶体卷积神经网络（Crystal graph convolutional neural networks，CGCNN）^[35]，选择了9种元素属性来表示元素，依据属性信息对离散值采用类别编码方式，连续值则根据属性值范围均匀分为10个类别。连续值属性的离散化目的是在模型中引入不同特征的区间信息，离散化过程的分割点通常依据数据分布或物理化学特征来确定。

3.2 基于物理化学知识的元素表示

仅由单个元素属性信息组成的特征向量难以反映元素间的相互作用，因此在处理复杂相互关系任务时往往表现出局限性。部分研究人员转向采用基于物理定律建模的元素表示方法，借助量子力学理论来刻画元素微观行为。典型方法包括利用密度泛函理论（Density functional theory，DFT）等物理模型，计算元素或其所在分子中的电子结构、原子轨道分布、能带结构等物理量，并将这些结果转换为元素的向量表示^[36]。这类基于物理化学知识的表示方法主要应用于需要精确建模的物理领域，其特征向量能够结合物理规律，捕捉元素深层次的物理化学特性。为达到更准确效果，其特征选择过程往往带有较强主观性和领域局限性。

3.3 数据驱动的元素嵌入

与基于专家知识的手工构造方法不同，数据驱动的嵌入方法基于神经网络等模型，从大规模数据中自主学习化学元素在低维隐藏空间中的分布表示。嵌入向量的效果取决于数据质量和模型结构，通过任务驱动的训练过程，学习到的向量能够反映元素在特定化学环境中的规律。在深度学习中，一种常见策略是构建一个可学习的查找表（即嵌入矩阵），将输入的离散索引（如原子序数）映射为任意长度的连续向量表示。模型通过反向传播算法优化随机初始化的嵌入向量，使其表达能够最小化训练任务中的损失函数，从而让化学环境相似的元素在向量空间中呈现更高相似性。例如Chen等^[37]利用图神经网络（Graph neural networks，GNN）建立的材料科学机器学习预测框架MEGNet（MatErials graph network）在表示晶体图中原子时采用该方法，有效避免手动选择元素特征的局限。

知识图谱提供了一种结构化且可解释的表达方法，用于捕捉化学元素、化合物、材料及其复杂语义关系。知识图谱将化学元素、分子、材料特性等实体表示为节点，并通过关系（如“参与反应”、“具有特性”等）将其连接，从而整合多来源科学数据，揭示元素在不同化学环境中的行为。以MatKG（Materials knowledge graph）^[38]为例，它是目前材料科学领域最大的知识图谱之一，其涵盖多种材料科学相关主题。MatKG从大量材料科学文献中提取数据，结合先进自然语言处理方法，自动识别并构建了包含材料、属性、应用、合成方法等相关实体的结构化图谱，目前覆盖了超过70000个实体和540万条关系。借助知识图谱嵌入（Knowledge graph embedding，KGE）技术，可以将图谱中的节点和关系映射到低维向量空间中。对化学元素节点而言，其在不同材料或分子环境中的角色和化学行为，能够通过图的结构化信息得以体现。

Word2Vec模型在自然语言处理领域中用于词嵌入学习，其思想同样被成功应用于化学和材料科学领域。由于绝大多数科学知识以文本形式发布，无论是传统统计方法还是现代机器学习方法都很难充分挖掘其价值。Tshitoyan等^[39]提出了一种无监督的文本嵌入方法Mat2Vec，这是在材料科学领域构建文本嵌入的开创性工作。该方法将Skip-gram变体应用到材料科学文献语料库中，用于预测目标词（如化学元素、材料和相关的物理特性等）附近的上下文单词。丰富的上下文信息使得生成的嵌入表示不仅能捕捉简单的元素符号或位置关系，更能反映元素在实际材料环境中的多维信息。此外，BERT等模型通过掩码语言模型（Masked language model，MLM）增强上下文理解能力，从而改善文本嵌入的表示效果。上述材料科学领域知识图谱嵌入和文本嵌入方法不仅限于元素表示，同样适用于分子和材料描述，相关进展将在后续数据驱动的分子嵌入章节进一步介绍。

4 分子隐藏空间嵌入研究进展

4.1 传统化学特征分子描述符

化学和材料科学应用的一个关键步骤是通过分子描述符将分子结构信息转化为可供计算模型处理的数字化表示。迄今已发展出多种不同类型分子描述符，涵盖从分子式、二维分子图、三维构象到更高层级表示（如考虑分子间相对取向及随时间变化的动态行为）^[40]。这些描述符通过编码分子结构不同层次特征，为分子性质预测、筛选与分类等任务提供有效输入。

在定量构效关系（Quantitative structure-activity relationships，QSAR）研究中，广泛使用的分子描述符可分为0维到4维等多个层次。图4以C₁₃H₁₈O₂为例，展示了不同维度描述符所包含的信息。化学式是最基础的分子表示法，它仅提供分子的元素组成及其计量关系信息，不包含原子间的连接性和分子结构信息。0维描述符直接基于化学式计算，获得如原子类型计数或原子性质总和的描述符。这类描述符计算简便，但信息含量低且无法与分子一一对应。

1维描述符用于表征分子拓扑结构特性，如结构片段或指纹。其中SMILES已成为以一维文本字符串形式存储和处理分子化学结构信息最流行的方式。其类似表示如SMARTS（SMiles ARbitrary target specification）等，均能唯一地编码分子，并隐含原子类型、连接性、键阶、支链、环、质子化位点和手性中心等化学信息，基于这些信息可以推导出更复杂的二维和三维分子结构表示。通过对SMILES字符串进行片段化处理，分子可被视为若干典型子结构的组合，从而构建一维分子描述符。这类描述符通常由一组子字符串组成，并以二进制形式（指示特定子结构是否存在）或计数形式（记录子结构出现频率）进行编码。

2维描述符提供分子层面结构信息及其在二维平面内的性质，其反映原子间连接方式、化学键的存在及其性质信息。从分子图中，可以通过数学方法推导出多个二维描述符。这类描述符对结构特征敏感，可用于表征分子大小、形状、对称性、分支和环状结构等信息。此外，特定化学信息可以通过分子图中原子属性权重来纳入^[41]。

3维描述符用于描述分子在三维空间中的几何属性，重点反映原子间的空间排列关系。当分子被视为三维空间中的几何实体时，其原子位置和排列情况可通过笛卡尔坐标表示。这类描述符能够准确捕捉键长、键角及原子连接性信息，进而整合分子整体的构象特征。4维描述符则在3维描述符基础上，进一步纳入分子与受体间相互作用以及构象变化等动态因素。

不同维度分子描述符从多个层次刻画分子的组成、结构与行为特征，研究人员围绕这些结构层次，发展出多种形式的经典分子描述符。经典分子描述符通过将分子结构或化学性质（源自实验测定或根据分子结构的拓扑、几何特征计算获得）转化为数值向量进行表示，向量中每个数值对应于分子的某一结构特征或化学性质。为定量描述分子结构、性质及反应行为，可根据任务需求将该类描述符单独使用或与其他描述符结合应用。描述符度量尺度包括离散值（如双键数量、原子类型计数）、二进制值（如特定取代基的有无）和连续值（如分子量、极性）等。实验证明^[42]，将与特定任务相关的分子特征以向量形式表示，能有效支持机器学习模型构建与性能提升。

分子指纹作为一种分子结构特征的抽象表征，最初用于化学数据库中的子结构和相似性搜索。它通过定性编码分子结构中重要子结构或特征，在机器学习中被广泛使用。指纹可以根据化学信息类型、使用的算法以及应用场景划分为多种不同类型。基于字典的指纹根据预定义结构列表中特定子结构或特征的存在与否设置比特串。例如MACCS（Molecular ACCess system）指纹^[43]采用SMARTS编码的166个片段子结构来描述分子结构，涵盖了药物发现和虚拟筛选时所需的大多数化学特征。这类指纹表示简单且高效，但由于依赖预定义的子结构，可能会忽略分子中更复杂的拓扑信息。基于拓扑或路径的指纹则通过分析从一个原子开始直至到达指定键数（通常为线性路径）的所有分子片段，对每一条路径进行散列（Hashing）来生成指纹。此类指纹适用于任意分子且长度可调。但由于散列操作，指纹中特定比特位与结构特征并非一一对应，即不同结构可能映射到同一比特位。Daylight指纹（Daylight fingerprint）是此类型指纹的突出代表，它由多达2048个比特位组成，编码了分子达到给定长度的所有可能的连接途径。圆形指纹是另一种散列的拓扑指纹，与基于路径的指纹不同，它不在分子中寻找路径，而是记录从原子出发到指定半径内的原子环境。由Morgan算法衍生的扩展连接指纹（Extended connectivity fingerprint，ECFP）^[44]是圆形分子指纹的行业标准方法。ECFP指纹在使用时，根据设定直径不同，会产生可变长度指纹。根据Rogers与Hahn的研究^[44]，直径更大的ECFP可以捕获更多分子结构细节，理论上更适合机器学习进行预测，但因计算成本更高，实践中常用ECFP6与ECFP8（数字代表直径）。此外，基于文本的指纹（LINGO^[45]和SMIfp^[46]）从化合物的规范SMILES字符串出发生成化合物指纹。随着化学信息学进展，经典指纹类型被改进形成强化指纹，例如，Bender等^[47]基于Nidhi等^[48]的工作，将ECFP4与贝叶斯模型和Pearson相关系数结合，开发出贝叶斯亲和力指纹，用于基于配体结构预测其与靶标的结合亲和力。由于单一指纹模式往往难以覆盖分子全部关键特征或化合物特性，因而出现了多指纹融合策略，它通过结合不同来源指纹向量兼顾结构、电子与生物活性信息。例如Laufkotter等^[49]将生物活性描述符HTSFP66与结构描述符ECFP4连接，提出生物活性-结构混合（BaSH）指纹，结合机器学习展现出更优的化合物活性预测能力和骨架跃迁潜力。

4.2 图论驱动的分子嵌入

分子建模中，图结构是一种自然且直观的数据表示方法。数学上，图被定义为一个二元组

G = V, E

，每条边

e ∈ E

连接V中的一对节点。如图5a所示，分子图的理念在于将组成分子的原子和化学键映射到节点和边的集合中。分子图在表示形式上属于二维拓扑结构，图中节点本身不包含固定的空间位置信息，只体现节点间的连接关系，但可以通过在节点和边的属性中编码三维信息（如原子坐标、键角等）来有效地表示分子空间构型。

为将分子图转化为机器学习模型可处理的数值表示，需将分子拓扑结构（包括原子间连接方式、原子种类以及键类型）映射为矩阵。其中，原子连接方式通常以邻接矩阵形式表示，用于表示节点间是否存在化学键。原子属性（如用原子类型、形式电荷等）与键属性（如键类型）则通过特征矩阵表示，矩阵的每一行对应分子图中一个原子或一条边的特征向量。需要注意的是，图的矩阵表示依赖于节点顺序，根据同一分子在表示上是否需要满足一致性，通常采用深度优先、广度优先搜索或随机搜索等图遍历算法确定节点顺序。

分子图的基本假设是分子中原子核和电子之间的关键相互作用可以通过图结构隐含表示，从而有效描述分子的几何构型、功能及特性。尽管分子图可以简化分子表示，但在处理某些特殊类型分子时仍存在局限^[50]。例如，对于键合模式不符合价键理论的超价化合物分子，需引入超图（Hypergraph）处理，超图中的超边（Hyperedge）可以连接两个及以上原子。此外，对于原子排列在空间中不断变化的分子（如键形成或断裂以及结构频繁重组时），静态分子图表示将不再适合。真实场景中，分子图在内的图结构常需处理动态变化过程（节点、边及属性变化），这为机器学习的推理和预测带来显著挑战。尽管动态图表示学习^[51-52]已是当前热门研究方向，化学领域中的图学习方法大多仍停留在静态图结构，为未来化学中动力学的研究提供了可能。

在图学习兴起之前，研究人员曾尝试采用多种固定大小的描述符描述晶体与分子结构，例如库仑矩阵（Coulomb matrix）^[53]、受经典力场启发的描述符（Classical force-field inspired descriptors，CFID）^[54-55]和Voronoi镶嵌^[56]等。随着方法演进，GNNs方法展现出超越传统人工设计描述符的性能优势^[32]。GNNs可以被理解为卷积神经网络（Convolutional neural networks，CNNs）在不规则图结构上的推广，它能同时考虑节点本身特征和节点间拓扑关系，从而直接从分子结构（包括原子和化学键构成的分子结构图、三维构型或点云）中学习图嵌入表示^[57-58]。如5b图所示，GNNs核心流程是通过多次信息聚合和迭代将输入的分子图进行转换，并基于更新后的图结构进行预测。受立场模型启发，多种几何信息（距离^[37]、键^[59]和二面角^[60-61]）被表示为对称性或基函数，用于构建节点或边的表示。图网络通过使用高斯函数^[62]、径向基函数^[63]和球形傅里叶-贝塞尔函数^[64]等方法来扩展或处理这些几何信息。此外，除了手工设计输入特征，研究人员还借鉴自然语言处理中词嵌入技术，探索了嵌入表示学习^[65-66]。

GNNs与传统机器学习模型的主要区别在于其结构信息的提取方式。在材料科学领域中提出的大部分GNN架构在方法设计上遵循了Gilmer等^[67]提出的消息传递神经网络（Message passing neural networks，MPNN）框架。聚合函数是网络架构的重要组成部分之一，它决定了模型如何有效地组合相邻节点信息，并很大程度上影响着模型在实际任务中的性能。图5c展示了GNN网络各层从相邻节点汇聚信息的过程，为获得分子的整体表示（而非仅限于节点表示），需要通过Readout函数将所有节点信息聚合到全局描述符中。表2选取了5种应用于分子研究的GNNs模型，总结了它们在输入特征以及聚合方法选择上的异同。在化学领域的应用实践中，GNNs模型的研究重点逐渐从原子特征选择转向边（键）特征选择，从而准确地捕捉分子内部相互作用。同时，研究人员开始采用等变图神经网络处理空间旋转对分子表示的影响，并引入辅助任务来强化模型特征学习能力。

4.3 数据驱动的分子嵌入

随着数据科学思想深入化学领域，研究人员逐渐摆脱对人工特征设计的依赖，转而借助深度学习和自然语言处理算法，让模型自主学习分子结构在隐藏空间中的表示。本节将介绍语言模型、生成式模型、图对比学习、图预训练以及图谱嵌入等方法在分子嵌入学习中的应用。这些方法被引入化学信息学领域，旨在克服SMILES字符串、分子图等输入形式在分子表示能力上的局限，表3中列举了本小节所讨论的相关代表性嵌入方法。

近年来，自然语言处理（Natural language processing，NLP）技术开始被应用于经典分子特征的表示学习^[32,89-90]，其中一类常见方法是使用“词频-逆文档频率”（Term frequency-inverse document frequency，TF-IDF）^[89]和“潜在狄利克雷分配”（Latent dirichlet allocation，LDA）方法^[91]；另一类方法则通过Word2Vec学习分子片段的嵌入表示。Mol2Vec^[72]是近年来基于Word2Vec学习分子嵌入的代表，该方法有效克服了ECFP表征子结构间关联性不足的问题。Mol2Vec将分子分解为片段（子结构），在子结构上的处理借鉴了自然语言处理中Word2Vec 模型，将子结构视为“词语”，化合物视为“句子”，通过加权平均分子中所有子结构的向量来获得分子表示。与之类似，SMILES在编码分子结构时缺乏对分子整体结构和立体化学的考虑，而Grammar2Vec^[73]利用SMILES语法生成规则^[92]，将分子视为由这些规则构成的“句子”，每个规则被视为“单词”，应用Word2Vec中CBOW（Continuous bag-of-words）方法生成分子向量表示。

Hinton等^[93]提出的自动编码器框架通过无监督方法获取输入数据潜在表示，为化学结构表示提供了新思路。该方法将输入数据编码并压缩到低维空间，通过学习重构原始输入来捕捉数据基本信息。基于此思路，Gómez-Bombarelli等^[94]率先将SMILES序列引入变分自编码器（Variational auto-encoders，VAE），在编码器-解码器（Encoder-decoder，ED）结构中提取和重建化学结构的潜在表示，从而生成连续且可逆的分子表示。然而，该方法基于字符级重构，未能充分保留分子整体化学结构信息。为弥补这一不足，Winter等^[95]引入神经机器翻译思想，通过序列到序列（Sequence to sequence，Seq2Seq）架构构建了一种将随机SMILES翻译为规范SMILES的模型（SMILES）-Seq2Seq。该方法可以实现在随机SMILES和规范SMILES之间转换，并进一步扩展至与其他字符串表示形式（InChI）的转换。此外，Winter等^[94]针对模型架构引入SMILES2Vec，使用门控循环单元（Gate recurrent unit，GRU）架构生成潜在表示。

鉴于SMILES的序列性质，研究人员进一步发展出多种基于循环神经网络（Recurrent neural network，RNN）生成新分子或学习新分子嵌入的方法^[96-98]。例如，Xu等^[98]提出无监督方法Seq2Seq Fingerprint，该方法使用基于GRU构建的多层RNN自动编码器，通过连接自动编码器隐藏状态获得分子嵌入。Huo等^[99]则使用双向长短期记忆网络（Bidirectional long short-term memory，BiLSTM）结合通道和空间注意力模块探索SMILES表示。然而，RNN模型在捕捉原子间关系和键类型方面存在局限。为此，Mol2Context-vec^[100]通过集成多种内部状态，生成分子子结构动态表示。随着预训练语言模型的发展，MolGPT^[101]首次将GPT^[102]（Generative pre-training transformer）模型应用于分子生成任务，在分子性质和结构优化两方面均取得成效。

分子嵌入已成为实现高效分子表示学习与化学结构生成的关键环节，其中连续隐空间嵌入与离散分子嵌入是分子嵌入在生成式模型应用中的两种常见策略。前者提供平滑的表示形式，便于进行梯度优化和概率推断，但存在将离散结构映射到连续空间的问题；后者保留分子固有离散属性，更擅长捕捉图结构分布特征。本段将围绕这两种策略，介绍其在各类生成式模型中的应用。在连续隐空间建模方面，Jin等^[103]提出JT-VAE实现分子图生成，基于特定化学特性实现自动化分子设计。相较于生成具有度约束的通用图，创建树结构复杂性更低，这归功于连接树表示（将分子图分解为以树节点代表的分子子结构）的实现，JT-VAE实现了里程碑式的100%分子有效性。HierVAE^[104]在JT-VAE的基础上，引入更大、更灵活的图结构单元作为基本构建块，在处理较大分子时表现出更高性能。G-SchNet^[105]同样采用自回归方式，在三维欧几里得空间中逐个放置原子。该方法结合欧几里得空间几何约束和原子分布旋转不变形作为先验知识，在不依赖任何基于图或键信息的情况下，直接生成三维分子结构。深度生成模型通过对分子图编码学习连续潜空间，但在加快药物发现过程中往往无法同时保证生成原子、键类型符合化学键约束。相较于VAE、GAN以及自回归模型，基于流的模型能够记忆并精准重建全部输入数据。Shi等^[106]提出基于流的自回归分子图生成模型GraphAF，通过添加实值噪声将离散图数据转化为连续数据。该方法将分子图生成问题抽象为顺序决策过程：从空图开始，根据子图结构顺序生成新节点，并系统构建新节点与现有节点的边，即使在没有化学知识规则情况下GraphAF有效分子生成率达到68%。MoFlow^[107]同样基于流模型，实现可逆映射一次性生成分子图，并且具有化学有效性保证。MoFlow基于Glow模型^[108]生成多类型化学键，并使用图卷积构建图条件流模型用于生成给定键的原子，最终将原子和键组装，形成满足化学价键约束的有效分子图。相较于GraphAF，MoFlow有效分子生成率提升至82%。在生成三维分子过程中，模型往往先预测原子类型及相应原子坐标，后根据距离判断原子键，这会导致生成不真实的拓扑结构（如大环）或原子价键错误。Peng等^[109]针对这种三维分子生成中原子-化学键不一致问题，提出对原子和键同时进行概率采样的扩散模型MolDiff，显著提高生成分子的类药性。MolDiff基于SE3等变神经网络，同时进行原子和化学键的消息传递，并在分子生成过程中使用原子键预测器的梯度，引导原子生成更适合的化学键。扩散模型DrugDiff^[110]通过训练VAE，实现了分子SELFIES^[111]（SELF-referencIng embedded strings）序列到连续潜在空间的映射，同时结合一系列属性预测器^[112]指导采样过程中的潜空间扩散模型^[113]，生成具有多种所需分子属性的新型化合物。将离散图转换为连续数据这一去量化过程，削弱了模型准确表示原始离散图结构分布的能力。在离散分子嵌入方面，Luo等^[114]在GraphAF^[106]基础上提出离散流模型GraphDF，使用离散潜变量生成分子图，解决去量化带来的问题。GraphDF中所有潜变量均为离散型，并通过多项分布进行采样，模型将离散潜变量可逆地映射到新节点和边。除生成完整分子外，一些模型专注于特定结构设计场景。基于图的深度学习方法DeLinker^[115]，首次将三维结构信息直接纳入分子生成模型设计过程。DeLinker基于两个分子片段及其相对位置和方位，生成或替换它们之间的连接子，其生成过程利用部分结构之间的相对距离和方向实现蛋白质上下文相关，并证明在多种设计问题（片段连接、骨架跃迁和针对蛋白降解靶向嵌合体）上的有效性和适用性。Liu等^[116]提出基于能量的分子图生成模型GraphEBM，以克服因未能保证排列不变而使模型产生偏差的问题。排列不变性是图建模中一个内在且理想的归纳偏差，该研究以排列不变的方式对能量函数进行参数化，使模型具备排列不变性。模型使用郎之万动力学^[117]，通过近似最大化似然函数的方法训练能量函数，再从训练好的能量函数中生成样本。Xu等^[118]基于去噪扩散模型^[119]，将原子视为热力学系统中的粒子，通过模拟扩散与逆向生成过程保证旋转平移不变性，有效生成分子的三维构象。面向基于结构的药物设计，Liu等^[120]提出GraphBP模型，通过逐个放置原子生成特定三维结合位点的三维分子。该方法采用三维图神经网络提取当前语义信息，通过自回归流模型依次生成原子，并在生成过程中考虑三维空间等变性质，有效生成具有与目标蛋白结合能力的分子。

Transformer架构的引入为分子表示学习开辟了新的路径。研究人员借助大规模无监督数据对模型进行预训练，再通过微调适配具体化学任务。SMILES-BERT^[79]在BERT上的成功应用，证明了基于Transformer框架的分子表示研究的可行性，为后续研究奠定了基础。在此基础上，Chithrananda等^[85]提出ChemBERTa，通过采用RoBERTa^[121]替代传统BERT模型，有效提升对SMILES字符串的表征能力。实验结果表明，基于MLM的预训练策略在MoleculeNet^[122]下游任务中显著提升模型预测能力，展示出语言模型预训练思想在化学信息学中的跨领域迁移潜力。Liu等^[83]引入旋转位置编码（Rotary position embedding，RoPE）^[123]，以更高效地编码SMILES序列中的位置信息，从而增强BERT预训练模型提取潜在分子子结构信息的能力。该方法在Mol-BERT模型^[82]的基础上，采用RoPE替代绝对位置编码，解决了模型性能受序列长度影响的问题，在分子性质预测任务中实现性能提升。MoLFormer^[87]同样引入RoPE，将分子语言表示与Transformer编码器模块结合，在大规模分子语言模型中实现对分子内原子空间关系的建模。除序列建模外，Wu等^[88]引入异质分子图（Heterogeneous molecular graphs，HMGs）概念，提出同时利用分子基序和三维几何结构的分子表示学习框架Molformer。该方法通过异质自注意力机制（Heterogeneous self-attention，HSA）区分不同层级节点的交互关系，并利用注意力最远点采样算法（Attentive farthest point sampling，AFPS）聚合分子表示，在量子化学、生理学和生物物理等多个领域展现出其在分子建模任务中的潜力与优势。除编码器优化路线，基于小分子语言模型的MegaMolBART探索了双向自回归Transformer架构（Bidirectional and auto-regressive transformers，BART）在分子预训练中的应用，并展示出比摩根指纹更好的嵌入效果^[12]。这些研究成果充分证明，大规模分子语言模型能够有效捕捉化学和结构信息，为多种分子性质预测提供有力支持。

字符串类型分子表示的单一维度难以体现分子拓扑结构特征，因此，研究人员将注意力从一维分子序列转向更具结构信息的二维图表示^[124]。鉴于自监督学习（Self-supervised learning，SSL）框架在分子序列上的成功应用，基于图的预训练框架^[125-129]在近几年迅速发展。在分子表示学习领域，越来越多的研究尝试结合分子图本身的特性进行建模。例如，Zang等^[78]为有效挖掘分子图内部的化学结构特征并克服Readout函数缺乏全局信息的问题，提出了HiMol框架，该框架借助分层分子图神经网络和多级自监督预训练实现目标。Zhang等^[130]提出自监督框架MGSSL，通过设定图中基序的遍历顺序（深度优先搜索或广度优先搜索）作为前置任务，实现结构感知的自监督学习。此外，还涌现出一系列面向子图（MICRO-Graph^[131]）、分子图结构增强模式（MolCLR^[132]）、基序学习（iMolCLR^[133]）以及化学反应关系建模（MolR^[134]）等方面的对比学习方法。分子对比学习（Molecular contrastive learning，MCL）已成为当前应对分子间缺乏明确关系的重要方法，其关键问题之一在于如何设计合理的分子图生成增强策略，从而生成有效正负样本。现有MCL方法及其变体多基于MolCLR方法提出的分子图随机扰动增强方案：原子屏蔽、键删除和子图删除。但这种增强方案往往忽视了分子结构中的化学规则与先验知识。为此，Gong等^[135]提出了MIFS框架，旨在解决分子内部信息传播受限和自监督学习缺乏化学合理性问题。MIFS结合三条信息传播路径首次实现多路径传播的专用分子图编码器，在自适应对比预训练策略中，它基于分子骨架和侧链生成增强实例以确保结构合理性，并在微调阶段通过元素知识图谱引入额外化学知识。MDFCL^[136]同样受MolCLR启发，通过在分子主链和侧链上直接进行结构操作，实现自适应增强策略并融合多模态数据。该方法在传统图对比学习基础上，分别构造了四种不同增强实例及三层次的损失函数，充分探索分子间微小差异，优化分子在化学空间中的表示能力。

区别于上述模型训练中仅利用单一类型数据（如结构信息），知识图谱能够提供更为丰富的分子外部信息，例如官能团、分子理化性质及其他关键先验知识。知识图谱涵盖多种实体类型（例如化学元素、化合物、药物和蛋白质）和关系（例如化合物之间的化学反应），其异构性为刻画多层次实体间的联系提供有力支持。由于知识图谱规模庞大且包含大量外部信息，实体和关系表示具有较高维度与复杂性。为应对这一挑战，当前研究多聚焦于KGE方法，旨在将知识图谱中实体与关系映射为稠密的低维实值向量，在保持知识图谱结构完整性基础上，有效降低计算复杂性。Wang等^[137]对现有KGE模型方法进行了系统梳理，将这些方法归纳为基于距离的模型、语义匹配模型以及基于神经网络及其他新颖方法的模型嵌入方法，并分别分析了各类模型在关系建模能力及特定下游任务中的适用性与表现。

4.4 分子多模态嵌入

本文在2.3节中介绍了多模态嵌入的基本概念，包括模态定义、多模态数据互补性、联合语义子空间的构建方法及常见的多模态表示学习框架。本节在此基础上，聚焦于多模态嵌入在分子表示学习中的应用。Karim等^[8-9]的研究展示了融合多种分子表示的重要性，说明融合不同视角分子特征已成为分子性质预测的重要研究方向。如图6所示，多模态学习的核心在于如何有效融合和利用异质模态信息，当前研究主要通过合理设计学习框架与模态交互策略避免在融合过程中引入额外噪声干扰。

在分子表示中，SMILES以字符序列形式记录原子及其连接关系，是化学数据库中最常见的分子表示方法，同时也是分子性质预测任务中最易获取的数据模态。其线性结构天然契合各类序列建模方法，在构建多模态学习框架时常作为基础模态引入。例如，GraSeq^[138]使用LSTM和GNN将SMILES与分子图结合，捕捉序列和拓扑信息以增强跨任务性能；MTBG^[139]则采用BiGRU（Bidirectional gated recurrent unit）和GraphSAGE结合SMILES与分子图。这些研究将SMILES作为序列信息来源，与结构模态（分子图）联合建模，挖掘化学信息互补性。考虑到分子构象对多种分子性质（如溶解度、毒性）的影响，仅依赖SMILES和二维分子图在处理分子几何密切相关性质时存在局限。针对该问题，Nguyen等^[140]结合分子的二维结构与多个三维构象信息，引入可微分的最优传输方法FGW（Fused Gromov-Wasserstein） barycenters^[141]聚合不同构象的几何与语义信息，从而生成统一且结构感知的分子表示。为获得更加简单高效的多模态分子表示架构，MolMix^[10]引入Transformer、消息传递神经网络以及等变神经网络作为SMILES、二维图特征与三维构象异构体的编码器，将模态特征拼接为统一多模态序列应用于下游Transformer模型。MolMix在保证计算效率和可扩展性的同时，在MoleculeNet^[122]和MARCEL^[142]数据集的多个属性任务上取得最佳结果，进一步验证了SMILES与其他模态协同建模的潜力。此外，由SMILES或分子图衍生的分子指纹也常被用作补充模态或预处理特征，在多模态框架中提高模型对分子结构差异的敏感性^[143-148]。Yi等^[149]提取了药物分子的三种模态特征：一维指纹特征、二维拓扑结构和三维几何结构，基于能量函数设计动态加权机制进行模态特征融合，以应对不同模态间语义冗余和噪声导致的假阳性预测增加的问题。

分子图表示能精确反映分子结构，是当前分子建模任务的核心方法之一，在多模态学习中，分子图常与序列、构象、分子图像等模态信息进行融合^[150-153]。在图结构与三维几何信息融合方面，GraphMVP^[127]首次在图自监督学习中引入三维构象信息，通过对比式SSL和生成式SSL，利用二维拓扑结构与三维几何视角间的一致性联合预训练。Stärk等^[154]同样利用分子的二维图与三维图结构，提出一种基于信息最大化方法来增强二维和三维分子嵌入之间的互信息。面向模态异构融合的问题，Chen等^[155]利用异构图整合不同分子模态表示，通过使用元素知识图谱和元路径定义构建统一分子图。然而，仅依靠直接或粗粒度分子比对难以有效弥合模态间关联。针对此问题，Chen等^[156]从节点视角和图视角出发，在二维拓扑和三维几何数据上进行节点级和图级预训练任务，以实现跨模态知识共享。为使图级表示获取更充分的知识，MolGT^[156]对分子指纹进行聚类生成原型标签，为图级表示在特征空间形成聚类结构提供先验知识。除结构数据外，来自电子显微镜、X射线晶体学和分子渲染工具获得的分子图像为分子建模提供了直观的几何信息。基于二维/三维拓扑结构和图像的多模态分子表示方法正逐渐成为主流^[9,157]。例如DLF-MFF^[158]采用四种深度学习框架，分别对分子指纹、二维分子图、三维分子图和分子图像进行特征提取与融合，为COVID-19药物筛选任务提供强大计算工具。针对类似方法忽略模态间相互作用潜力的问题，MMSA^[159]充分考虑了分子间结构不变性信息，融入分子图、分子图像和三维构象，通过构建超图结构模拟分子间的高阶关系，并结合记忆机制对齐不变结构知识。

大型语言模型（Large language model，LLM）已在药物设计、材料筛选、性质预测等任务中得到应用^[160-164]。与结构数据相比，文本能够记录实验条件、合成途径、生物活性机制等难以量化或缺乏标准表示的信息。早期工作已尝试将分子二维表示与文本进行联合建模^[165-167]。为提升模型面向未知实例的泛化能力，Hua等^[168]使用预训练的大型语言模型提取蛋白质与药物的通用文本特征，创新性地在分类器中引入域对抗训练与对比学习两种领域泛化方法，实现了文本特征和结构特征融合。Polat等^[169]引入了PubChem^[170]中的文本信息（如IUPAC名称、分子式、计算的物理化学描述符和光谱特征），并将其与分子图结构相结合，通过门控融合机制^[171]自适应地结合文本与几何特征，在数据驱动的基础上平衡并融合这两种信息。MolLM^[172]进一步将三维信息与自然语言结合，首次提出结合二维、三维结构和自然语言的分子多模态语言模型。该模型采用图Transformer编码二维和三维分子结构，使用文本Transformer编码处理生物医学文本，并通过对比学习对齐三种模态语义表示。合成路线决定如何合成复杂目标分子，传统逆合成方法通常将合成路线表示为图或树结构，但受限于启发式搜索、巨大的组合空间以及高质量结构数据的缺乏。受自然语言处理启发，研究人员利用文本信息来增强模型对反应机制的理解。RetroInText^[173]关注来自整体合成路线中有价值的上下文信息，该方法利用ChatGPT从目标产物名称出发，为单步逆合成生成整个路径的文本描述，将文本描述与分子三维结构信息一同作为训练输入。该方法通过多模态编码器提取文本、分子图和三维结构特征，并基于注意力机制实现信息融合，从而实现上下文感知的单步中间体预测与反应物筛选。RetroInText尤其擅长处理较长合成路线，在USPTO路径数据集RetroBench^[174]上，其Top-1准确率相较于最先进方法提升5%。大型语言模型在材料与药物设计应用的难点在于实现文本与图结构之间连贯的自回归生成。针对这一挑战，Liu等^[175]提出了首个支持交替文本与图生成的多模态大型语言模型Llamole，该模型结合A*搜索实现高效逆合成路径规划的分子反向设计。Llamole将基础LLM与两个预训练图模块整合：Graph diffusion transformer（Graph DiT）^[176] 用于多条件下分子生成，GNN用于反应模板预测，LLM可根据生成内容动态激活相应的图模块。

多数基于专家知识和实验构建的理化描述符在先前研究中已展现出良好的预测能力，这类描述符能够直接量化极化性、疏水性、分子体积等全局性质，弥补结构模态侧重局部拓扑的不足。围绕结构嵌入与理化描述符融合思路，研究人员开展了多项研究。在通用性质预测方面，DNN-PP^[177]将图注意力机制中的分子结构嵌入与深度神经网络（Deep neural network，DNN）处理的分子描述符相结合，从分子结构和理化属性双重视角表示分子特征，提升分子性质的预测能力。针对分子属性预测中表示冲突和训练不平衡的问题，He等^[178]提出了一种基于描述符和分子图的自监督对比学习方案，在监督学习阶段引入多分支预测器结构实现信息融合和训练平衡。面向毒性预测场景，TopTox^[179]在深度神经网络和共识模型中整合了理化描述符和指纹特征进行回归预测；Karim等^[8]则通过融合SMILES、分子图像以及从PADEL软件^[180]提取的理化特征，提升整体毒性预测性能。难以通过简洁方式表述的化合物血脑屏障（Blood-brain barrier，BBB）通透性，是中枢神经系统药物研发过程中的重要考量因素，研究人员尝试使用计算方法预测化合物的BBB渗透性以提高效率。例如，Ding等^[181]引入关系图卷积网络（Relational graph convolutional network，RGCN）^[182]，结合Mordred描述符^[183]和药物-蛋白质相互作用数据构建异构图，为药物分子BBB通透性提供高置信度预测结果。Deep-B³^[84]同样用于预测候选化合物BBB通透性，该模型融合表格数据（分子描述符、MACCS指纹、Morgan指纹）、文本（SMILES表示）和分子图像，并利用预训练模型分别提取各模态潜在特征。DeePred-BBB^[184]将化合物编码为1917个特征，包含1444个理化属性（如分子量、分子体积、溶解度、分配系数等）、166个MACCS指纹以及307个子结构指纹，并从多种模型中选择表现最佳的DNN模型用于构建BBB通透性预测工具。

光谱技术是物质发现和结构识别的重要工具，受限于量子化学方法的计算成本，已有研究结合深度学习模型加速分子光谱预测^[185]。研究人员通过光谱实现微观特性与宏观可观测值的关联。不同光谱技术能够从不同视角揭示分子信息，如红外（Infrared，IR）光谱法关注分子振动偶极子的变化，而拉曼光谱法关注分子极化率变化。为此Alberts等^[186]构建了包含79万个分子的多光谱数据集支持多模态机器学习。此外，Guo等^[187]构建了多步谱学推理基准MolPuzzle，根据多种类型光谱数据推断分子结构，强调光谱数据在复杂化学推理中的重要性。在物理机制互补层面，Guo等^[188]融合了具有不同物理机制的三种光谱（核磁共振（Nuclear magnetic resonance，NMR）、IR光谱和拉曼光谱），它们分别提供了分子结构和化学键信息。该研究建立了光谱信号与化学键性质间的定量关系，调优后的多光谱模型在不同来源数据集上展现出优秀的迁移能力。Yang等^[189]则提出一种基于多模态描述符的编码器－解码器机器学习框架，通过预训练实现结构信息、IR光谱与拉曼光谱描述符间的信息同步与相互转换。该模型采用遮盖光谱数据段和高斯噪声随机替换分子结构内部坐标的掩码扰动策略，并行处理三种模态数据，并通过神经网络重建完整描述符。不同模态的隐藏张量加和归一化实现特征对齐与融合，如图7所示，使用任意两模态预测第三种模态描述符的余弦相似度超过0.93，显著提升在数据不完整条件下分子性质的预测能力。这些工作通过对光谱数据的对齐或融合不同模态实现多模态表示，在性质预测和分子识别任务中表现出明显优势，并证明不同类型谱图的互补性。根据光谱数据确定分子结构是化学领域的基础任务之一，对包括药物发现与材料科学在内的多个前沿研究领域具有重要意义。Chacko等^[190]通过将¹³C、¹H NMR数据和IR光谱数据融合用于分子结构解析，利用SELFIES符号将来自IR和NMR的光谱数据嵌入表示转换为分子结构。该方法使用LLM2Vec模型^[191]处理NMR光谱文本信息，并利用视觉模型识别IR光谱中相关官能团峰（F1分数达91%），在推理阶段不依赖数据库的情况下实现93%总体测试准确率。机器学习方法在实现分子结构解析过程自动化时，往往由于缺乏置信度指标限制了其实际应用。针对此问题，Mirza等^[192]提出的spec2struct框架不仅实现了从光谱数据中解析出分子结构，还为化学家提供相关背景信息与置信度评估。该方法协同结合多模态嵌入、对比学习和进化算法，模拟化学专家进行结构测定的方法。通过将多种光谱技术编码器与分子表示对齐，该系统能够同时解析多种类型的光谱证据，在结构解析过程中展现出辅助避免错误结构分配的能力，并成功识别出文献中被错误分配的结构。深度强化学习方法DeepSPInN^[11]根据给定IR和¹³C核磁共振光谱，将分子结构预测问题公式化为马尔可夫决策过程，实现自动化分子光谱分析。Rocabert-Oriols等^[193]提出的VibraCLIP，将跨模态对比学习应用于振动光谱，实现直接从光谱数据解析分子结构。VibraCLIP基于CLIP架构^[194]，在共享表示空间中对齐IR、拉曼光谱和分子图嵌入，当仅对齐IR与拉曼光谱时，其Top-1检索准确率从12.4%提升至62.9%；加入锚定特征（标准化分子质量）后，Top-25准确率进一步提升至98.9%。该模型通过同时利用多种振动光谱，实现了远超单模态基线方法的分子识别能力。上述光谱多模态研究从数据构建、物理机制互补、分子结构解析等层面系统验证了多谱图融合的潜力。在预训练方面，Wang等^[195]提出利用能谱信息增强三维分子表示的预训练框架MolSpectra。该方法设计了基于Transformer的多谱编码器，联合考虑多种分子谱图（如紫外可见光谱、红外光谱和拉曼光谱），通过掩码补丁重建任务捕捉谱图内部及跨谱图的峰值关联。通过引入对比损失函数，将光谱特征及其蕴含的内在知识迁移至三维表示中，使其在多个分子性质预测任务上超越现有的三维分子表示预训练方法。

5 结论与展望

5.1 现状与关键技术

数据驱动的分子表示学习已成为分子建模和药物设计等领域的核心技术。相较于传统基于物理和化学规律构建的分子描述符，数据驱动方法从大规模数据中自主学习分子在隐藏空间中的表示，通过非线性映射捕捉复杂结构与性质之间的关系，从而在性质预测任务中展现出更强的泛化能力。尽管数据驱动分子嵌入已展现出比传统分子描述符更优秀的性能，但其潜力仍未被充分挖掘。当前核心挑战在于从分子图结构、三维构象、动力学轨迹、光谱数据及量子化学特征等多模态、复杂分子数据中提取具有明确化学意义的通用表示，进而挖掘分子结构与性质间的深层关系。基于现阶段研究进展，未来机器学习在分子表示的研究可聚焦于以下三方面。

（1）随着数据规模的持续扩大，自监督学习方法为分子表示学习提供新契机。自监督学习从大量无标记数据中学习分子通用表示，显著降低分子建模对标注数据的依赖。多数模型都关注到了分子图拓扑结构信息，识别分子图中在多个环境中对预测任务均有贡献的子图，可能会使模型提取到更稳定特征。在生成增强实例时，现有方法虽已引入基础化学限制，但对分子微小结构变化的敏感性不足。对分子间细粒度差异的增强策略是未来提升自监督训练效果的重要方向，这需要更精细地对比学习方法提升模型对分子间细微差异的辨别能力。当前自监督学习方法已通过预训练任务（如分子属性预测、分子结构修复、局部子图预测等）捕捉分子内部的多层次关联。但由于自然界中原子种类有限且分布不均匀，现有掩盖策略在成分建模上难以充分捕捉元素间真实化学语义，亟需设计更契合化学本质的预训练任务。

（2）单一分子表示已经难以满足复杂预测建模需求，集成多种分子表示方法成为当前研究热点。多种分子表示形式（SMILES序列、分子图、分子图像、光谱、专家特征等）为模型提供互补的信息维度，研究人员使用不同方法对异构数据进行语义对齐以整合各模态优势。多模态分子表示方式的研究正通过集成学习、对比学习以及结合更具表达力的嵌入方法持续深化。受限于模态间的语义鸿沟，后续研究需引入领域知识（如反应机理等）指导跨模态对齐。此外，不同模态间在动态信息融合过程中存在权重竞争，这会导致训练过程中评估指标波动，因此亟需设计更稳定的动态权重融合策略以提升跨场景的稳定性。

（3）图神经网络作为分子嵌入学习和属性预测的主流架构，通常依赖静态拓扑结构，难以对动态分子结构和三维几何信息建模。多数现有图卷积神经网络明确假设输入图为静态，但分子并非静态结构，其原子位置、键长、角度以及电子分布会随时间发生变化。针对此局限，动态图表示学习将分子图表示为节点和边随时间不断变化的图结构，探索基于时间序列的图神经网络模型模拟分子复杂动态过程。因此，结合动态分子图和高效动态图卷积神经网络模型成为突破静态建模瓶颈的一个重要发展方向。

5.2 未来研究展望

数据驱动的分子表示学习改变了研究者对分子结构与性质的理解方式，在机器学习模型中展现出超越传统方法的性能优势，也为下游分子设计、药物发现等领域提供新的研究范式。这些方法克服了传统分子描述符对专家知识的依赖及其自动化学习能力的不足，用嵌入“语言”连接化学语义与隐藏空间特征，为科学探索效率的提升开辟新路径。此外，数据驱动的分子嵌入方法还为催化剂设计、功能材料预测、环境化学分析等相关领域提供关键技术支持，有力地促进了跨学科融合发展。在此，对未来相关研究提出如下建议。

（1）推动构建共享分子隐藏空间，发展统一的分子嵌入方法框架。当前各研究团队采用的分子嵌入方法在分子表示形式和数据来源存在差异，这种差异使得各自建模的隐藏空间难以互通，无法有效整合多种来源知识。因此，在保护数据隐私和安全前提下，应当推动建立开放共享的分子隐藏空间对齐平台，此举可充分利用分布于各领域的数据资源，提升分子表示模型泛化能力和应用普适性，增强跨领域应用的可扩展性，为分子设计和优化提供更稳健的理论支撑。

（2）构建高质量分子数据基础设施，推动标准化数据体系建设。数据驱动的分子表示学习依赖于大规模高质量的数据集，然而该领域的研究目前仍处于快速演进阶段，不同研究团队采用的数据集、模型架构和评价指标存在差异，严重影响了模型间的可比性与可复现性。因此，亟需建立完善的数据共享机制，制定统一的数据标准和评估指标。分子表示作为机器学习在本领域应用的重要基础，其发展高度依赖于数据的完整性、可靠性和标准化水平，只有夯实数据基础，才能在理论研究中取得突破，从而使其在新材料、新药物等领域实现快速转化。

（3）加强跨学科交叉融合，推动从计算预测到实验合成的协同发展。分子表示学习涉及人工智能、计算化学、材料科学、生物医药等多个学科，鼓励学科深度融合并支持多学科研究团队协同攻关，将有助于开发出符合不同产业需求以及更具实用价值的分子嵌入方法，从而提升其在药物研发、绿色能源等战略性产业中的应用价值，加速科研成果的落地转化。

参考文献

原文顺序 | 出版日期 | 本文引用

[1]	Afzal M A F, Hachmann J. Handbook on Big Data and Machine Learning in the Physical Sciences. Singapore: World Scientific, 2020. 1.

[2]	Xu D G, Zhang Q, Huo X Y, Wang Y T, Yang M L. Mater. Genome Eng. Adv., 2023, 1: e11.

[3]	Isayev O, Fourches D, Muratov E, Oses C, Rasch K, Tropscha A, Curtarolo S. Bull. Am. Phys. Soc., 2014, 39799817.

[4]	Ramprasad R, Batra R, Pilania G, Mannodi-Kanakkithodi A, Kim C. NPJ Comput. Mater., 2017, 3: 54.

[5]	Mikolov T, Sutskever I, Chen K, Corrado G, Dean J. In Neural Information Processing Systems. Nevada: NeurIPS, 2013. 16447573.

[6]	Mikolov T, Chen K, Corrado G, Dean J. Efficient Estimation of Word Representations in Vector Space. [2013-09-07]. https://doi.org/10.48550/arXiv.1301.3781.

[7]	Yaghoobi M, Alaei M. Comput. Mater. Sci., 2022, 207: 111284.

[8]	Karim A, Singh J, Mishra A, Dehzangi A, Newto, M A H, Sattar A. Lecture Notes in Computer Science. Eds.: Ohara K, Bai Q. Cham: Springer, 2019. 11669: 142.

[9]	Karim A, Riahi V, Mishra A, Hakim Newton M A, Dehzangi A, Balle T, Sattar A. ACS Omega, 2021, 6(18): 12306.

[10]	Manolache A, Tantaru D, Niepert M. MolMix: A Simple Yet Effective Baseline for Multimodal Molecular Representation Learning. [2024-10-24]. https://doi.org/10.48550/arXiv.2410.07981.

[11]	Devata S, Sridharan B, Mehta S, Pathak Y, Laghuvarapu S, Varma G, Priyakumar U D. Digit. Discov., 2024, 3(4): 818.

[12]	Huang E, Yang J S, Liao K Y K, Tseng W C W, Lee C K, Gill M, Compas C B, See S, Tsai F J. Sci. Rep., 2024, 271087139.

[13]	Bengio Y, Ducharme R, Vincent P. In Neural Information Processing Systems. Colorado: NeurIPS, 2000, 13.

[14]	Pennington J, Socher R, Manning C. 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP), Doha, Stroudsburg: ACL, 2014. 1532.

[15]	Bojanowski P, Grave E, Joulin A, Mikolov T. Trans. Assoc. Comput. Linguist., 2017, 5: 135.

[16]	Deerwester S, Dumais S T, Furnas G W, Landauer T K, Harshman R. J. Am. Soc. Inf. Sci., 1990, 41(6): 391

[17]	Blei D M, Ng A Y, Jordan M I. J. Mach. Learn. Res. 2003, 3(1): 993.

[18]	Peters M E, Neumann M, Iyyer M, Gardner M, Clark C, Lee K, Zettlemoyer L. Deep Contextualized Word Representations. [2018-02-15]. https://doi.org/10.48550/arXiv.1802.05365.

[19]	Devlin J, Chang M W, Lee K, Toutanova K. 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies. Minnesota: ACL, 2019. 4171.

[20]	Belkin M, Niyogi P. Neural Comput., 2003, 15(6): 1373.

[21]	Ezzat A, Wu M, Li X L, Kwoh C. Methods, 2017, 129: 81.

[22]	Perozzi B, Al-Rfou R, Skiena S. 20th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York: ACM, 2014. 701.

[23]	Grover A, Leskovec J. 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. California: ACM, 2016, 855.

[24]	Hamilton W, Ying Z, Leskovec J. Neural Information Processing Systems. California: NeurIPS, 2017. 30.

[25]	Kipf T N, Welling M. Semi-Supervised Classification with Graph Convolutional Networks. [2017-02-22]. https://doi.org/10.48550/arXiv.1609.02907.

[26]	Peng Y, Qi J. Multimedia Comput. Commun. Appl., 2019, 15(1): 1.

[27]	Rasiwasia N, Costa Pereira J, Coviello E, Doyle G, Lanckriet G R G, Levy R, Vasconcelos N. 18th ACM International Conference on Multimedia. Firenze: ACM, 2010. 251.

[28]	Guo W Z, Wang J W, Wang S P. IEEE Access, 2019, 7: 63373.

[29]	Rupp M, Tkatchenko A, Müller K, von Lilienfeld O A. Phys. Rev. Lett., 2012, 108(5): 058301.

[30]	Ward L, Liu R Q, Krishna A, Hegde V I, Agrawal A, Choudhary A, Wolverton C. Phys. Rev. B, 2017, 96(2): 024104.

[31]	Liu K, Sun X, Jia L, Ma J, Xing H, Wu J, Gao H, Sun Y, Boulnois F, Fan J. Int. J. Mol. Sci., 2019, 20(14): 3389.

[32]	Kearnes S, McCloskey K, Berndl M, Pande V, Riley P. J. Comput. Aided Mol. Des., 2016, 30(8): 595.

[33]	Coley C W, Barzilay R, Green W, Jaakkola T, Jensen K. J. Chem. Inf. Model., 2017, 57(8): 1757.

[34]	Yang K, Swanson K, Jin W G, Coley C, Eiden P, Gao H, Guzman-Perez A, Hopper T, Kelley B, Mathea M, Palmer A, Settels V, Jaakkola T, Jensen K, Barzilay R. J. Chem. Inf. Model., 2019, 59(8): 3370.

[35]	Xie T, Grossman J. Phys. Rev. Lett., 2018, 120(14): 145301.

[36]	Ramakrishnan R, Dral P O, Rupp M, von Lilienfeld O A, Sci. Data, 2014, 1: 140022.

[37]	Chen C, Ye W K, Zuo Y X, Zheng C, Ong S. Chem. Mater., 2019, 31(9): 3564.

[38]	Venugopal V, Olivetti E. Sci. Data, 2024, 11(1): 217.

[39]	Tshitoyan V, Dagdelen J, Weston L, Dunn A, Rong Z Q, Kononova O, Persson K A, Ceder G, Jain A. Nature, 2019, 571(7763): 95

[40]	Consonni V, Ballabio D, Todeschini R. Cheminformatics, QSAR and Machine Learning Applications for Novel Drug Development. New York: Academic Press, 2023. 303.

[41]	Consonni V, Todeschini R. Statistical Modelling of Molecular Descriptors in QSAR/QSPR. Dehmer M, Varmuza K, Bonchev D (Eds.). New Jersey: Wiley, 2012, 111.

[42]	Amar Y, Schweidtmann A M, Deutsch P, Cao L W, Lapkin A. Chem. Sci., 2019, 10(27): 6697.

[43]	Durant J L, Leland B A, Henry D R, Nourse J G. J. Chem. Inf. Comput. Sci., 2002, 42(6): 1273.

[44]	Rogers D, Hahn M. J. Chem. Inf. Model., 2010, 50(5): 742.

[45]	Vidal D, Thormann M, Pons M. J. Chem. Inf. Model., 2005, 45(2): 386.

[46]	Schwartz J, Awale M, Reymond J. J. Chem. Inf. Model., 2013, 53(8): 1979.

[47]	Bender A, Jenkins J L, Glick M, Deng Z, Nettles J H, Davies J W. J. Chem. Inf. Model., 2006, 46(6): 2445.

[48]	Nidhi, Glick M, Davies J, Jenkins J. J. Chem. Inf. Model., 2006, 46(3): 1124.

[49]	Laufkötter O, Sturm N, Bajorath J, Chen H M, Engkvist O. J. Cheminform, 2019, 11(1): 54.

[50]	David L, Thakkar A, Mercado R, Engkvist O. J. Cheminform, 2020, 12(1): 56.

[51]	Yu L, Sun L L, Du B W, Lv W F. Adv. Neural Inform. Process. Syst., 2023, 36: 67686.

[52]	Yuan H N, Sun Q Y, Fu X C, Zhang Z W, Ji C, Peng H, Li J X. Neural Information Processing Systems. New York: Curran Associates, 2024, 36.

[53]	Faber F A, Hutchison L, Huang B, Gilmer J, Schoenholz S S, Dahl G E, Vinyals O, Kearnes S, Riley P F, von Lilienfeld O A. J. Chem. Theory Comput., 2017, 13(11): 5255.

[54]	Choudhary K, Garrity K, Ghimire N, Anand N, Tavazza F. Phys. Rev. B, 2021, 103(15): 155131.

[55]	Choudhary K, Garrity K F, Tavazza F. J. Phys. Condens. Matter, 2020, 32(47): 475501.

[56]	Liu C H, Tao Y Z, Hsu D, Du Q, Billinge S. Acta Crystallogr. A: Found. Adv., 2019, 75(4): 633.

[57]	Xu K, Hu W, Leskovec J, Jegelka S. How Powerful Are Graph Neural Networks? [2018-10-01]. https://doi.org/10.48550/arXiv.1810.00826.

[58]

Battaglia P, Hamrick J B, Bapst V, Sanchez-Gonzalez A, Zambaldi V, Malinowski M, Tacchetti A, Raposo D, Santoro A, Faulkner R, Gülçehre Ç, Song H F, Ballard A J, Gilmer J, Dahl G E, Vaswani A, Allen K R, Nash C, Langston V, Dyer C, Heess N, Wierstra D, Kohli P, Botvinick M, Vinyals O, Li Y J, Pascanu R. Relational Inductive Biases, Deep Learning, and Graph Networks. [2018-06-04]. https://doi.org/10.48550/arXiv.1806.01261.

[59]	Gasteiger J, Giri S, Margraf J T, Günnemann S. Fast and Uncertainty-Aware Directional Message Passing for Non-Equilibrium Molecules. [2022-05-05]. https://doi.org/10.48550/arXiv.2011.14115.

[60]	Flam-Shepherd D, Wu T C, Friederich P, Aspuru-Guzik A. Mach. Learn. Sci. Technol., 2021, 2(4): 045009.

[61]	Gasteiger J, Becker F, Günnemann S. Neural Information Processing Systems. New York: Curran Associates, 2021. 34: 6790.

[62]	Schütt K T, Sauceda H E, Kindermans P J, Tkatchenko A, Müller K R. J. Chem. Phys., 2018, 148(24): 241722.

[63]	Unke O T, Meuwly M. J. Chem. Theory Comput., 2019, 15(6): 3678.

[64]	Gasteiger J, Groß J, Günnemann S. Directional Message Passing for Molecular Graphs. [2022-04-05]. https://doi.org/10.48550/arXiv.2003.03123.

[65]	Chen Z H, You Z H, Guo Z H, Yi H C, Luo G X, Wang Y B. Front. Bioeng. Biotechnol., 2020, 8: 338.

[66]	Jo J, Baek J, Lee S, Kim D, Kang M, Hwang S J. Neural Information Processing Systems. New York: Curran Associates, 2021. 34: 7534.

[67]	Gilmer J, Schoenholz S S, Riley P F, Vinyals O, Dahl G E. International Conference on Machine Learning. Sydney: PMLR, 2017. 1263.

[68]	Dwivedi V P, Joshi C K, Luu A T, Laurent T, Bengio Y, Bresson X. J. Mach. Learn. Res., 2023, 24(43): 1.

[69]	Choudhary K, DeCost B L. NPJ Comput. Mater., 2021, 7(1): 185.

[70]	Liao Y L, Smidt T, Shuaibi M, Da A. Generalizing Denoising to Non-Equilibrium Structures Improves Equivariant Force Fields. [2024-12-19]. https://doi.org/10.48550/arXiv.2403.09549.

[71]	Barroso-Luque L, Shuaibi M, Fu X, Wood B M, Dzamba M, Gao M, Rizvi A, Zitnick C L, Ulissi Z W. Open Materials 2024 (OMat24) Inorganic Materials Dataset and Models. [2024-10-16]. https://arxiv.org/abs/2410.127711

[72]	Jaeger S, Fulle S, Turk S. J. Chem. Inf. Model., 2018, 58(1): 27.

[73]	Mann V, Brito K, Gani R, Venkatasubramanian V. Fluid Phase Equilib., 2022, 561: 113531.

[74]	Bechhofer S, Harmelen F V, Hendler J, Horrocks I, McGuinness D L, Patel-Schneider P, Stein L. OWL Web Ontology Language Reference. [2024-02-10]. http://www.w3.org/TR/2004/rec-owl-ref-20040210/

[75]	Chen J Y, Hu P, Jimenez-Ruiz E, Holter O M, Antonyrajah D, Horrocks I. Mach. Learn., 2021, 1813.

[76]	Goh G B, Hodas N O, Siegel C, Vishnu A. SMILES2Vec: An Interpretable General-Purpose Deep Neural Network for Predicting Chemical Properties. [2018-03-18]. https://arxiv.org/abs/1712.02034

[77]	Jeon W, Kim D. Bioinformatics, 2019, 35(23): 4979.

[78]	Zang X, Zhao X B, Tang B Z. Commun. Chem., 2023, 6(1): 34.

[79]	Wang S, Guo Y Z, Wang Y H, Sun H M, Huang J Z. 10th ACM International Conference on Bioinformatics, Computational Biology and Health Informatics. New York: ACM, 2019. 429.

[80]	Guo Z J, Zhang Y, Lu W. Attention Guided Graph Convolutional Networks for Relation Extraction. [2019-08-02]. https://www.aclweb.org/anthology/P19-1024/

[81]	Qin L, Dong G C, Peng J. 2020 IEEE International Conference on Bioinformatics and Biomedicine (BIBM). Seoul: IEEE, 2020. 708.

[82]	Li J, Jiang X. Wirel. Commun. Mob. Computi., 2021, 2021(1): 7181815.

[83]	Liu Y W, Zhang R S, Li T F, Jiang J, Ma J, Wang P. J. Mol. Graph. Model., 2023, 118: 108344.

[84]	Tang Q, Nie F L, Zhao Q, Chen W. Brief. Bioinform., 2022, 23(5): bbac357.

[85]	Chithrananda S, Grand G, Ramsundar B. ChemBERTa: Large-Scale Self-Supervised Pretrainfab shing for Molecular Property Prediction. [2020-10-19]. https://arxiv.org/abs/2010.09885

[86]	Ghaayathri Devi K, Bedadhala R S, Sachin Kumar S, Soman K P, Bodapatiq J D. 2024 2024 4th International Conference on Intelligent Technologies (CONIT). Bangalore: IEEE, 2024. 1.

[87]	Ross J, Belgodere B M, Chenthamarakshan V, Padhi I, Mroueh Y, Das P. Nat. Mach. Intell., 2022, 4(12): 1256.

[88]	Wu F, Radev D, Li S Z. Proc. AAAI Conf. Artif. Intell., 2023, 37(4): 5312.

[89]	Wan F P, Zeng J Y. D. Deep Learning with Feature Embedding for Compound-Protein Interaction Prediction. [2016-11-07]. https://www.biorxiv.org/content/10.1101/086033v1

[90]	Olivecrona M, Blaschke T, Engkvist O, Chen H M. J. Cheminf., 2017, 9: 48.

[91]	Schneider N, Fechner N, Landrum G, Stiefl N. J. Chem. Inf. Model., 2017, 57(8): 1816.

[92]	Mann V, Venkatasubramanian V. AIChE J., 2021, 67(3): e17190.

[93]	Hinton G E, Salakhutdinov R R. Science, 2006, 313(5786): 504.

[94]	Gómez-Bombarelli R, Wei J N, Duvenaud D, Hernández-Lobato J M, Sánchez-Lengeling B, Sheberla D, Aguilera-Iparraguirre J, Hirzel T D, Adams R P, Aspuru-Guzik A. ACS Cent. Sci., 2018, 4(2): 268.

[95]	Winter R, Montanari F, Noé F, Clevert D A. Chem. sci., 2019, 10(6): 1692.

[96]	Popova M, Isayev O, Tropsha A. Sci. Adv., 2018, 4(7): eaap7885.

[97]	Segler M H S, Kogej T, Tyrchan C, Waller M. ACS Cent. Sci., 2018, 4(1): 120.

[98]	Xu Z, Wang S, Zhu F Y, Huang J Z. 8th ACM International Conference on Bioinformatics, Computational Biology,and Health Informatics. Boston: ACM, 2017. 285.

[99]	Hou Y Y, Wang S Y, Bai B, Chan H C S, Yuan S G. Molecules, 2022, 27(5): 1668.

[100]

Lv Q J, Chen G X, Zhao L, Zhong W H, Chen C Y. Brief. Bioinform., 2021, 22(6): bbab317.

[101]

Bagal V, Aggarwal R, Vinod P K, Priyakumar U D. J. Chem. Inf. Model., 2022, 62(9): 2064.

[102]

Radford A, Narasimhan K, Salimans T, Sutskever I. Improving Language Understanding by Generative Pre-Training. [2018-06-11]. https://cdn.openai.com/research-covers/language-unsupervised/language_understanding_paper.pdf

[103]

Jin W G, Barzilay R, Jaakkola T. International Conference on Machine Learning. Sweden: PMLR, 2018. 2323.

[104]

Jin W G, Barzilay R, Jaakkola T. International Conference on Machine Learning. Vienna: PMLR, 2020. 4839.

[105]

Gebauer N, Gastegger M, Schütt K T. Neural Information Processing Systems. Vancouver: PMLR, 2019. 32.

[106]

Shi C, Xu M, Zhu Z, Zhang W, Zhang M, Tang J. GraphAF: A Flow-Based Autoregressive Model for Molecular Graph Generation. [2020-02-27]. https://doi.org/10.48550/arXiv.2001.09382.

[107]

Zang C X, Wang F. 26th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining. California: ACM, 2020. 617.

[108]

Kingma D P, Dhariwal P. Neural Information Processing Systems. Montreal: Curran, 2018. 31.

[109]

Peng X, Guan J, Liu Q, Ma J. MolDiff: Addressing the Atom-Bond Inconsistency Problem in 3D Molecule Diffusion Generation. [2023-05-11]. https://doi.org/10.48550/arXiv.2305.07508.

[110]

Oestreich M, Merdivan E, Lee M, Schultze J L, Piraud M, Becker M. J. Cheminf., 2025, 17: 23.

[111]

Krenn M, Häse F, Nigam A, Friederich P, Aspuru-Guzik A. Mach. Learn. Sci. Technol., 2020, 1(4): 045024.

[112]

Eckmann P, Sun K, Zhao B, Feng M, Gilson M K, Yu R. International Conference on Machine Learning, ICML 2022. Vienna: PMLR, 2022. 162: 5777.

[113]

Rombach R, Blattmann A, Lorenz D, Esser P, Ommer B. 2022 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). New Orleans: IEEE, 2022, 10674.

[114]

Luo Y, Yan K, Ji S. International Conference on Machine Learning. PMLR, 2021. 7192.

[115]

Imrie F, Bradley A R, van der Schaar M, Deane C M. J. Chem. Inf. Model., 2020, 60(4): 1983.

[116]

Liu M, Yan K, Oztekin B, Ji S. GraphEBM: Molecular Graph Generation with Energy-Based Models. [2021-04-11]. https://doi.org/10.48550/arXiv.2102.00546.

[117]

Welling M.; Teh Y. W. 28th International Conference on Machine Learning, ICML-11. Bellevue: Citeseer, 2011. 681.

[118]

Xu M, Yu L, Song Y, Shi C, Ermon S, Tang J. GeoDiff: A Geometric Diffusion Model for Molecular Conformation Generation. [2022-05-06]. https://doi.org/10.48550/arXiv.2203.02923.

[119]

Sohl-Dickstein J, Weiss E, Maheswaranathan N, Ganguli S. International Conference on Machine Learning. Lille: PMLR, 2015. 2256.

[120]

Liu M, Luo Y, Uchino K, Maruhashi K, Ji S. Generating 3D Molecules for Target Protein Binding. [2022-05-30]. https://doi.org/10.48550/arXiv.2204.09410

[121]

Li Y. Roberta: A Robustly Optimized Bert Pretraining Approach. [2019-07-26]. https://arxiv.org/abs/1907.11692

[122]

Wu Z Q, Ramsundar B, Feinberg E N, Gomes J, Geniesse C, Pappu A S, Leswing K, Pande V. Chem. Sci., 2018, 9(2): 513.

[123]

Su J L, Ahmed M, Lu Y, Pan S F, Bo W, Liu Y F. Neurocomputing, 2024, 568: 127063.

[124]

Ishida S, Miyazaki T, Sugaya Y, Omachi S. Molecules., 2021, 26(11): 3125.

[125]

Qiu J Z, Chen Q B, Dong Y X, Zhang J, Yang H X, Ding M, Wang K S, Tang J. 26th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining. Virtual Event CA USA: ACM, 2020, 1150.

[126]

Xu M, Wang H, Ni B, Guo H, Tang J. International Conference on Machine Learning. PMLR, 2021. 11548.

[127]

Liu S, Wang H, Liu W, Lasenby J, Guo H, Tang J. Pre-Training Molecular Graph Representation with 3D Geometry.[2022-05-29]. https://doi.org/10.48550/arXiv.2110.07728.

[128]

Veličković P, Fedus W, Hamilton W L, Liò P, Bengio Y, Hjelm R D. Deep Graph Infomax. [2018-12-21]. https://doi.org/10.48550/arXiv.1809.10341.

[129]

You Y, Chen T, Sui Y, Chen T, Wang Z, Shen Y. In Neural Information Processing Systems. Curran Associates, 2020, 33, 5812.

[130]

Zhang Z X, Liu Q, Wang H, Lu C Q, Lee C K. In Neural Information Processing Systems. Curran Associates, 2021, 34: 15870.

[131]

Zhang S, Hu Z, Subramonian A, Sun Y. Motif-Driven Contrastive Learning of Graph Representations. [2021-03-15]. https://doi.org/10.48550/arXiv.2012.12533.

[132]

Wang Y, Wang J, Cao Z, Barati Farimani A. Nat. Mach. Intell., 2022, 4(3): 279.

[133]

Wang Y Y, Magar R, Liang C, Farimani A. J. Chem. Inf. Model., 2022, 62(11): 2713.

[134]

Wang H, Li W, Jin X, Cho K, Ji H, Han J, Burke M D. Chemical-Reaction-Aware Molecule Representation Learning. [2021-10-12]. https://doi.org/10.48550/arXiv.2109.09888.

[135]

Gong X, Liu Q, Han R, Guo Y K, Wang G Y. Neural Netw., 2025, 184: 107088.

[136]

Gong X, Liu M T, Liu Q, Guo Y K, Wang G Y. Pattern Recognit., 2025, 163: 111463.

[137]

Wang C H, Yang Y Q, Song J S, Nan X F. J. Chem. Inf. Model., 2024, 64(19): 7189.

[138]

Guo Z C, Yu W H, Zhang C X, Jiang M, Chawla N V. 29th ACM International Conference on Information & Knowledge Management. Virtual Event Ireland: ACM, 2020. 435.

[139]

Liu J P, Lei X J, Zhang Y C, Pan Y. Comput. Biol. Med., 2023, 153: 106524.

[140]

Nguyen D M H, Lukashina N, Nguyen T, Le A T, Nguyen T, Ho N, Peters J, Sonntag D, Zaverkin V, Niepert M. Structure-Aware E(3)-Invariant Molecular Conformer Aggregation Networks. [2024-08-19]. https://doi.org/10.48550/arXiv.2402.01975.

[141]

Vayer T, Courty N, Tavenard R, Chapel L, Flamary R. In International Conference on Machine Learning. California: PMLR, 2019, 6275.

[142]

Zhu Y, Hwang J, Adams K, Liu Z, Nan B, Stenfors B, Du Y, Chauhan J, Wiest O, Isayev O, Coley C W, Sun Y, Wang W. Learning Over Molecular Conformer Ensembles: Datasets and Benchmarks.[2024-07-28]. https://doi.org/10.48550/arXiv.2310.00115.

[143]

Wang X F, Li Z, Jiang M J, Wang S, Zhang S G, Wei Z Q. J. Chem. Inf. Model., 2019, 59(9): 3817.

[144]

Cai H X, Zhang H M, Zhao D C, Wu J X, Wang L. Brief. Bioinform., 2022, 23(6): bbac408.

[145]

Wang T Y, Sun J Q, Zhao Q. Comput. Biol. Med., 2023, 153: 106464.

[146]

Zhang H H, Wu J T, Liu S C, Han S. Inf. Fusion, 2024, 103: 102092.

[147]

Lu X, Xie L, Xu L, Mao R, Chang S, Xu X. Comput. Struct. Biotechnol. J., 2024, 23, 1666.

[148]

Nan S H, Li Z M, Jin S M, Du W L, Shen W F. Ind. Eng. Chem. Res., 2025, 64(5): 3045.

[149]

Yi W L, Zhang L, Xu Y L, Cheng X P, Chen T Z. Expert Syst. Appl., 2025, 260: 125403.

[150]

Ryu J, Lee M Y, Lee J H, Lee B, Oh K. Bioinformatics, 2020, 36(10): 3049.

[151]

Deng D G, Chen X W, Zhang R C, Lei Z R, Wang X J, Zhou F. J. Chem. Inf. Model., 2021, 61(6): 2697.

[152]

Wu J Z, Su Y, Yang A, Ren J Z, Xiang Y. Comput. Biol. Med., 2023, 165: 107452.

[153]

Zheng Z X, Wang H, Tan Y Y, Liang C, Sun Y S. Expert Syst. Appl., 2023, 234: 121016.

[154]

Stärk H, Beaini D, Corso G, Tossou P, Dallago C, Günnemann S, Liò P. International Conference on Machine Learning. Baltimore: PMLR, 2022. 20479.

[155]

Chen M K, Gong X W, Pan S R, Wu J, Lin F, Du B, Hu W B. Neural Netw., 2025, 184: 107068.

[156]

Chen R Z, Li C Y, Wang L Y, Liu M Q, Chen S G, Yang J H, Zeng X X. Inf. Fusion, 2025, 115: 102784.

[157]

Xiang H X, Jin S T, Xia J, Zhou M, Wang J M, Zeng L, Zeng X X. Thirty-Third International Joint Conference on Artificial Intelligence. Jeju: AAAI Press, IJCAI Organization, 2024. 6107.

[158]

Ma M, Lei X J. Comput. Biol. Med., 2024, 169: 107911.

[159]

Yin R, Liu R Y, Hao X S, Zhou X R, Liu Y, Ma C, Wang W P. IEEE Trans. Image Process., 2024, 34: 3225.

[160]

Chen Z Y, Xie F K, Wan M, Yuan Y, Liu M, Wang Z G, Meng S, Wang Y G. Chin. Phys. B., 2023, 32(11): 118104.

[161]

Grisoni F. Curr. Opin. Struct. Biol., 2023, 79: 102527.

[162]

Luo Y, Zhang J, Fan S, Yang K, Wu Y, Qiao M, Nie Z. BioMedGPT: Open Multimodal Generative Pre-Trained Transformer for BioMedicine. [2023-08-21]. https://doi.org/10.48550/arXiv.2308.09442.

[163]

Xie T, Wan Y, Liu Y, Zeng Y, Wang S, Zhang W, Grazian C, Kit C, Ouyang W, Zhou D, Hoex B. DARWIN 1.5: Large Language Models as Materials Science Adapted Learners. [2025-05-21]. https://doi.org/10.48550/arXiv.2412.11970.

[164]

Liu X, Wang Y, Yang T, Liu X, Wen X D. AlchemBERT: Exploring Lightweight Language Models for Materials Informatics. [2025-02-13]. https://www.cambridge.org/engage/chemrxiv/article-details/6781a6b481d2151a02a3212e

[165]

Zeng Z N, Yao Y, Liu Z Y, Sun M S. Nat. Commun., 2022, 13(1): 862.

[166]

Su B, Du D, Yang Z, Zhou Y, Li J, Rao A, Sun H, Lu Z, Wen J R. A Molecular Multimodal Foundation Model Associating Molecule Graphs with Natural Language. [2022-09-12]. https://doi.org/10.48550/arXiv.2209.05481.

[167]

Liu S, Nie W, Wang C, Lu J, Qiao Z, Liu L, Tang J, Xiao C, Anandkumar A. Nat. Mach. Intel., 2023, 5(12): 1447.

[168]

Hua Y, Feng Z H, Song X N, Wu X J, Kittler J. Pattern Recognit., 2025, 157: 110887.

[169]

Polat C, Kurban H, Serpedin E, Kurban M. Understanding the Capabilities of Molecular Graph Neural Networks in Materials Science Through Multimodal Learning and Physical Context Encoding.[2025-05-17]. https://doi.org/10.48550/arXiv.2505.12137.

[170]

Kim S, Chen J, Cheng T J, Gindulyte A, He J, He S Q, Li Q L, Shoemaker B A, Thiessen P A, Yu B, Zaslavsky L, Zhang J, Bolton E E. Nucleic Acids Res., 2025, 53(D1): D1516.

[171]

Arevalo J, Solorio T, Montes-y-Gómez M, González F A. Neural Comput. Appl., 2020, 32(14): 10209.

[172]

Tang X R, Tran A, Tan J, Gerstein M B. Bioinformatics, 2024, 40(Supplement_1): i357.

[173]

Kang C L, Liu X Y, Guo F. The Thirteenth International Conference on Learning Representations. Singapore: ICLR, 2025.

[174]

Chen B, Li C, Dai H, Song L. International Conference on Machine Learning. PMLR, 2020, 1608.

[175]

Liu G, Sun M, Matusik W, Jiang M, Chen J. Multimodal Large Language Models for Inverse Molecular Design with Retrosynthetic Planning. [2024-10-08]. https://arxiv.org/abs/2410.04223

[176]

Liu G, Xu J, Luo T, Jiang M. Graph Diffusion Transformers for Multi-Conditional Molecular Generation. [2024-10-03]. https://doi.org/10.48550/arXiv.2401.13858.

[177]

Wiercioch M, Kirchmair J. Expert Syst. Appl., 2023, 213: 119055.

[178]

He Z, Chen L, Lv H, Zhou R, Xu J, Chen Y, Hu J, Gao Y. Advanced Intelligent Computing Technology and Applications. Huang D S, Premaratne P, Jin B, Qu B, Jo K H, Hussain A (Eds.). Singapore: Springer, 2023. 14088: 700.

[179]

Wu K D, Wei G. J. Chem. Inf. Model., 2018, 58(2): 520.

[180]

Yap C W. J. Comput. Chem., 2011, 32(7):1466.

[181]

Ding Y, Jiang X Q, Kim Y. Bioinformatics, 2022, 38(10): 2826.

[182]

Schlichtkrull M, Kipf T N, Bloem P, Van Den Berg R, Titov I, Welling M. The Semantic Web. Gangemi A, Navigli R, Vidal M-E, Hitzler P, Troncy R, Hollink L, Tordai A, Alam M (Eds.). Cham: Springer, 2018, 10843: 593.

[183]

Moriwaki H, Tian Y S, Kawashita N, Takagi T. J. Cheminf., 2018, 10: 4.

[184]

Kumar R, Sharma A, Alexiou A, Bilgrami A L, Kamal M A, Ashraf G M. Front. Neurosci., 2022, 16: 858126.

[185]

Zou Z, Zhang Y, Liang L, Wei M, Leng J, Jiang J, Luo Y, Hu W. Nat. Comput. Sci., 2023, 3(11): 957.

[186]

Alberts M, Schilter O, Zipoli F, Hartrampf N, Laino T. Neural Information Processing Systems. Vancouver: Curran Associates, 2024, 37: 125780.

[187]

Guo K, Nan B, Zhou Y, Guo T, Guo Z, Surve M, Liang Z, Chawla N, Wiest O, Zhang X. In Neural Information Processing Systems. Vancouver: Curran Associates, 2024, 37: 134721.

[188]

Guo S B, Jiang J, Ren H, Wang S. J. Phys. Chem. Lett., 2023, 14(33): 7461.

[189]

Yang G, Jiang S, Luo Y, Wang S, Jiang J. J. Phys. Chem. Lett. 2024, 15(34): 8766.

[190]

EdwinChacko, RudraSondhi, Praveen A, Luska K L, Spectro: A Multi-Modal Approach for Molecule Elucidation Using IR and NMR Data. [2024-11-06]. https://www.cambridge.org/engage/chemrxiv/article-details/6724fb5b7be152b1d0ae66f8

[191]

BehnamGhader P, Adlakha V, Mosbach M, Bahdanau D, Chapados N, Reddy S. LLM2Vec: Large Language Models Are Secretly Powerful Text Encoders. [2024-08-21]. https://doi.org/10.48550/arXiv.2404.05961

[192]

Mirza A, Jablonka K M. Elucidating Structures from Spectra Using Multimodal Embeddings and Discrete Optimization. [2024-11-22]. https://chemrxiv.org/engage/chemrxiv/article-details/673fbcab5a82cea2fa4c4a39

[193]

Rocabert-Oriols P, López N, Heras-Domingo J. Multi-Modal Contrastive Learning for Chemical Structure Elucidation with VibraCLIP. [2025-04-23]. https://www.cambridge.org/engage/chemrxiv/article-details/6807a71c50018ac7c5a0d0cb

[194]

Radford A, Kim J W, Hallacy C, Ramesh A, Goh G, Agarwal S, Sastry G, Askell A, Mishkin P, Clark J. International Conference on Machine Learning. PmLR, 2021, 8748.

[195]

Wang L, Liu S, Rong Y, Zhao D, Liu Q, Wu S, Wang L. MolSpectra: Pre-Training 3D Molecular Representation with Multi-Modal Energy Spectra. [2025-02-22]. https://doi.org/10.48550/arXiv.2502.16284

[1]	Afzal M A F, Hachmann J. Handbook on Big Data and Machine Learning in the Physical Sciences. Singapore: World Scientific, 2020. 1.
[2]	Xu D G, Zhang Q, Huo X Y, Wang Y T, Yang M L. Mater. Genome Eng. Adv., 2023, 1: e11.
[3]	Isayev O, Fourches D, Muratov E, Oses C, Rasch K, Tropscha A, Curtarolo S. Bull. Am. Phys. Soc., 2014, 39799817.
[4]	Ramprasad R, Batra R, Pilania G, Mannodi-Kanakkithodi A, Kim C. NPJ Comput. Mater., 2017, 3: 54.
[5]	Mikolov T, Sutskever I, Chen K, Corrado G, Dean J. In Neural Information Processing Systems. Nevada: NeurIPS, 2013. 16447573.
[6]	Mikolov T, Chen K, Corrado G, Dean J. Efficient Estimation of Word Representations in Vector Space. [2013-09-07]. https://doi.org/10.48550/arXiv.1301.3781.
[7]	Yaghoobi M, Alaei M. Comput. Mater. Sci., 2022, 207: 111284.
[8]	Karim A, Singh J, Mishra A, Dehzangi A, Newto, M A H, Sattar A. Lecture Notes in Computer Science. Eds.: Ohara K, Bai Q. Cham: Springer, 2019. 11669: 142.
[9]	Karim A, Riahi V, Mishra A, Hakim Newton M A, Dehzangi A, Balle T, Sattar A. ACS Omega, 2021, 6(18): 12306.
[10]	Manolache A, Tantaru D, Niepert M. MolMix: A Simple Yet Effective Baseline for Multimodal Molecular Representation Learning. [2024-10-24]. https://doi.org/10.48550/arXiv.2410.07981.
[11]	Devata S, Sridharan B, Mehta S, Pathak Y, Laghuvarapu S, Varma G, Priyakumar U D. Digit. Discov., 2024, 3(4): 818.
[12]	Huang E, Yang J S, Liao K Y K, Tseng W C W, Lee C K, Gill M, Compas C B, See S, Tsai F J. Sci. Rep., 2024, 271087139.
[13]	Bengio Y, Ducharme R, Vincent P. In Neural Information Processing Systems. Colorado: NeurIPS, 2000, 13.
[14]	Pennington J, Socher R, Manning C. 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP), Doha, Stroudsburg: ACL, 2014. 1532.
[15]	Bojanowski P, Grave E, Joulin A, Mikolov T. Trans. Assoc. Comput. Linguist., 2017, 5: 135.
[16]	Deerwester S, Dumais S T, Furnas G W, Landauer T K, Harshman R. J. Am. Soc. Inf. Sci., 1990, 41(6): 391
[17]	Blei D M, Ng A Y, Jordan M I. J. Mach. Learn. Res. 2003, 3(1): 993.
[18]	Peters M E, Neumann M, Iyyer M, Gardner M, Clark C, Lee K, Zettlemoyer L. Deep Contextualized Word Representations. [2018-02-15]. https://doi.org/10.48550/arXiv.1802.05365.
[19]	Devlin J, Chang M W, Lee K, Toutanova K. 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies. Minnesota: ACL, 2019. 4171.
[20]	Belkin M, Niyogi P. Neural Comput., 2003, 15(6): 1373.
[21]	Ezzat A, Wu M, Li X L, Kwoh C. Methods, 2017, 129: 81.
[22]	Perozzi B, Al-Rfou R, Skiena S. 20th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York: ACM, 2014. 701.
[23]	Grover A, Leskovec J. 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. California: ACM, 2016, 855.
[24]	Hamilton W, Ying Z, Leskovec J. Neural Information Processing Systems. California: NeurIPS, 2017. 30.
[25]	Kipf T N, Welling M. Semi-Supervised Classification with Graph Convolutional Networks. [2017-02-22]. https://doi.org/10.48550/arXiv.1609.02907.
[26]	Peng Y, Qi J. Multimedia Comput. Commun. Appl., 2019, 15(1): 1.
[27]	Rasiwasia N, Costa Pereira J, Coviello E, Doyle G, Lanckriet G R G, Levy R, Vasconcelos N. 18th ACM International Conference on Multimedia. Firenze: ACM, 2010. 251.
[28]	Guo W Z, Wang J W, Wang S P. IEEE Access, 2019, 7: 63373.
[29]	Rupp M, Tkatchenko A, Müller K, von Lilienfeld O A. Phys. Rev. Lett., 2012, 108(5): 058301.
[30]	Ward L, Liu R Q, Krishna A, Hegde V I, Agrawal A, Choudhary A, Wolverton C. Phys. Rev. B, 2017, 96(2): 024104.
[31]	Liu K, Sun X, Jia L, Ma J, Xing H, Wu J, Gao H, Sun Y, Boulnois F, Fan J. Int. J. Mol. Sci., 2019, 20(14): 3389.
[32]	Kearnes S, McCloskey K, Berndl M, Pande V, Riley P. J. Comput. Aided Mol. Des., 2016, 30(8): 595.
[33]	Coley C W, Barzilay R, Green W, Jaakkola T, Jensen K. J. Chem. Inf. Model., 2017, 57(8): 1757.
[34]	Yang K, Swanson K, Jin W G, Coley C, Eiden P, Gao H, Guzman-Perez A, Hopper T, Kelley B, Mathea M, Palmer A, Settels V, Jaakkola T, Jensen K, Barzilay R. J. Chem. Inf. Model., 2019, 59(8): 3370.
[35]	Xie T, Grossman J. Phys. Rev. Lett., 2018, 120(14): 145301.
[36]	Ramakrishnan R, Dral P O, Rupp M, von Lilienfeld O A, Sci. Data, 2014, 1: 140022.
[37]	Chen C, Ye W K, Zuo Y X, Zheng C, Ong S. Chem. Mater., 2019, 31(9): 3564.
[38]	Venugopal V, Olivetti E. Sci. Data, 2024, 11(1): 217.
[39]	Tshitoyan V, Dagdelen J, Weston L, Dunn A, Rong Z Q, Kononova O, Persson K A, Ceder G, Jain A. Nature, 2019, 571(7763): 95
[40]	Consonni V, Ballabio D, Todeschini R. Cheminformatics, QSAR and Machine Learning Applications for Novel Drug Development. New York: Academic Press, 2023. 303.
[41]	Consonni V, Todeschini R. Statistical Modelling of Molecular Descriptors in QSAR/QSPR. Dehmer M, Varmuza K, Bonchev D (Eds.). New Jersey: Wiley, 2012, 111.
[42]	Amar Y, Schweidtmann A M, Deutsch P, Cao L W, Lapkin A. Chem. Sci., 2019, 10(27): 6697.
[43]	Durant J L, Leland B A, Henry D R, Nourse J G. J. Chem. Inf. Comput. Sci., 2002, 42(6): 1273.
[44]	Rogers D, Hahn M. J. Chem. Inf. Model., 2010, 50(5): 742.
[45]	Vidal D, Thormann M, Pons M. J. Chem. Inf. Model., 2005, 45(2): 386.
[46]	Schwartz J, Awale M, Reymond J. J. Chem. Inf. Model., 2013, 53(8): 1979.
[47]	Bender A, Jenkins J L, Glick M, Deng Z, Nettles J H, Davies J W. J. Chem. Inf. Model., 2006, 46(6): 2445.
[48]	Nidhi, Glick M, Davies J, Jenkins J. J. Chem. Inf. Model., 2006, 46(3): 1124.
[49]	Laufk?tter O, Sturm N, Bajorath J, Chen H M, Engkvist O. J. Cheminform, 2019, 11(1): 54.
[50]	David L, Thakkar A, Mercado R, Engkvist O. J. Cheminform, 2020, 12(1): 56.
[51]	Yu L, Sun L L, Du B W, Lv W F. Adv. Neural Inform. Process. Syst., 2023, 36: 67686.
[52]	Yuan H N, Sun Q Y, Fu X C, Zhang Z W, Ji C, Peng H, Li J X. Neural Information Processing Systems. New York: Curran Associates, 2024, 36.
[53]	Faber F A, Hutchison L, Huang B, Gilmer J, Schoenholz S S, Dahl G E, Vinyals O, Kearnes S, Riley P F, von Lilienfeld O A. J. Chem. Theory Comput., 2017, 13(11): 5255.
[54]	Choudhary K, Garrity K, Ghimire N, Anand N, Tavazza F. Phys. Rev. B, 2021, 103(15): 155131.
[55]	Choudhary K, Garrity K F, Tavazza F. J. Phys. Condens. Matter, 2020, 32(47): 475501.
[56]	Liu C H, Tao Y Z, Hsu D, Du Q, Billinge S. Acta Crystallogr. A: Found. Adv., 2019, 75(4): 633.
[57]	Xu K, Hu W, Leskovec J, Jegelka S. How Powerful Are Graph Neural Networks? [2018-10-01]. https://doi.org/10.48550/arXiv.1810.00826.
[58]	Battaglia P, Hamrick J B, Bapst V, Sanchez-Gonzalez A, Zambaldi V, Malinowski M, Tacchetti A, Raposo D, Santoro A, Faulkner R, Gül?ehre ?, Song H F, Ballard A J, Gilmer J, Dahl G E, Vaswani A, Allen K R, Nash C, Langston V, Dyer C, Heess N, Wierstra D, Kohli P, Botvinick M, Vinyals O, Li Y J, Pascanu R. Relational Inductive Biases, Deep Learning, and Graph Networks. [2018-06-04]. https://doi.org/10.48550/arXiv.1806.01261.
[59]	Gasteiger J, Giri S, Margraf J T, Günnemann S. Fast and Uncertainty-Aware Directional Message Passing for Non-Equilibrium Molecules. [2022-05-05]. https://doi.org/10.48550/arXiv.2011.14115.
[60]	Flam-Shepherd D, Wu T C, Friederich P, Aspuru-Guzik A. Mach. Learn. Sci. Technol., 2021, 2(4): 045009.
[61]	Gasteiger J, Becker F, Günnemann S. Neural Information Processing Systems. New York: Curran Associates, 2021. 34: 6790.
[62]	Schütt K T, Sauceda H E, Kindermans P J, Tkatchenko A, Müller K R. J. Chem. Phys., 2018, 148(24): 241722.
[63]	Unke O T, Meuwly M. J. Chem. Theory Comput., 2019, 15(6): 3678.
[64]	Gasteiger J, Gro? J, Günnemann S. Directional Message Passing for Molecular Graphs. [2022-04-05]. https://doi.org/10.48550/arXiv.2003.03123.
[65]	Chen Z H, You Z H, Guo Z H, Yi H C, Luo G X, Wang Y B. Front. Bioeng. Biotechnol., 2020, 8: 338.
[66]	Jo J, Baek J, Lee S, Kim D, Kang M, Hwang S J. Neural Information Processing Systems. New York: Curran Associates, 2021. 34: 7534.
[67]	Gilmer J, Schoenholz S S, Riley P F, Vinyals O, Dahl G E. International Conference on Machine Learning. Sydney: PMLR, 2017. 1263.
[68]	Dwivedi V P, Joshi C K, Luu A T, Laurent T, Bengio Y, Bresson X. J. Mach. Learn. Res., 2023, 24(43): 1.
[69]	Choudhary K, DeCost B L. NPJ Comput. Mater., 2021, 7(1): 185.
[70]	Liao Y L, Smidt T, Shuaibi M, Da A. Generalizing Denoising to Non-Equilibrium Structures Improves Equivariant Force Fields. [2024-12-19]. https://doi.org/10.48550/arXiv.2403.09549.
[71]	Barroso-Luque L, Shuaibi M, Fu X, Wood B M, Dzamba M, Gao M, Rizvi A, Zitnick C L, Ulissi Z W. Open Materials 2024 (OMat24) Inorganic Materials Dataset and Models. [2024-10-16]. https://arxiv.org/abs/2410.127711
[72]	Jaeger S, Fulle S, Turk S. J. Chem. Inf. Model., 2018, 58(1): 27.
[73]	Mann V, Brito K, Gani R, Venkatasubramanian V. Fluid Phase Equilib., 2022, 561: 113531.
[74]	Bechhofer S, Harmelen F V, Hendler J, Horrocks I, McGuinness D L, Patel-Schneider P, Stein L. OWL Web Ontology Language Reference. [2024-02-10]. http://www.w3.org/TR/2004/rec-owl-ref-20040210/
[75]	Chen J Y, Hu P, Jimenez-Ruiz E, Holter O M, Antonyrajah D, Horrocks I. Mach. Learn., 2021, 1813.
[76]	Goh G B, Hodas N O, Siegel C, Vishnu A. SMILES2Vec: An Interpretable General-Purpose Deep Neural Network for Predicting Chemical Properties. [2018-03-18]. https://arxiv.org/abs/1712.02034
[77]	Jeon W, Kim D. Bioinformatics, 2019, 35(23): 4979.
[78]	Zang X, Zhao X B, Tang B Z. Commun. Chem., 2023, 6(1): 34.
[79]	Wang S, Guo Y Z, Wang Y H, Sun H M, Huang J Z. 10th ACM International Conference on Bioinformatics, Computational Biology and Health Informatics. New York: ACM, 2019. 429.
[80]	Guo Z J, Zhang Y, Lu W. Attention Guided Graph Convolutional Networks for Relation Extraction. [2019-08-02]. https://www.aclweb.org/anthology/P19-1024/
[81]	Qin L, Dong G C, Peng J. 2020 IEEE International Conference on Bioinformatics and Biomedicine (BIBM). Seoul: IEEE, 2020. 708.
[82]	Li J, Jiang X. Wirel. Commun. Mob. Computi., 2021, 2021(1): 7181815.
[83]	Liu Y W, Zhang R S, Li T F, Jiang J, Ma J, Wang P. J. Mol. Graph. Model., 2023, 118: 108344.
[84]	Tang Q, Nie F L, Zhao Q, Chen W. Brief. Bioinform., 2022, 23(5): bbac357.
[85]	Chithrananda S, Grand G, Ramsundar B. ChemBERTa: Large-Scale Self-Supervised Pretrainfab shing for Molecular Property Prediction. [2020-10-19]. https://arxiv.org/abs/2010.09885
[86]	Ghaayathri Devi K, Bedadhala R S, Sachin Kumar S, Soman K P, Bodapatiq J D. 2024 2024 4th International Conference on Intelligent Technologies (CONIT). Bangalore: IEEE, 2024. 1.
[87]	Ross J, Belgodere B M, Chenthamarakshan V, Padhi I, Mroueh Y, Das P. Nat. Mach. Intell., 2022, 4(12): 1256.
[88]	Wu F, Radev D, Li S Z. Proc. AAAI Conf. Artif. Intell., 2023, 37(4): 5312.
[89]	Wan F P, Zeng J Y. D. Deep Learning with Feature Embedding for Compound-Protein Interaction Prediction. [2016-11-07]. https://www.biorxiv.org/content/10.1101/086033v1
[90]	Olivecrona M, Blaschke T, Engkvist O, Chen H M. J. Cheminf., 2017, 9: 48.
[91]	Schneider N, Fechner N, Landrum G, Stiefl N. J. Chem. Inf. Model., 2017, 57(8): 1816.
[92]	Mann V, Venkatasubramanian V. AIChE J., 2021, 67(3): e17190.
[93]	Hinton G E, Salakhutdinov R R. Science, 2006, 313(5786): 504.
[94]	Gómez-Bombarelli R, Wei J N, Duvenaud D, Hernández-Lobato J M, Sánchez-Lengeling B, Sheberla D, Aguilera-Iparraguirre J, Hirzel T D, Adams R P, Aspuru-Guzik A. ACS Cent. Sci., 2018, 4(2): 268.
[95]	Winter R, Montanari F, Noé F, Clevert D A. Chem. sci., 2019, 10(6): 1692.
[96]	Popova M, Isayev O, Tropsha A. Sci. Adv., 2018, 4(7): eaap7885.
[97]	Segler M H S, Kogej T, Tyrchan C, Waller M. ACS Cent. Sci., 2018, 4(1): 120.
[98]	Xu Z, Wang S, Zhu F Y, Huang J Z. 8th ACM International Conference on Bioinformatics, Computational Biology,and Health Informatics. Boston: ACM, 2017. 285.
[99]	Hou Y Y, Wang S Y, Bai B, Chan H C S, Yuan S G. Molecules, 2022, 27(5): 1668.
[100]	Lv Q J, Chen G X, Zhao L, Zhong W H, Chen C Y. Brief. Bioinform., 2021, 22(6): bbab317.
[101]	Bagal V, Aggarwal R, Vinod P K, Priyakumar U D. J. Chem. Inf. Model., 2022, 62(9): 2064.
[102]	Radford A, Narasimhan K, Salimans T, Sutskever I. Improving Language Understanding by Generative Pre-Training. [2018-06-11]. https://cdn.openai.com/research-covers/language-unsupervised/language_understanding_paper.pdf
[103]	Jin W G, Barzilay R, Jaakkola T. International Conference on Machine Learning. Sweden: PMLR, 2018. 2323.
[104]	Jin W G, Barzilay R, Jaakkola T. International Conference on Machine Learning. Vienna: PMLR, 2020. 4839.
[105]	Gebauer N, Gastegger M, Schütt K T. Neural Information Processing Systems. Vancouver: PMLR, 2019. 32.
[106]	Shi C, Xu M, Zhu Z, Zhang W, Zhang M, Tang J. GraphAF: A Flow-Based Autoregressive Model for Molecular Graph Generation. [2020-02-27]. https://doi.org/10.48550/arXiv.2001.09382.
[107]	Zang C X, Wang F. 26th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining. California: ACM, 2020. 617.
[108]	Kingma D P, Dhariwal P. Neural Information Processing Systems. Montreal: Curran, 2018. 31.
[109]	Peng X, Guan J, Liu Q, Ma J. MolDiff: Addressing the Atom-Bond Inconsistency Problem in 3D Molecule Diffusion Generation. [2023-05-11]. https://doi.org/10.48550/arXiv.2305.07508.
[110]	Oestreich M, Merdivan E, Lee M, Schultze J L, Piraud M, Becker M. J. Cheminf., 2025, 17: 23.
[111]	Krenn M, H?se F, Nigam A, Friederich P, Aspuru-Guzik A. Mach. Learn. Sci. Technol., 2020, 1(4): 045024.
[112]	Eckmann P, Sun K, Zhao B, Feng M, Gilson M K, Yu R. International Conference on Machine Learning, ICML 2022. Vienna: PMLR, 2022. 162: 5777.
[113]	Rombach R, Blattmann A, Lorenz D, Esser P, Ommer B. 2022 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). New Orleans: IEEE, 2022, 10674.
[114]	Luo Y, Yan K, Ji S. International Conference on Machine Learning. PMLR, 2021. 7192.
[115]	Imrie F, Bradley A R, van der Schaar M, Deane C M. J. Chem. Inf. Model., 2020, 60(4): 1983.
[116]	Liu M, Yan K, Oztekin B, Ji S. GraphEBM: Molecular Graph Generation with Energy-Based Models. [2021-04-11]. https://doi.org/10.48550/arXiv.2102.00546.
[117]	Welling M.; Teh Y. W. 28th International Conference on Machine Learning, ICML-11. Bellevue: Citeseer, 2011. 681.
[118]	Xu M, Yu L, Song Y, Shi C, Ermon S, Tang J. GeoDiff: A Geometric Diffusion Model for Molecular Conformation Generation. [2022-05-06]. https://doi.org/10.48550/arXiv.2203.02923.
[119]	Sohl-Dickstein J, Weiss E, Maheswaranathan N, Ganguli S. International Conference on Machine Learning. Lille: PMLR, 2015. 2256.
[120]	Liu M, Luo Y, Uchino K, Maruhashi K, Ji S. Generating 3D Molecules for Target Protein Binding. [2022-05-30]. https://doi.org/10.48550/arXiv.2204.09410
[121]	Li Y. Roberta: A Robustly Optimized Bert Pretraining Approach. [2019-07-26]. https://arxiv.org/abs/1907.11692
[122]	Wu Z Q, Ramsundar B, Feinberg E N, Gomes J, Geniesse C, Pappu A S, Leswing K, Pande V. Chem. Sci., 2018, 9(2): 513.
[123]	Su J L, Ahmed M, Lu Y, Pan S F, Bo W, Liu Y F. Neurocomputing, 2024, 568: 127063.
[124]	Ishida S, Miyazaki T, Sugaya Y, Omachi S. Molecules., 2021, 26(11): 3125.
[125]	Qiu J Z, Chen Q B, Dong Y X, Zhang J, Yang H X, Ding M, Wang K S, Tang J. 26th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining. Virtual Event CA USA: ACM, 2020, 1150.
[126]	Xu M, Wang H, Ni B, Guo H, Tang J. International Conference on Machine Learning. PMLR, 2021. 11548.
[127]	Liu S, Wang H, Liu W, Lasenby J, Guo H, Tang J. Pre-Training Molecular Graph Representation with 3D Geometry.[2022-05-29]. https://doi.org/10.48550/arXiv.2110.07728.
[128]	Veli?kovi? P, Fedus W, Hamilton W L, Liò P, Bengio Y, Hjelm R D. Deep Graph Infomax. [2018-12-21]. https://doi.org/10.48550/arXiv.1809.10341.
[129]	You Y, Chen T, Sui Y, Chen T, Wang Z, Shen Y. In Neural Information Processing Systems. Curran Associates, 2020, 33, 5812.
[130]	Zhang Z X, Liu Q, Wang H, Lu C Q, Lee C K. In Neural Information Processing Systems. Curran Associates, 2021, 34: 15870.
[131]	Zhang S, Hu Z, Subramonian A, Sun Y. Motif-Driven Contrastive Learning of Graph Representations. [2021-03-15]. https://doi.org/10.48550/arXiv.2012.12533.
[132]	Wang Y, Wang J, Cao Z, Barati Farimani A. Nat. Mach. Intell., 2022, 4(3): 279.
[133]	Wang Y Y, Magar R, Liang C, Farimani A. J. Chem. Inf. Model., 2022, 62(11): 2713.
[134]	Wang H, Li W, Jin X, Cho K, Ji H, Han J, Burke M D. Chemical-Reaction-Aware Molecule Representation Learning. [2021-10-12]. https://doi.org/10.48550/arXiv.2109.09888.
[135]	Gong X, Liu Q, Han R, Guo Y K, Wang G Y. Neural Netw., 2025, 184: 107088.
[136]	Gong X, Liu M T, Liu Q, Guo Y K, Wang G Y. Pattern Recognit., 2025, 163: 111463.
[137]	Wang C H, Yang Y Q, Song J S, Nan X F. J. Chem. Inf. Model., 2024, 64(19): 7189.
[138]	Guo Z C, Yu W H, Zhang C X, Jiang M, Chawla N V. 29th ACM International Conference on Information & Knowledge Management. Virtual Event Ireland: ACM, 2020. 435.
[139]	Liu J P, Lei X J, Zhang Y C, Pan Y. Comput. Biol. Med., 2023, 153: 106524.
[140]	Nguyen D M H, Lukashina N, Nguyen T, Le A T, Nguyen T, Ho N, Peters J, Sonntag D, Zaverkin V, Niepert M. Structure-Aware E(3)-Invariant Molecular Conformer Aggregation Networks. [2024-08-19]. https://doi.org/10.48550/arXiv.2402.01975.
[141]	Vayer T, Courty N, Tavenard R, Chapel L, Flamary R. In International Conference on Machine Learning. California: PMLR, 2019, 6275.
[142]	Zhu Y, Hwang J, Adams K, Liu Z, Nan B, Stenfors B, Du Y, Chauhan J, Wiest O, Isayev O, Coley C W, Sun Y, Wang W. Learning Over Molecular Conformer Ensembles: Datasets and Benchmarks.[2024-07-28]. https://doi.org/10.48550/arXiv.2310.00115.
[143]	Wang X F, Li Z, Jiang M J, Wang S, Zhang S G, Wei Z Q. J. Chem. Inf. Model., 2019, 59(9): 3817.
[144]	Cai H X, Zhang H M, Zhao D C, Wu J X, Wang L. Brief. Bioinform., 2022, 23(6): bbac408.
[145]	Wang T Y, Sun J Q, Zhao Q. Comput. Biol. Med., 2023, 153: 106464.
[146]	Zhang H H, Wu J T, Liu S C, Han S. Inf. Fusion, 2024, 103: 102092.
[147]	Lu X, Xie L, Xu L, Mao R, Chang S, Xu X. Comput. Struct. Biotechnol. J., 2024, 23, 1666.
[148]	Nan S H, Li Z M, Jin S M, Du W L, Shen W F. Ind. Eng. Chem. Res., 2025, 64(5): 3045.
[149]	Yi W L, Zhang L, Xu Y L, Cheng X P, Chen T Z. Expert Syst. Appl., 2025, 260: 125403.
[150]	Ryu J, Lee M Y, Lee J H, Lee B, Oh K. Bioinformatics, 2020, 36(10): 3049.
[151]	Deng D G, Chen X W, Zhang R C, Lei Z R, Wang X J, Zhou F. J. Chem. Inf. Model., 2021, 61(6): 2697.
[152]	Wu J Z, Su Y, Yang A, Ren J Z, Xiang Y. Comput. Biol. Med., 2023, 165: 107452.
[153]	Zheng Z X, Wang H, Tan Y Y, Liang C, Sun Y S. Expert Syst. Appl., 2023, 234: 121016.
[154]	St?rk H, Beaini D, Corso G, Tossou P, Dallago C, Günnemann S, Liò P. International Conference on Machine Learning. Baltimore: PMLR, 2022. 20479.
[155]	Chen M K, Gong X W, Pan S R, Wu J, Lin F, Du B, Hu W B. Neural Netw., 2025, 184: 107068.
[156]	Chen R Z, Li C Y, Wang L Y, Liu M Q, Chen S G, Yang J H, Zeng X X. Inf. Fusion, 2025, 115: 102784.
[157]	Xiang H X, Jin S T, Xia J, Zhou M, Wang J M, Zeng L, Zeng X X. Thirty-Third International Joint Conference on Artificial Intelligence. Jeju: AAAI Press, IJCAI Organization, 2024. 6107.
[158]	Ma M, Lei X J. Comput. Biol. Med., 2024, 169: 107911.
[159]	Yin R, Liu R Y, Hao X S, Zhou X R, Liu Y, Ma C, Wang W P. IEEE Trans. Image Process., 2024, 34: 3225.
[160]	Chen Z Y, Xie F K, Wan M, Yuan Y, Liu M, Wang Z G, Meng S, Wang Y G. Chin. Phys. B., 2023, 32(11): 118104.
[161]	Grisoni F. Curr. Opin. Struct. Biol., 2023, 79: 102527.
[162]	Luo Y, Zhang J, Fan S, Yang K, Wu Y, Qiao M, Nie Z. BioMedGPT: Open Multimodal Generative Pre-Trained Transformer for BioMedicine. [2023-08-21]. https://doi.org/10.48550/arXiv.2308.09442.
[163]	Xie T, Wan Y, Liu Y, Zeng Y, Wang S, Zhang W, Grazian C, Kit C, Ouyang W, Zhou D, Hoex B. DARWIN 1.5: Large Language Models as Materials Science Adapted Learners. [2025-05-21]. https://doi.org/10.48550/arXiv.2412.11970.
[164]	Liu X, Wang Y, Yang T, Liu X, Wen X D. AlchemBERT: Exploring Lightweight Language Models for Materials Informatics. [2025-02-13]. https://www.cambridge.org/engage/chemrxiv/article-details/6781a6b481d2151a02a3212e
[165]	Zeng Z N, Yao Y, Liu Z Y, Sun M S. Nat. Commun., 2022, 13(1): 862.
[166]	Su B, Du D, Yang Z, Zhou Y, Li J, Rao A, Sun H, Lu Z, Wen J R. A Molecular Multimodal Foundation Model Associating Molecule Graphs with Natural Language. [2022-09-12]. https://doi.org/10.48550/arXiv.2209.05481.
[167]	Liu S, Nie W, Wang C, Lu J, Qiao Z, Liu L, Tang J, Xiao C, Anandkumar A. Nat. Mach. Intel., 2023, 5(12): 1447.
[168]	Hua Y, Feng Z H, Song X N, Wu X J, Kittler J. Pattern Recognit., 2025, 157: 110887.
[169]	Polat C, Kurban H, Serpedin E, Kurban M. Understanding the Capabilities of Molecular Graph Neural Networks in Materials Science Through Multimodal Learning and Physical Context Encoding.[2025-05-17]. https://doi.org/10.48550/arXiv.2505.12137.
[170]	Kim S, Chen J, Cheng T J, Gindulyte A, He J, He S Q, Li Q L, Shoemaker B A, Thiessen P A, Yu B, Zaslavsky L, Zhang J, Bolton E E. Nucleic Acids Res., 2025, 53(D1): D1516.
[171]	Arevalo J, Solorio T, Montes-y-Gómez M, González F A. Neural Comput. Appl., 2020, 32(14): 10209.
[172]	Tang X R, Tran A, Tan J, Gerstein M B. Bioinformatics, 2024, 40(Supplement_1): i357.
[173]	Kang C L, Liu X Y, Guo F. The Thirteenth International Conference on Learning Representations. Singapore: ICLR, 2025.
[174]	Chen B, Li C, Dai H, Song L. International Conference on Machine Learning. PMLR, 2020, 1608.
[175]	Liu G, Sun M, Matusik W, Jiang M, Chen J. Multimodal Large Language Models for Inverse Molecular Design with Retrosynthetic Planning. [2024-10-08]. https://arxiv.org/abs/2410.04223
[176]	Liu G, Xu J, Luo T, Jiang M. Graph Diffusion Transformers for Multi-Conditional Molecular Generation. [2024-10-03]. https://doi.org/10.48550/arXiv.2401.13858.
[177]	Wiercioch M, Kirchmair J. Expert Syst. Appl., 2023, 213: 119055.
[178]	He Z, Chen L, Lv H, Zhou R, Xu J, Chen Y, Hu J, Gao Y. Advanced Intelligent Computing Technology and Applications. Huang D S, Premaratne P, Jin B, Qu B, Jo K H, Hussain A (Eds.). Singapore: Springer, 2023. 14088: 700.
[179]	Wu K D, Wei G. J. Chem. Inf. Model., 2018, 58(2): 520.
[180]	Yap C W. J. Comput. Chem., 2011, 32(7):1466.
[181]	Ding Y, Jiang X Q, Kim Y. Bioinformatics, 2022, 38(10): 2826.
[182]	Schlichtkrull M, Kipf T N, Bloem P, Van Den Berg R, Titov I, Welling M. The Semantic Web. Gangemi A, Navigli R, Vidal M-E, Hitzler P, Troncy R, Hollink L, Tordai A, Alam M (Eds.). Cham: Springer, 2018, 10843: 593.
[183]	Moriwaki H, Tian Y S, Kawashita N, Takagi T. J. Cheminf., 2018, 10: 4.
[184]	Kumar R, Sharma A, Alexiou A, Bilgrami A L, Kamal M A, Ashraf G M. Front. Neurosci., 2022, 16: 858126.
[185]	Zou Z, Zhang Y, Liang L, Wei M, Leng J, Jiang J, Luo Y, Hu W. Nat. Comput. Sci., 2023, 3(11): 957.
[186]	Alberts M, Schilter O, Zipoli F, Hartrampf N, Laino T. Neural Information Processing Systems. Vancouver: Curran Associates, 2024, 37: 125780.
[187]	Guo K, Nan B, Zhou Y, Guo T, Guo Z, Surve M, Liang Z, Chawla N, Wiest O, Zhang X. In Neural Information Processing Systems. Vancouver: Curran Associates, 2024, 37: 134721.
[188]	Guo S B, Jiang J, Ren H, Wang S. J. Phys. Chem. Lett., 2023, 14(33): 7461.
[189]	Yang G, Jiang S, Luo Y, Wang S, Jiang J. J. Phys. Chem. Lett. 2024, 15(34): 8766.
[190]	EdwinChacko, RudraSondhi, Praveen A, Luska K L, Spectro: A Multi-Modal Approach for Molecule Elucidation Using IR and NMR Data. [2024-11-06]. https://www.cambridge.org/engage/chemrxiv/article-details/6724fb5b7be152b1d0ae66f8
[191]	BehnamGhader P, Adlakha V, Mosbach M, Bahdanau D, Chapados N, Reddy S. LLM2Vec: Large Language Models Are Secretly Powerful Text Encoders. [2024-08-21]. https://doi.org/10.48550/arXiv.2404.05961
[192]	Mirza A, Jablonka K M. Elucidating Structures from Spectra Using Multimodal Embeddings and Discrete Optimization. [2024-11-22]. https://chemrxiv.org/engage/chemrxiv/article-details/673fbcab5a82cea2fa4c4a39
[193]	Rocabert-Oriols P, López N, Heras-Domingo J. Multi-Modal Contrastive Learning for Chemical Structure Elucidation with VibraCLIP. [2025-04-23]. https://www.cambridge.org/engage/chemrxiv/article-details/6807a71c50018ac7c5a0d0cb
[194]	Radford A, Kim J W, Hallacy C, Ramesh A, Goh G, Agarwal S, Sastry G, Askell A, Mishkin P, Clark J. International Conference on Machine Learning. PmLR, 2021, 8748.
[195]	Wang L, Liu S, Rong Y, Zhao D, Liu Q, Wu S, Wang L. MolSpectra: Pre-Training 3D Molecular Representation with Multi-Modal Energy Spectra. [2025-02-22]. https://doi.org/10.48550/arXiv.2502.16284

基金资助

国家自然科学基金项目(22272009)

国家自然科学基金项目(22203008)

PDF (1975KB)

421

访问

被引

详细

导航

Received	Published	Revised
2025-03-12	2025-10-24	2025-06-19
Online Date
2025-10-15

摘要