成果简介

摘要

     准确预测无机材料性质，是加速能源、电子、催化和功能材料研发的重要基础。现有大语言模型多依赖化学式或晶体结构文本，难以充分理解原子坐标、局域配位和晶体对称性等三维信息，因此在材料性质定量预测方面仍存在局限。

    本研究提出结构感知的多模态材料大语言模型MatterChat。该模型将CHGNet或MACE等原子模型与Mistral 7B连接，通过可训练桥接模块，把三维晶体结构转换为大语言模型可理解的表示。研究基于142,899个无机晶体结构，构建了材料描述、稳定性、带隙、磁性、形成能等多项预测任务。

    在14,290个样本的评估中，MatterChat整体优于纯文本大语言模型和多种专业机器学习模型，并可解释材料稳定性、生成氮化镓和钇铁石榴石等材料的合成方案。结合结构检索增强生成后，模型的回归误差进一步降低约12%，并在约15,000种分布外材料上展现出较强迁移能力，为材料筛选、结构—性能分析和合成规划提供了新的AI工具。

关键词

材料大语言模型、多模态人工智能、晶体结构、机器学习原子间势、图神经网络、材料性质预测、检索增强生成

2

图文导读

图1 | MatterChat多模态材料大模型的整体架构与训练数据

• 目的：展示MatterChat如何将三维晶体结构、原子级材料模型和自然语言大模型连接起来，并说明训练数据覆盖的元素、空间群和晶系范围。
• 展示：模型由材料处理分支、语言处理分支和桥接模块构成。CHGNet或MACE首先把晶体转换为原子图嵌入；包含32个可训练查询向量的Transformer桥接模块通过交叉注意力提取结构信息，并把它投影到语言模型的嵌入空间；Mistral 7B结合用户问题生成最终回答。数据集包含142,899种材料，覆盖广泛元素组成、空间群和晶系。
• 结论：该架构不需要从头训练一个同时掌握材料物理和语言知识的巨型模型，而是以模块化方式复用成熟的原子模型和LLM，将主要训练集中在跨模态桥接层，兼顾性能、训练成本与后续扩展性。

图2：MatterChat可通过自然语言完成多种材料性质预测

• 目的：检验模型能否在对话中同时回答结构描述、分类判断和连续数值预测问题，并与通用大语言模型进行比较。
• 展示：用户输入晶体结构并询问化学式、空间群、稳定性、带隙、磁序、形成能和凸包能等信息，MatterChat直接生成材料属性及数值结果。针对GNoME新材料的形成能预测，论文将MatterChat与GPT-4o、Gemini和DeepSeek的回答进行对比。
• 结论：MatterChat的预测结果与第一性原理参考值更加接近，说明结构嵌入能够弥补通用LLM在精确数值和三维晶体表示方面的不足，使自然语言问答真正建立在原子结构之上。

图3：从材料性质解释到合成步骤生成的科学推理能力

• 目的：评估模型是否能够在预测材料属性之后继续完成因果解释和实验合成规划，而不仅输出孤立数值。
• 展示：对于特定空间群的硅结构，模型判断其在标准条件下不稳定，并从能量差异角度解释原因；对于GaN，模型给出氢化物气相外延、金属有机化学气相沉积和分子束外延等可选路线，并提出三甲基镓、氨气及800—1,000 ℃温区；对于钇铁石榴石，模型生成固相反应法的简化步骤。
• 结论：结构信息与LLM知识结合后，模型可以把“这个材料是什么”“性质如何”“为什么如此”和“可能怎样制备”连接成连续对话，为材料研究人员提供更自然的交互入口。

图4：桥接模块学习到结构、组成与形成能共同决定的材料表示

• 目的：打开模型“黑箱”，判断桥接层提取的嵌入是否保留了真实的结构—性能信息。
• 展示：作者使用UMAP将4,096维结构嵌入降至二维，分析含Si、C及SiC等材料的聚类。材料首先按照化学组成形成不同区域；相同组成的材料又会因晶型差异形成子簇，例如金刚石和石墨结构被区分。对于部分SiC和Si材料，聚类还呈现与形成能相关的连续梯度。
• 结论：桥接层并非只学习材料名称或元素标签，而是同时编码了局域结构相似性和能量性质。这为后续使用结构嵌入开展相似材料检索、RAG增强和候选材料筛选提供了依据。

图5：MatterChat在9项材料性质任务上的系统性能比较

• 目的：通过大规模测试比较MatterChat、纯文本LLM、图神经网络和通用原子模型在分类与回归任务中的表现。
• 展示：研究在14,290个评估样本上测试金属性、直接带隙、热力学稳定性、是否被实验观测、磁性和磁序等6项分类任务，以及带隙、形成能和凸包能等3项回归任务。对比模型包括Vicuna、Mistral、SchNet、CHGNet和MACE。
• 结论：MatterChat在分类任务中持续优于对比模型，并在3项数值预测中获得最低均方根误差。结果表明，多模态模型可以兼顾LLM的交互和推理能力，以及物理材料模型的定量精度。

图6：结构—文本对齐、注意力机制与分布外泛化

• 目的：分析模型如何把结构查询向量与材料语言标记对齐，并检验其面对训练分布之外新材料时是否仍然可靠。
• 展示：结构嵌入与化学式、空间群和晶系等文本嵌入之间形成有规律的相似度对齐；稳定与不稳定材料在部分查询向量上表现出不同注意力模式。论文还比较了训练测试集与GNoME外部数据在形成能、带隙和凸包能分布上的明显差异。
• 结论：MatterChat能够学习具有一定可解释性的结构—语言关联。基于MACE的版本在约15,000种GNoME分布外材料上无需额外微调仍保持较强性能，显示其有潜力用于更广阔的未知材料空间。

3

 

创新点总结

 

 

一、让大语言模型直接接收完整三维原子结构

     以往材料LLM多把晶体结构压缩成化学式或CIF文本，容易丢失局域配位和空间关系。MatterChat利用CHGNet或MACE提取原子级结构表示，再通过跨注意力桥接模块输入LLM，实现了从“读材料文字”到“理解材料结构”的关键升级。

二、以模块化冻结策略低成本连接两个领域基础模型

模型冻结预训练材料编码器和LLM的大部分参数，重点训练中间桥接模块。该方法保留了原子模型的物理表征能力和语言模型的通用知识，同时避免对整个大模型进行昂贵的全参数训练，并允许未来替换不同的材料编码器或语言模型。

三、统一材料描述、定量预测、解释推理与合成规划

      MatterChat在同一个自然语言界面中覆盖3项描述任务和9项性质任务，还能解释特定结构为何不稳定，并生成材料合成步骤。这种统一交互方式减少了数据库检索、性质模型和文献问答工具之间的切换。

 

来源：人工智能与生化环材