低数据分子生成中随机化策略受控研究
原文：What to randomize matters: a controlled study of volume, axis and representation in low-data molecular generation
化学语言模型在小数据集上训练时可能难以生成新分子，模型可能只是复现训练样本，而非学到有用的生成分布。随机化 SMILES 增强会改变原子遍历顺序，而基于序贯连接的片段嵌入（SAFE）还允许片段块的顺序变化。这些不同的表示变异来源如何影响低数据分子生成，尚未得到清晰研究。在此，我们使用 1,000 个种子分子训练一个自回归序列模型，在递增的语料规模下比较规范 SAFE 与随机化 SAFE，分离出 SAFE 随机化的原子顺序轴和片段顺序轴，并在逐分子匹配的训练语料上比较完全随机化 SAFE 与随机化 SMILES。研究得出三点发现。第一，仅对 SAFE 进行随机化就能将新颖分子的真实产率提高 450 倍以上，使一个仅仅复现训练集的模型转变为实用的分子生成器。第二，两个随机化轴是联合起作用而非简单叠加：仅改变原子顺序可达到两者同时变化时真实产率的十分之一，仅改变片段顺序可达到七分之一，而两者同时变化的贡献是它们各自单独贡献之和的四倍。第三，在匹配语料规模和计算量的情况下，随机化 SAFE 的真实产率是随机化 SMILES 的 2.8 倍。Welch 检验配合 Games-Howell 事后比较在主要结果上厘清了所有差异。因此，在低数据情形下，随机化什么——而不仅仅是随机化多少——决定了增强是产生新分子，还是仅仅产生训练集的新拼写。作者：Neerav Kaushal、Alisa Teige、Ajay MNV Penmatsa 类别：cs.LG、cs.CE、cs.CL、q-bio.BM