21万参数神经细胞自动机遗传提示基础模型
原文：A 211K Parameter Foundation Model: Genetic Prompting in Neural Cellular Automata
现代基础模型的规模使其具备广泛的任务泛化能力。在医学影像领域，分割需求因临床场景不同而差异巨大，这种灵活性尤为宝贵。但当前模型（如SAM）以规模换取了适应性，将其实用性锁定在高端基础设施之上，反而将最需要诊断支持的低资源环境排除在外。为弥合这一差距，我们提出Foundational-NCA，一种轻量级基础模型，无需重新训练即可适应广泛的医学分割任务。Foundational-NCA基于神经细胞自动机（NCA）构建，将基于梯度的学习与潜在任务空间上的遗传优化相结合，使用紧凑的任务向量来引导预测。这通过遗传提示机制实现动态适应，使模型能够跨任务泛化，同时将参数量保持在仅21.1万的极低水平，而基于SAM的模型参数量为3890万至6.36亿。我们在TotalSegmentator数据集的15个已训练任务和6个完全未见过的分割任务上评估了Foundational-NCA，在已知任务上平均Dice得分为84.5%，在未见任务上为60.4%。这些结果表明，超紧凑模型也能实现任务泛化，为基础设施有限的临床环境中部署资源高效的基础模型奠定了基础。通过将模型规模缩小180倍以上，Foundational-NCA朝着医学AI更公平的未来迈出了一步——一个强大工具触手可及于每个医疗环境的未来。作者：John Kalkhof, Niklas Ihm, Daniel Kirste, Anirban Mukhopadhyay 类别：cs.CV