在TMB中实现神经网络混合效应模型
原文:Implementing neural network mixed-effects models in Template Model Builder (TMB)
神经网络混合效应模型(NMM)将人工神经网络强大的表征与预测能力同混合效应建模刻画复杂相关结构的能力相结合,日益受到关注。然而,现有估计方法严重依赖目标函数和梯度的手动推导,这必然带来简化近似,严重限制了NMM的复杂度和准确性。本工作中,我们提出了一个使用Template Model Builder(TMB)实现NMM的通用框架。借助自动微分和拉普拉斯近似,TMB只需用户指定联合负对数似然和任意正则化项。框架自动积分掉随机效应,并计算边际目标函数及其精确梯度,从而免除了手动推导或临时近似。我们通过两个数值示例展示基于TMB的NMM的效率、灵活性和统计性能,其中包括一个单调NMM的应用。我们提供可复现代码以促进更广泛的应用。作者:Nan Zheng, Hoi Yiu Cheung, Vibhu Sharma, James T. Thorson, Noel G. Cadigan 分类:stat.ML,cs.LG