上QQ阅读APP看书,第一时间看更新
3.4.6 循环神经网络
除了DNN算法,循环神经网络(Recurrent Neural Network,RNN)是另一种在智能风控领域被尝试的神经网络结构。RNN的特性是在时间维度上具有“记忆”功能,具体的实现原理是对于RNN的隐藏层,t-1时刻的输出会作为t时刻的输入,这样当前时刻的隐藏层会包括之前所有时刻隐藏层的信息。这个特性使得RNN被应用到行为评分模型和催收评分模型的搭建中,因为支用行为序列和催收行为序列都具有很强的时间属性,利用RNN可以自动提取这些时间序列中的隐性特征。在时间序列中我们通常更希望关注近期行为,忽略远期行为带来的噪声,因此便有了长短期记忆网络(Long Short Term Memory,LSTM)。与RNN相比,LSTM在各隐藏层节点之间传递信息的过程中,加入了输入门、遗忘门和输出门的结构,使得整个网络结构可以有选择性地“记忆”过去的信息,对于时间序列上的信息提取有了重大提升。