首页 理论教育多任务判别特征学习:2017年软件工程论文专集

多任务判别特征学习:2017年软件工程论文专集

【摘要】:由于信用卡银行属性与信用卡类别两个识别任务都可以使用卷积神经网络来完成,可以将两个任务共用一个卷积网络,即采用多任务深度学习,其模型如图2所示。图2多任务判别特征学习网络结构任务一为信用卡银行属性识别,即图中的fc1全连接层后接Softmax loss,该层的输出维度为信用卡银行的数目。超参数α、β、λ,迭代数t=0,学习率μt。

由于信用卡银行属性与信用卡类别两个识别任务都可以使用卷积神经网络来完成,可以将两个任务共用一个卷积网络,即采用多任务深度学习,其模型如图2所示。

图2 多任务判别特征学习网络结构

任务一为信用卡银行属性识别,即图中的fc1全连接层后接Softmax loss,该层的输出维度为信用卡银行的数目。任务二用于识别信用卡的种类,即图中的fc2全连接层后接Softmax loss与判别特征loss。最后的损失函数为两个任务的损失函数的加权之和,如式(9)所示:

式中,L1的计算公式为式(10):

式中,h为银行类别数目。

整个模型的学习算法如下:

算法:多任务判别特征学习算法。

输入:训练集{xi,yi,zi},其中xi为图像,yi为信用卡的类别,zi为信用卡的银行类别。初始化卷积层参数θC,任务一的loss层参数W1,任务二的loss层参数W2,信用卡类别中心值{cj |j=1,2,…,n}。超参数α、β、λ,迭代数t=0,学习率μt。(www.chuimin.cn)

输出:θC 、W1

(1)从训练集选取m个数据,t=t+1。

(2)计算联合损失函数值

(3)计算反向传播误差

(4)更新参数

(5)更新参数

(6)更新每一类信用卡特征中心值

(7)更新参数

(8)判断是否满足停止迭代条件,是则停止,否则更新t=t+1并跳转到(2)。