我正在尝试训练 ANN 来预测图像属于多个类别的概率,而我的目标值是此类概率的集合。
输入是经过简单整形的 28x28 灰度图片,像素值在 0-255 之间。
一个“目标”如下所示:0.738832,0.238159,0.023009,0,0.238159,0,0.238159,0,0.238159,0,0,0.238159,0,0.19793,0.80207,0.066806667,0.68334.691304 0,0,0.0494825,0.098965,0.0494825,0,0,0,0,0,0,0,0,0,0,0,0,0,0
然而,我得到的结果很糟糕(比简单的线性回归差得多),看起来像这样: 0.011947,0.448668,0,0,0.095688,0,0.038233,0,0,0,0,0,0,0,0.405464,0,0,0,0,0,0,0,0,0 ,0,0,0,0,0,0,0,0,0,0,0,0,0
我使用 300 或 30000 张图片并不重要。我显然做错了什么,非常感谢您的建议。
代码:
# create dataset
DS = SupervisedDataSet(784, 37)
assert(ia.shape[0] == ta.shape[0])
DS.setField('input', ia)
DS.setField('target', ta)
fnn = buildNetwork( DS.indim, 200, 37, outclass=SoftmaxLayer )
trainer = BackpropTrainer( fnn, dataset=DS, momentum=0.1, verbose=True, weightdecay=0.01)
trainer.trainUntilConvergence(maxEpochs=10,verbose=True,validationProportion=0.20)
请您参考如下方法:
您的问题是您用于训练的值。 softmax layer 表示该层的所有值总和为 1。因此,当您设置 37 个输出维度时,这意味着所有 37 个维度的总和将为 1.0。您的样本目标似乎不遵循该分布。
