多类别神经网络:一对多

一对多提供了一种利用二元分类的方法。假设某个分类问题有 N 个可能的解决方案,一对多解决方案就会包含 N 个单独的二元分类器,每个可能的二元分类器对应一个可能的结果。在训练期间,该模型会运行一系列二元分类器,并训练每个分类器回答单独的分类问题。例如,以一只狗的照片为例,可能会训练五个不同的识别器,其中四个将图片视为负例(非苹果、小熊等),一个将图片视为正例(狗)。具体来说:

  1. 这张图片是苹果吗?没有。
  2. 这张图片是熊吗?没有。
  3. 这张图片是糖果吗?没有。
  4. 此图片是狗吗?有。
  5. 这张图片是鸡蛋吗?没有。

当类别总数较少时,这种方法相当合理,但随着类别数量的增加,这种方法的效率会越来越低。

我们可以使用深度神经网络创建更高效的一对多模型,其中每个输出节点都代表一个不同的类别。下图建议了这种方法:

包含五个隐藏层和五个输出层的神经网络。

图 1. 一体化神经网络。