Мультиклассовые нейронные сети: один против всех

Один против всех позволяет использовать бинарную классификацию. Для задачи классификации с N возможными решениями решение «один против всех» состоит из N отдельных бинарных классификаторов — по одному бинарному классификатору для каждого возможного результата. Во время обучения модель проходит через последовательность бинарных классификаторов, обучая каждый из них отвечать на отдельный вопрос классификации. Например, имея изображение собаки, можно натренировать пять разных распознавателей, четыре из которых видят изображение как отрицательный пример (не яблоко, не медведь и т. д.), а один видит изображение как положительный пример (собака). То есть:

  1. Является ли это изображение яблоком? Нет.
  2. Это изображение медведя? Нет.
  3. Эта картинка конфетка? Нет.
  4. Это изображение собаки? Да.
  5. Является ли это изображение яйцом? Нет.

Этот подход вполне разумен, когда общее количество классов невелико, но становится все более неэффективным по мере увеличения количества классов.

Мы можем создать значительно более эффективную модель «один против всех» с помощью глубокой нейронной сети, в которой каждый выходной узел представляет отдельный класс. Следующий рисунок предлагает такой подход:

Нейронная сеть с пятью скрытыми слоями и пятью выходными слоями.

Рис. 1. Нейронная сеть «один против всех».