先ほど、次の 2 つある選択肢から選ぶことができるバイナリ分類モデルを見つけました。たとえば、
- 特定のメールが迷惑メールである。
- 特定の腫瘍は、悪性または良性です。
このモジュールでは、複数の可能性から選択可能なマルチクラス分類について説明します。例:
- この犬はビーグル、バセットハウンド、ブラッドハウンドですか？
- この花は、シベリアのアヤメ、オランダのアイリス、ブルーの旗のアイリス、ドワーフのあやめ色の虹彩ですか？
- その飛行機はボーイング 747、エアバス 320、ボーイング 777、エンブラエル 190 のうちのどの機種ですか？
- リンゴ、クマ、キャンディ、犬、卵の画像ですか？
実世界のマルチクラス問題の中には、何百万ものクラスを選ぶことを必要とするものもあります。たとえば、ほぼすべての画像を特定できるマルチクラス分類モデルについて考えてみましょう。
マルチクラス ニューラル ネットワーク
クラスが 3 つ以上ある場合
- ロジスティック回帰を使用すると、バイナリクラスの問題に対して有用な確率が得られます。
- スパム / スパムでない
- クリック / クリックしていない
- マルチクラス問題への対応
- リンゴ、バナナ、車、心臓専門医、...、ウォーキング サイン、シマウマ、動物園
- 赤、オレンジ、黄、緑、青、インディゴ、バイオレット
- 動物、野菜、ミネラル
1 対オールマルチクラス
- 可能性のあるクラスごとに一意の出力を作成する
- 「マイクラス」または「その他すべてのクラス」のシグナルでトレーニング
- ディープ ネットワーク、または個別のモデルで可能
SoftMax マルチクラス
- 制約をさらに追加: 1 対すべてのノードの出力を合計して 1.0 にする必要があります。
- 追加の制約により、トレーニングが迅速に収束するようにします。
- さらに、出力を確率として解釈できる
使用する場面
- マルチクラス、単一ラベル分類:
- たとえば、1 つのクラスだけのメンバーなどがこれに該当します。
- クラスが相互に排他的であるという制約は、便利な構造となります。
- これを損失でエンコードするのに役立ちます。
- 考えられるすべてのクラスで 1 つのソフトマックス損失を使用します。
- マルチクラス、マルチラベル分類:
- たとえば、複数のクラスのメンバーがこれに該当します。
- 活用できるクラス メンバーシップへの追加の制約なし。
- 可能性のあるクラスごとに 1 つのロジスティック回帰損失。
SoftMax オプション
- フル SoftMax
- ブルート フォース: すべてのクラスに対して計算します。
SoftMax オプション
- フル SoftMax
- ブルート フォース: すべてのクラスに対して計算します。
- 候補サンプリング
- すべての陽性ラベルについて計算します。ただし、陰性のランダムなサンプルのみを計算します。