אחת לעומת הכול מספקת דרך למנף סיווג בינארי. מכיוון שיש בעיית סיווג ב-N פתרונות אפשריים, הפתרון של אחד נגד כל המשתמשים מורכב ממסווגים בינאריים נפרדים אחד ({0/}) – סיווג בינארי אחד לכל תוצאה אפשרית. במהלך האימון, המודל עובר ברצף של מסווגים בינאריים, תוך אימון כל אחד מהם למענה על שאלה נפרדת של סיווג. לדוגמה, לגבי תמונה של כלב, אפשר לאמן חמישה מזהים שונים, ארבעה רואים את התמונה כדוגמה שלילית (לא תפוח, לא דוב וכו') ואחת רואים את התמונה כדוגמה חיובית (כלב). כלומר:
- האם התמונה הזו היא אפל? לא.
- האם התמונה הזו היא דוב? לא.
- האם התמונה הזו מתוקה? לא.
- האם התמונה הזו היא כלב? כן.
- האם התמונה הזו היא ביצה? לא.
הגישה הזו הגיונית למדי כשמספר הכיתות הכולל קטן, אבל הופך ליותר לא יעיל ככל שמספר הכיתות עולה.
אנחנו יכולים ליצור מודל יעיל יותר באופן חד-פעמי לעומת הכול עם רשת נוירונים עמוקה, שבה כל צומת פלט מייצג מחלקה אחרת. האיור הבא מציע גישה זו:
איור 1. רשת נוירונים לעומת הכול.