Yerleştirme

Yerleştirme, yüksek boyutlu vektörleri çevirebileceğiniz, nispeten düşük boyutlu bir alandır. Katıştırmalar, kelimeleri temsil eden seyrek vektörler gibi büyük girişler üzerinde makine öğrenimi yapmayı kolaylaştırır. İdeal olarak, yerleştirme, semantik olarak benzer girişleri yerleştirme alanına yakın bir şekilde yerleştirerek girişin semantiğinin bir kısmını yakalar. Yerleştirme öğrenilebilir ve tüm modellerde yeniden kullanılabilir.

Yerleştirme

  • Giriş: 500.000 kullanıcının izlemeyi seçtiği 1.000.000 film
  • Görev: Kullanıcılara film önerme

Bu sorunu çözmek için hangi filmlerin birbirine benzediğini belirlemek üzere bir yöntem gerekir.

Soldan sağa doğru tek bir satırda sıralanmış film listesi. Soldan başlayarak: ##39;Shrek', 'The Incredibles', 'The Tripletlet of the Belleville', 'Harry Potter', 'Star Wars', 'Bleu'#39;Black Risk

Bir önceki slaytta yer alan ancak iki boyuta göre düzenlenmiş olan aynı film listesi (örneğin, 'Shrek' 'İnanılmazlar'ın solunda ve üstünde)

Önceki şemaya benzerdir, ancak her çeyrek için eksen ve etiketler içerir. Filmlerin düzeni şöyledir: Sağ üstteki ilk çeyrek, 'Star Wars' 'Hero' &&39;Kaplan Kaplan, Gizli Ejderha' filmlerinin yer aldığı Yetişkin gişe rekorları kıran filmler. Sağ alttaki ikinci çeyrek, Sol altta üçüncü sıradaki dördündeki kitap, Çocuk Sanat Evi olmuştur. Film, 'The Triplets of Belleville' ve 'Wallace and Gromit' filmlerini Kids Arthouse çeyrek dilimine dahil etmiştir. Sol üstteki dördüncü ve son çeyreğe ait filmler #&39;Shrek', 'The Incredibles' ve 'Harry Potter' adlı filmi ve ##39;Okul Kayası

Son slaytla aynı düzen. 'Shrek' ve 'Bleu' 2D yerleştirilmiş uçakta koordinatlarının örnekleri olarak vurgulanıyor.

  • Kullanıcının filmlere olan ilgisinin kabaca d özelliklerine göre açıklanabileceği varsayılır
  • Her film, d boyutundaki değerin filmin ilgili boyuta ne kadar sığdığını temsil ettiği d boyutlu bir nokta haline gelir
  • Yerleştirme, verilerden öğrenilebilir
  • Ayrı bir eğitim sürecine gerek yoktur. Yerleştirme katmanı, her boyut için bir birim içeren gizli bir katmandır
  • Gözetimli bilgiler (ör. kullanıcılar aynı iki filmi izledi) öğrenilen yerleştirmeleri istenen göreve uygun hale getiriyor
  • Gizli birimler sezgisel olarak, nihai hedefi en iyi şekilde optimize etmek için d boyutlu alandaki öğeleri nasıl düzenleyeceğini keşfeder
  • Her örnek (bu matristeki bir satır) kullanıcının izlediği az özellikli özellikler (filmler) vektörüdür
  • Bu örneğin yoğun temsili: (0, 1, 0, 1, 0, 0, 0, 1)

Alan ve zaman açısından verimli değildir.

Her sütun başlığının bir film olduğu ve her satırın bir kullanıcıyı ve izledikleri filmleri temsil ettiği bir tablo.
  • Her özelliği 0, ..., # filmden bir tam sayı ile eşleyen bir sözlük oluşturun - 1
  • Seyrek vektörü verimli bir şekilde yalnızca kullanıcının izlediği filmler olarak temsil edin. Bu şu şekilde temsil edilebilir: Filmlerin, sağ tarafta gösterilen seyrek vektördeki sütun konumuna göre, filmler ' Belleville'den Triplet', 'Wallace and Gromit' ve 'Memento' etkili şekilde (0,1, 999999) olarak gösterilebilir
Her sütun bir filmi, her satır kullanıcıyı temsil eden bir tablo olarak temsil edilen seyrek bir vektör. Tablo, önceki şemalarda yer alan filmleri içerir ve 1 ile 999999 arasında bir numaraya sahiptir. Bir kullanıcının film izlemiş olması durumunda tablodaki her bir hücre kontrol edilir.

Ev fiyatlarının tahmin edilmesiyle ilgili regresyon sorunu:

Evdeki fiyatları tahmin etmek için kullanılan bir derin nöral ağın şeması

Ev fiyatlarının tahmin edilmesiyle ilgili regresyon sorunu:

Ev satış fiyatlarını tahmin etmek için kullanılan bir derin sinir ağının şeması (vektör vektör kodlaması vurgulanmıştır)

Ev fiyatlarının tahmin edilmesiyle ilgili regresyon sorunu:

Evdeki fiyatları tahmin etmek için kullanılan bir derin nöral ağın şeması
  (gizli üç boyutlu yerleştirme katmanı vurgulanmış)

Ev fiyatlarının tahmin edilmesiyle ilgili regresyon sorunu:

Evdeki fiyatları tahmin etmek için kullanılan bir derin nöral ağın şeması (ek enlem ve boylam giriş özelliklerinin vurgulandığı)

Ev fiyatlarının tahmin edilmesiyle ilgili regresyon sorunu:

Evdeki fiyatları tahmin etmek için kullanılan bir derin nöral ağın şeması (girişte birden fazla gizli katmana besleme özelliği vurgulanmış olarak)

Ev fiyatlarının tahmin edilmesiyle ilgili regresyon sorunu:

Ev satış fiyatlarını tahmin etmek için kullanılan bir derin nöral ağın şeması (derin nöral ağın çıkışı vurgulanmıştır)

El yazısıyla bir basamağı tahmin etmek için çok sınıflı sınıflandırma:

Elle yazılmış sayıları tahmin etmek için kullanılan bir derin sinir ağının şeması

El yazısıyla bir basamağı tahmin etmek için çok sınıflı sınıflandırma:

Elle yazılmış sayıları tahmin etmek için kullanılan bir derin sinir ağının şeması (girişin az bulunan vektör kodlaması vurgulanmıştır)

El yazısıyla bir basamağı tahmin etmek için çok sınıflı sınıflandırma:

Elle yazılmış sayıları tahmin etmek için kullanılan bir derin nöral ağın şeması (diğer özellikler vurgulanmıştır)

El yazısıyla bir basamağı tahmin etmek için çok sınıflı sınıflandırma:

Elle yazılmış sayıları tahmin etmek için kullanılan bir derin sinir ağının şeması (üç boyutlu yerleştirme vurgulanmıştır)

El yazısıyla bir basamağı tahmin etmek için çok sınıflı sınıflandırma:

Elle yazılmış sayıları tahmin etmek için kullanılan bir derin nöral ağın şeması (gizli katmanlar vurgulanmıştır)

El yazısıyla bir basamağı tahmin etmek için çok sınıflı sınıflandırma:

Elle yazılmış sayıları tahmin etmek için kullanılan bir derin nöral ağın şeması ( Logit katmanı vurgulanmış)

El yazısıyla bir basamağı tahmin etmek için çok sınıflı sınıflandırma:

Elle yazılmış sayıları tahmin etmek için kullanılan bir derin nöral ağın şeması (hedef sınıf katmanı vurgulanmış)

Önerilecek filmleri tahmin etmek için Ortak Çalışma Filtreleme:

Hangi filmlerin önerileceğini tahmin etmek için kullanılan bir derin sinir ağının şeması

Önerilecek filmleri tahmin etmek için Ortak Çalışma Filtreleme:

Hangi filmlerin önerileceğini tahmin etmek için kullanılan bir derin sinir ağının şeması (hedef sınıf katmanı vurgulanmıştır)

Önerilecek filmleri tahmin etmek için Ortak Çalışma Filtreleme:

Hangi filmlerin önerileceğini tahmin etmek için kullanılan bir derin sinir ağının şeması (ayırmış vektör vektörü vurgulanmıştır)

Önerilecek filmleri tahmin etmek için Ortak Çalışma Filtreleme:

Hangi filmlerin önerileceğini tahmin etmek için kullanılan bir derin sinir ağının şeması (üç boyutlu yerleştirme vurgulanmıştır)

Önerilecek filmleri tahmin etmek için Ortak Çalışma Filtreleme:

Hangi filmlerin önerileceğini tahmin etmek için kullanılan bir derin sinir ağının şeması (diğer özellikler vurgulanmıştır)

Önerilecek filmleri tahmin etmek için Ortak Çalışma Filtreleme:

Hangi filmlerin önerileceğini tahmin etmek için kullanılan bir derin sinir ağının şeması (gizli katmanlar vurgulanmıştır)

Önerilecek filmleri tahmin etmek için Ortak Çalışma Filtreleme:

Hangi filmlerin önerileceğini tahmin etmek için kullanılan bir derin nöral ağın şeması (günlük katmanı vurgulanmıştır)

Derin Ağ

  • Gizli birimlerin her biri bir boyuta (gizli özellik) karşılık gelir
  • Film ve gizli katman arasındaki kenar ağırlıkları koordinat değeridir
  • En alt katmandaki düğümleri içeren derin nöral ağın ağaç şeması. Sonraki üst katmanda üç nokta var

Tek bir film yerleştirmenin geometrik görünümü

Derin sinir ağı diyagramındaki alt katman düğümüne karşılık gelen 3 boyutlu bir nokta.
  • Daha büyük boyutlu yerleştirmeler, giriş değerleri arasındaki ilişkileri daha doğru şekilde temsil edebilir
  • Ancak daha fazla boyut kullanılması, aşırı uygun olma ihtimalini artırır ve eğitim sürecini yavaşlatır
  • Genel kural (iyi bir başlangıç noktasıdır ancak doğrulama verileri kullanılarak ayarlanmalıdır):
  • $$ dimensions \approx \sqrt[4]{possible\;values} $$
  • Harita öğelerinin (ör. filmler, metin, vb.) benzer boyutlu öğelerin birbirine yakın olacağı şekilde, düşük boyutlu gerçek vektörlere yerleştirilmesi
  • Yerleştirme, anlamlı bir benzerlik metriği oluşturmak için yoğun veriler (ör. ses) kullanılarak da uygulanabilir
  • Çeşitli veri türlerini (ör. metin, resimler, ses vb.) birlikte yerleştirmek, bunlar arasındaki benzerliği tanımlar