Nhúng

Nhúng là một không gian tương đối thấp để bạn có thể dịch các vectơ phương diện cao. Việc nhúng sẽ giúp bạn dễ dàng thực hiện việc học máy trên các đầu vào lớn như vectơ thưa thớt đại diện cho các từ. Lý tưởng nhất là việc nhúng một số ngữ nghĩa của đầu vào bằng cách đặt các đầu vào tương tự về mặt ngữ nghĩa gần nhau trong không gian nhúng. Bạn có thể tìm hiểu và sử dụng lại tính năng nhúng trên các mô hình.

Nhúng

  • Nhập: 1.000.000 phim mà 500.000 người dùng đã chọn xem
  • Nhiệm vụ: Đề xuất phim cho người dùng

Để giải quyết vấn đề này, cần phải có một số phương pháp để xác định các bộ phim nào tương tự nhau.

Danh sách các phim được sắp xếp theo một hàng từ trái sang phải. Bắt đầu từ bên trái, & # 39;Shrek & # 39 ;, & # 39; The Incredibles & # 39 ;, & # 39; The Triplets of Belleville & # 39 ;, & # 39; Harry Potter & # 39 ;, & # 39; Star Wars & # 39;, & # 39; Bleu & # 39;, & # 39; # 9;

Cùng một danh sách phim trong trang trình bày trước nhưng được sắp xếp theo hai chiều, ví dụ: ' Shrek' ở bên trái và trên của ' The Incredibles

Tương tự như sơ đồ trước nhưng có trục và nhãn cho từng góc phần tư. Cách sắp xếp các bộ phim như sau: trong góc phần tư đầu tiên, phía trên bên phải là Phim bom tấn người lớn chứa ' Chiến tranh giữa các vì sao' và ' The Dark Knight Rises' với các bộ phim ' Hero' và 'Crouching Tiger, Hidden Dragon' đã được thêm vào góc phần tư dành cho Người lớn. góc phần tư thứ hai, phía dưới bên phải là nghệ thuật dành cho người lớn chứa các bộ phim & # 39; Bleu & # 39; và & # 39; Mexico góc phần tư thứ ba, phía dưới bên trái là Children Arthouse và nó chứa bộ phim ' The Triplets of Belleville' và ' Wallace và Gromit' được thêm vào góc phần tư Children Arthouse. góc phần tư thứ tư và cuối cùng ở phía trên bên trái là Bộ phim bom tấn dành cho trẻ em có chứa 'Shrek&#39 ;, ' The Incredibles', 'Hon Potter' và bộ phim "' School of Rock&#39); được thêm vào góc phần tư của Baby boms.

Sắp xếp tương tự như trang trình bày cuối cùng. 'Shrek' và ' Bleu' được làm nổi bật dưới dạng ví dụ về tọa độ của chúng trong mặt phẳng nhúng 2d.

  • Giả sử sự quan tâm của người dùng về phim có thể được giải thích khái quát qua các khía cạnh d
  • Mỗi bộ phim trở thành một điểm d chiều mà giá trị trong phương diện d đại diện cho mức độ mà bộ phim vừa với khung hình đó
  • Nhúng có thể tìm hiểu từ dữ liệu
  • Không cần quá trình đào tạo riêng biệt – lớp nhúng chỉ là một lớp ẩn với một đơn vị mỗi phương diện
  • Thông tin được giám sát (ví dụ: người dùng xem hai bộ phim giống nhau) điều chỉnh các nội dung nhúng đã học cho nhiệm vụ mong muốn
  • Các đơn vị ẩn sẽ trực quan khám phá cách sắp xếp các mục theo không gian chiều theo cách tối ưu hoá tốt nhất để đạt được mục tiêu cuối cùng
  • Mỗi ví dụ (một hàng trong ma trận này) là một vectơ tính năng thưa thớt (phim) mà người dùng đã xem
  • Ví dụ về cách biểu thị dày như sau: (0, 1, 0, 1, 0, 0, 0, 1)

Không hiệu quả về mặt không gian và thời gian.

Một bảng mà mỗi tiêu đề cột là một bộ phim và mỗi hàng đại diện cho một người dùng và phim họ đã xem.
  • Xây dựng từ điển ánh xạ từng tính năng thành số nguyên từ 0, ..., # phim - 1
  • Trình bày hiệu quả vectơ thưa thớt như những bộ phim mà người dùng đã xem. URL này có thể được thể hiện dưới dạng: Dựa trên vị trí cột của các phim trong vectơ thưa thớt được hiển thị ở bên phải, các bộ phim ' The Triplets from Belleville&#39 ;, ' Wallace và Gromit' và ' Memento' có thể được biểu thị hiệu quả là (0,1, 999999)
Vectơ thưa thớt được biểu thị dưới dạng bảng với mỗi cột đại diện cho phim và mỗi hàng đại diện cho người dùng. Bảng này chứa các bộ phim từ sơ đồ trước và được đánh số từ 1 đến 999999. Mỗi ô của bảng sẽ được kiểm tra nếu người dùng đã xem một bộ phim.

Vấn đề hồi quy để dự đoán giá bán nhà:

Sơ đồ về một mạng nơron sâu dùng để dự đoán giá bán tại nhà

Vấn đề hồi quy để dự đoán giá bán nhà:

Sơ đồ về một mạng nơron sâu dùng để dự đoán giá bán tại nhà

Vấn đề hồi quy để dự đoán giá bán nhà:

Sơ đồ về một mạng nơ-ron sâu dùng để dự đoán giá bán tại nhà (lớp nhúng ba chiều bị ẩn được làm nổi bật)

Vấn đề hồi quy để dự đoán giá bán nhà:

Sơ đồ về mạng nơron sâu dùng để dự đoán giá bán tại nhà (các tính năng nhập vào vĩ độ và kinh độ bổ sung được làm nổi bật)

Vấn đề hồi quy để dự đoán giá bán nhà:

Sơ đồ về một mạng nơron sâu dùng để dự đoán giá ưu đãi tại nhà (các tính năng nhập dữ liệu được đưa vào nhiều lớp ẩn được làm nổi bật)

Vấn đề hồi quy để dự đoán giá bán nhà:

Sơ đồ về mạng nơron sâu dùng để dự đoán giá bán tại nhà (đầu ra của mạng nơ-ron sâu được làm nổi bật)

Cách phân loại nhiều lớp để dự đoán một chữ số viết tay:

Sơ đồ mạng nơron sâu dùng để dự đoán chữ số viết tay

Cách phân loại nhiều lớp để dự đoán một chữ số viết tay:

Sơ đồ mạng nơron sâu dùng để dự đoán chữ viết tay (nhập mã hóa vectơ thưa thớt được làm nổi bật)

Cách phân loại nhiều lớp để dự đoán một chữ số viết tay:

Sơ đồ mạng nơron sâu dùng để dự đoán chữ số viết tay (các tính năng khác được làm nổi bật)

Cách phân loại nhiều lớp để dự đoán một chữ số viết tay:

Sơ đồ về một mạng nơron sâu dùng để dự đoán các chữ số viết tay (được làm nổi bật trong tính năng nhúng ba chiều)

Cách phân loại nhiều lớp để dự đoán một chữ số viết tay:

Sơ đồ về mạng nơron sâu dùng để dự đoán chữ số viết tay (được làm nổi bật các lớp ẩn)

Cách phân loại nhiều lớp để dự đoán một chữ số viết tay:

Sơ đồ về một mạng nơron sâu dùng để dự đoán chữ số viết tay (được làm nổi bật lớp logit)

Cách phân loại nhiều lớp để dự đoán một chữ số viết tay:

Sơ đồ về mạng nơron sâu dùng để dự đoán chữ số viết tay (lớp lớp mục tiêu được làm nổi bật)

Lọc cộng tác để dự đoán các phim nên đề xuất:

Sơ đồ mạng nơron sâu dùng để dự đoán những bộ phim nên đề xuất

Lọc cộng tác để dự đoán các phim nên đề xuất:

Sơ đồ mạng nơron sâu dùng để dự đoán những bộ phim nên đề xuất (lớp lớp mục tiêu được làm nổi bật)

Lọc cộng tác để dự đoán các phim nên đề xuất:

Sơ đồ mạng nơron sâu dùng để dự đoán những bộ phim nên đề xuất (mã hóa vectơ vectơ thưa thớt được làm nổi bật)

Lọc cộng tác để dự đoán các phim nên đề xuất:

Sơ đồ mạng nơron sâu dùng để dự đoán những bộ phim nên đề xuất (tính năng nhúng ba chiều được làm nổi bật)

Lọc cộng tác để dự đoán các phim nên đề xuất:

Sơ đồ mạng nơron sâu dùng để dự đoán những bộ phim nên đề xuất (đã nêu bật các tính năng khác)

Lọc cộng tác để dự đoán các phim nên đề xuất:

Sơ đồ mạng nơron sâu dùng để dự đoán phim nào cần đề xuất (các lớp ẩn được làm nổi bật)

Lọc cộng tác để dự đoán các phim nên đề xuất:

Sơ đồ mạng nơron sâu dùng để dự đoán những bộ phim nên đề xuất (lớp logit được làm nổi bật)

Mạng sâu

  • Mỗi đơn vị bị ẩn tương ứng với một phương diện (tính năng tiềm ẩn)
  • Trọng số cạnh giữa phim và lớp ẩn là giá trị tọa độ
    • Sơ đồ cây của mạng nơron sâu có các nút ở lớp thấp nhất được kết nối với 3 điểm trong lớp cao hơn tiếp theo

Chế độ xem hình học của một video nhúng

Một điểm trong không gian 3 chiều tương ứng với nút lớp thấp hơn trong sơ đồ mạng nơron sâu.
  • Các video nhúng có chiều cao hơn có thể thể hiện chính xác hơn mối quan hệ giữa các giá trị đầu vào
  • Tuy nhiên, nhiều phương diện hơn làm tăng cơ hội tập luyện quá mức và dẫn đến quá trình đào tạo chậm hơn
  • Quy tắc theo kinh nghiệm (điểm khởi đầu tốt nhưng nên được điều chỉnh bằng cách sử dụng dữ liệu xác thực):
    • $$ dimensions \approx \sqrt[4]{possible\;values} $$
  • Nhúng các mục bản đồ (ví dụ: phim, văn bản,...) vào vectơ thực có kích thước thấp theo cách mà các mục tương tự gần nhau
  • Bạn cũng có thể áp dụng nhúng cho dữ liệu dày đặc (ví dụ: âm thanh) để tạo chỉ số tương đồng có ý nghĩa
  • Kết hợp nhiều loại dữ liệu (ví dụ: văn bản, hình ảnh, âm thanh, ...) giống nhau giữa các loại dữ liệu này
Trước
Bài tập lập trình
Tiếp
Tạo động lực từ việc lọc cộng tác