Makine Öğrenimi Sözlüğü: Üretken Yapay Zeka

Bu sayfada, Üretici Yapay Zeka sözlüğü terimleri bulunmaktadır. Tüm sözlük terimleri için burayı tıklayın.

CEVAP

otomatik regresif model

#language
#image
#generativeAI

Kendi önceki tahminlerine dayanarak bir tahminde bulunan model. Örneğin, otomatik regresif dil modelleri, önceden tahmin edilen jetonlara dayalı olarak bir sonraki jetonu tahmin eder. Tüm Transformer tabanlı büyük dil modelleri otomatik regresiftir.

Buna karşılık GAN tabanlı görüntü modelleri, görüntüleri aşamalı olarak değil, tek bir ileriye doğru geçişte oluşturdukları için genellikle otomatik regresif değildir. Ancak bazı görüntü oluşturma modelleri, birkaç adımda görüntü oluşturdukları için otomatik regresif olur.

C

düşünce zinciri yoluyla yönlendirme

#language
#generativeAI

Nedenini adım adım açıklamak için geniş bir dil modelini (LLM) teşvik eden bir istem mühendisliği tekniğidir. Örneğin, ikinci cümleye özellikle dikkat ederek aşağıdaki istemi ele alalım:

7 saniyede 0'dan 90 km'ye giden bir arabada sürücü kaç g kuvveti duyar? Yanıtta tüm alakalı hesaplamaları gösterin.

LLM'nin yanıtı muhtemelen:

  • Uygun yerlere 0, 60 ve 7 değerlerini ekleyerek bir fizik formülleri dizisini gösterin.
  • Formülleri neden seçtiğini ve çeşitli değişkenlerin ne anlama geldiğini açıklayın.

Düşünce zincirinin teşvik edilmesi, LLM'yi tüm hesaplamaları yapmaya zorlar. Bu da daha doğru bir yanıt sağlayabilir. Buna ek olarak, düşünme zinciriyle yapılan istemler, kullanıcının cevabın mantıklı olup olmadığını belirlemek için LLM'nin adımlarını incelemesini sağlar.

D

doğrudan isteme

#language
#generativeAI

Sıfır çekim istemi ile eş anlamlı kelime.

damıtma

#generativeAI

Bir model boyutunu, orijinal modelin tahminlerine olabildiğince güvenilir şekilde emüle eden daha küçük bir modele (model olarak bilinir) küçültme işlemidir.model Küçük modelin büyük modele (öğretmen) kıyasla iki önemli avantajı olduğundan damıtma işlemi yararlıdır:

  • Daha hızlı çıkarım süresi
  • Daha az bellek ve enerji kullanımı

Ancak öğrencinin tahminleri genellikle öğretmenin tahminleri kadar iyi değildir.

Damıtma, öğrenci ve öğretmen modellerinin tahminlerinin çıktıları arasındaki farka dayanarak öğrenci modelini bir kayıp işlevini en aza indirecek şekilde eğitir.

Damıtmayı aşağıdaki terimlerle karşılaştırın:

F

birkaç kez yönlendirme

#language
#generativeAI

Büyük dil modelinin nasıl yanıt vermesi gerektiğini gösteren birden fazla ("birkaç tane") örnek içeren bir istem. Örneğin, aşağıdaki uzun istem, büyük bir dil modeline bir sorgunun nasıl yanıtlanacağını gösteren iki örnek içermektedir.

Bir istemin bölümleri Notlar
Belirtilen ülkenin resmi para birimi nedir? Geniş kapsamlı dil modellerinin yanıtlamasını istediğiniz soru.
Fransa: avro Bir örnek.
Birleşik Krallık: GBP Başka bir örnek.
Hindistan: Gerçek sorgu.

Az sayıda çekim istemi, genellikle sıfır çekim isteme ve tek seferlik istem işlemlerinden daha istenen sonuçlar verir. Ancak, birkaç çekimlik istem için daha uzun bir istem gerekir.

Az çekimli istemler, isteme dayalı öğrenim için uygulanan bir birkaç çekimle öğrenme biçimidir.

ince ayar

#language
#image
#generativeAI

Önceden eğitilmiş bir modelde gerçekleştirilen göreve özel ikinci bir eğitim geçişi, modelin parametrelerini belirli bir kullanım alanına göre hassaslaştırıyor. Örneğin, bazı büyük dil modelleri için tam eğitim sırası aşağıdaki gibidir:

  1. Ön eğitim: Tüm İngilizce Wikipedia sayfaları gibi geniş bir genel veri kümesiyle büyük bir dil modelini eğitin.
  2. Hassas ayarlama: Önceden eğitilmiş modeli, tıbbi sorgulara yanıt verme gibi belirli bir görevi gerçekleştirecek şekilde eğitin. İnce ayarlar genellikle belirli bir göreve odaklanan yüz veya binlerce örnek içerir.

Başka bir örnek olarak, büyük bir resim modeli için tam eğitim sırası aşağıdaki gibidir:

  1. Ön eğitim: Wikimedia Commons'taki tüm resimler gibi büyük bir genel resim veri kümesinde büyük bir resim modelini eğitin.
  2. Hassas ayarlama: Önceden eğitilmiş modeli, orkaların görüntülerini oluşturma gibi belirli bir görevi gerçekleştirecek şekilde eğitin.

Hassas ayarlamalar yapmak için aşağıdaki stratejilerin herhangi bir kombinasyonu gerekebilir:

  • Önceden eğitilmiş modelin mevcut parametrelerinin tümünü değiştirme. Buna bazen tam ince ayar denir.
  • Önceden eğitilmiş modelin mevcut parametrelerinin yalnızca bazılarını (genellikle çıkış katmanına en yakın katmanlar) değiştirirken diğer mevcut parametreleri değiştirmeden (tipik olarak, katmanlar giriş katmanına en yakın olan katmanlar) değiştirilir. Parametre etkili ayarlama bölümünü inceleyin.
  • Genellikle çıkış katmanına en yakın mevcut katmanların üzerine daha fazla katman ekleme.

İnce ayar, bir öğrenme aktarma biçimidir. Bu nedenle, ince ayarda, önceden eğitilmiş modeli eğitmek için kullanılanlardan farklı bir kayıp işlevi veya farklı bir model türü kullanılabilir. Örneğin, giriş görüntüsündeki kuş sayısını döndüren bir regresyon modeli oluşturmak için, önceden eğitilmiş bir büyük görüntü modelinde ince ayar yapabilirsiniz.

İnce ayarları aşağıdaki terimlerle karşılaştırın:

G

üretken yapay zeka

#language
#image
#generativeAI

Resmi tanımı olmayan, dönüştürücü bir alan. Bununla birlikte, çoğu uzman, üretici yapay zeka modellerinin aşağıdakilerin tümüne sahip içerikler oluşturabileceği ("üretim") konusunda hemfikirdir:

  • karmaşık
  • tutarlı
  • orijinal

Örneğin, üretken yapay zeka modeli karmaşık makaleler ve görüntüler oluşturabilir.

LSTM ve RNN'ler gibi önceki bazı teknolojiler de orijinal ve tutarlı içerikler oluşturabilir. Bazı uzmanlar bu eski teknolojileri üretken yapay zeka olarak görürken diğerleri gerçek üretici yapay zekanın, önceki teknolojilerin üretebileceğinden daha karmaşık çıkışlar gerektirdiğini düşünüyor.

Tahmine dayalı makine öğrenimi ile kontrast oluşturun.

İ

bağlam içi öğrenme

#language
#generativeAI

Az çekim istem kelimesinin eş anlamlısı.

talimat ayarlama

#generativeAI

Üretken yapay zeka modelinin talimatları uygulama becerisini geliştiren bir ince ayar biçimi. Öğretim ayarlama, bir modeli genellikle çok çeşitli görevleri kapsayan bir dizi talimat istemine göre eğitmeyi içerir. Sonrasında, talimatlara göre ayarlanmış model, çeşitli görevlerde sıfır çekim istemlerine faydalı yanıtlar oluşturma eğilimindedir.

Şunlarla karşılaştırın:

O

tek seferlik istem

#language
#generativeAI

Büyük dil modelinin nasıl yanıt vermesi gerektiğini gösteren bir örnek içeren bir istem. Örneğin, aşağıdaki istemde, büyük bir dil modelinin bir sorguyu nasıl yanıtlaması gerektiğini gösteren bir örnek bulunmaktadır.

Bir istemin bölümleri Notlar
Belirtilen ülkenin resmi para birimi nedir? Geniş kapsamlı dil modellerinin yanıtlamasını istediğiniz soru.
Fransa: avro Bir örnek.
Hindistan: Gerçek sorgu.

Tek seferlik istemleri aşağıdaki terimlerle karşılaştırın:

P

parametre açısından verimli ayarlama

#language
#generativeAI

Büyük bir önceden eğitilmiş dil modeli (PLM), tamamen ince ayarlamalardan daha verimli bir şekilde ince ayar yapmak için bir dizi teknik. Parametre etkili ayarlamalar, genellikle tam ince ayarlamalardan çok daha az parametrede ince ayar yapar. Ancak genellikle tamamen hassas ayarlamalarla oluşturulan büyük bir dil modeli kadar iyi (veya neredeyse aynı düzeyde) performans gösteren büyük bir dil modeli üretir.

Parametre açısından verimli ayarları aşağıdakilerle karşılaştırın:

Parametreyi verimli şekilde ayarlama, parametre açısından verimli ince ayar olarak da bilinir.

PLM

#language
#generativeAI

Önceden eğitilmiş dil modeli'nin kısaltmasıdır.

önceden eğitilmiş model

#language
#image
#generativeAI

Eğitilmiş modeller veya model bileşenleri (yerleştirme vektör gibi). Bazen, önceden eğitilmiş yerleştirilmiş vektörleri bir nöral ağa feedlersiniz. Diğer durumlarda, modeliniz önceden eğitilmiş yerleştirmelere bağlı kalmak yerine yerleştirme vektörlerini eğitir.

Önceden eğitilmiş dil modeli terimi, eğitim öncesi süreçlerden geçmiş büyük bir dil modelini ifade eder.

ön eğitim

#language
#image
#generativeAI

Büyük bir veri kümesi üzerinde bir modelin ilk eğitimi. Bazı önceden eğitilmiş modeller sakar devlerdir ve genellikle ek eğitimlerle iyileştirilmesi gerekir. Örneğin, makine öğrenimi uzmanları Wikipedia'daki tüm İngilizce sayfalar gibi geniş bir metin veri kümesi üzerinde büyük bir dil modelini önceden eğitebilir. Ön eğitimin ardından ortaya çıkan model, aşağıdaki tekniklerden herhangi biri kullanılarak daha da hassaslaştırılabilir:

istem

#language
#generativeAI

Modelin belirli bir şekilde davranmasını sağlamak için büyük bir dil modeline girdi olarak girilen herhangi bir metin. İstemler bir cümle kadar kısa veya rastgele uzun olabilir (örneğin, bir roman metninin tamamı). İstemler, aşağıdaki tabloda gösterilenler de dahil olmak üzere birden fazla kategoriye ayrılır:

İstem kategorisi Örnek Notlar
Soru Bir güvercin ne kadar hızlı uçabilir?
Talimat Arbitraj hakkında komik bir şiir yazın. Büyük dil modelinden bir şey yapmasını isteyen bir istem.
Örnek Markdown kodunu HTML'ye çevirin. Örneğin:
Markdown: * liste öğesi
HTML: <ul> <li>liste öğesi</li> </ul>		 Bu örnek istemdeki ilk cümle bir talimattır. İstemin geri kalanı örnektir.
Rol Fizik alanında doktora yapmak için makine öğrenimi eğitiminde gradyan inişin neden kullanıldığını açıklayın. Cümlenin ilk bölümü bir talimattır. "Fizik doktorasına" ifadesi ise rol kısmıdır.
Modelin tamamlanması için kısmi giriş Birleşik Krallık Başbakanı'nın yaşadığı yer: Kısmi giriş istemi aniden (bu örnekte olduğu gibi) veya alt çizgiyle sona erebilir.

Üretken yapay zeka modeli, isteklere metin, kod, resimler, yerleştirmeler, videolar gibi neredeyse her şeyle yanıt verebilir.

istem temelli öğrenim

#language
#generativeAI

Davranışlarını rastgele metin girişine (istemler) göre uyarlamalarını sağlayan belirli modeller özelliği. Tipik bir isteme dayalı öğrenme paradigmasında, büyük bir dil modeli bir isteğe metin oluşturarak yanıt verir. Örneğin, bir kullanıcının aşağıdaki istemi girdiğini varsayalım:

Newton'un Üçüncü Hareket Yasası'nı özetleyin.

İstem tabanlı öğrenme yapabilen bir model, önceki istemi yanıtlamak için özel olarak eğitilmemiştir. Bu model daha çok fizik ve genel dil kuralları hakkında pek çok olguyu ve genel olarak faydalı yanıtları oluşturan şeyler hakkında pek çok bilgiyi "bilgilendirir". Bu bilgi (umarım) faydalı bir cevap vermek için yeterlidir. İnsanlardan gelen ek geri bildirimler ("Bu cevap çok karmaşıktı" veya "Tepki nedir?") bazı istem temelli öğrenim sistemlerinin, yanıtlarının yararlılığını kademeli olarak iyileştirmesini sağlar.

istem tasarımı

#language
#generativeAI

istem mühendisliği ile eş anlamlı kelime.

istem mühendisliği

#language
#generativeAI

Büyük bir dil modelinden istenen yanıtları almak için istemler oluşturma sanatı. İnsanlar hızlı mühendislik işlemi yapar. İyi yapılandırılmış istemler yazmak, büyük bir dil modelinden faydalı yanıtlar almanın önemli bir parçasıdır. Hızlı mühendislik, aşağıdakiler de dahil birçok faktöre bağlıdır:

Faydalı istemler yazma hakkında daha fazla bilgi edinmek için İstem tasarımına giriş bölümüne bakın.

İstem tasarımı, istem mühendisliği ile eş anlamlıdır.

istem ayarlama

#language
#generativeAI

Sistemin gerçek isteme eklediği bir "ön eki" öğrenen bir parametre verimli ayarlama mekanizması.

Bazen önek ayarlama olarak da adlandırılan istem ayarlamanın bir varyasyonu, ön eki her katmana eklemektir. Buna karşılık, çoğu istem ayarı giriş katmanına yalnızca bir ön ek ekler.

R

İnsan Geri Bildiriminden Alınan Pekiştirmeli Öğrenme (RLHF)

#generativeAI
#rl

Bir modelin yanıtlarının kalitesini artırmak için derecelendirme yapan gerçek kişilerden gelen geri bildirimleri kullanma. Örneğin, bir RLHF mekanizması, kullanıcılardan bir 👍 veya 👎 emojisiyle mankenin yanıtının kalitesini derecelendirmelerini isteyebilir. Sistem daha sonra bu geri bildirime göre gelecek yanıtlarını ayarlayabilir.

rol isteme

#language
#generativeAI

Üretken yapay zeka modelinin yanıtı için hedef kitleyi tanımlayan istemin isteğe bağlı bölümü. Rol istemi olmadığında büyük bir dil modeli, soruları soran kişi için yararlı olabilecek veya olmayabilecek bir cevap sağlar. Büyük bir dil modeli, rol istemi ile belirli bir hedef kitle için daha uygun ve daha faydalı bir şekilde yanıt verebilir. Örneğin, aşağıdaki istemlerin rol istemi bölümü kalın harflerle gösterilmiştir:

  • Ekonomik doktora için bu makaleyi özetleyin.
  • On yaşındaki bir çocuğun dalgaların nasıl işlediğini açıklayın.
  • 2008 ekonomik krizini açıklama. Küçük bir çocuğa veya bir Golden Retriever'a gibi konuşun.

T

sıcaklık

#language
#image
#generativeAI

Bir model çıkışının rastgelelik derecesini kontrol eden bir hiperparametre. Yüksek sıcaklıklar daha fazla rastgele çıkışla, düşük sıcaklıklar ise daha az rastgele çıkışla sonuçlanır.

En iyi sıcaklığın seçilmesi uygulamaya ve model çıktısının istenen özelliklerine bağlıdır. Örneğin, reklam öğesi çıktısı üreten bir uygulama oluştururken muhtemelen sıcaklığı yükseltirsiniz. Buna karşılık, modelin doğruluğunu ve tutarlılığını iyileştirmek için resimleri veya metni sınıflandıran bir model oluştururken muhtemelen sıcaklığı düşürürsünüz.

Sıcaklık genellikle softmax ile kullanılır.

Z

sıfır atış istemi

#language
#generativeAI

Büyük dil modelinin nasıl yanıt vermesini istediğinizle ilgili bir örnek sağlamayan istem. Örneğin:

Bir istemin bölümleri Notlar
Belirtilen ülkenin resmi para birimi nedir? Geniş kapsamlı dil modellerinin yanıtlamasını istediğiniz soru.
Hindistan: Gerçek sorgu.

Büyük dil modeli, aşağıdakilerden herhangi biriyle yanıt verebilir:

  • Rupi
  • INR
  • ₹
  • Hint rupisi
  • Rupi
  • Hint rupisi

Belirli bir biçimi tercih edebilirsiniz ancak tüm yanıtlar doğrudur.

Sıfır çekim istemini aşağıdaki terimlerle karşılaştırın: