GPU'daki Yapay Zeka Modellerine Giriş testi

1. Eğitim ve çıkarım arasındaki temel fark nedir?

   Eğitimde yalnızca ileriye doğru hesaplama kullanılır. Çıkarımda ise ileriye doğru ve geriye doğru hesaplama kullanılır.

   Eğitim, ağırlıkları günceller; çıkarım ise ağırlıkları güncellemez.

   Çıkarım için eğitimden daha büyük veri kümeleri gerekir

   Çıkarım her zaman CPU'ları kullanır

2. Model biçimleri öncelikle neyi tanımlar?

   Eğitim günlüklerinin sıkıştırma oranı

   Ağırlıklar, önyargılar ve meta veriler nasıl serileştirilir?

   Bir modelin oluşturabileceği parça sayısı

   GPU'lar nasıl planlanır?

3. TensorRT motorları en iyi şekilde şu şekilde tanımlanabilir:

   Araştırma için taşınabilir kontrol noktaları

   Tedarikçiden bağımsız borsa biçimleri

   Belirli donanımlar için derlenmiş, GPU için optimize edilmiş ikili dosyalar

   Hafif ve topluluk odaklı biçimler

4. GPU'ları CPU'lara kıyasla çıkarım için uygun kılan nedir?

   Daha az çekirdek kullanırlar.

   Matris matematiği için optimize edilmiş binlerce paralel çekirdeğe sahiptir.

   Çekirdek başına çok fazla güç tüketirler.

   Daha çeşitli talimatları işleyebilir.

5. Performans optimizasyonunda "dönüm noktası" nedir?

   Verim düşüşünün yaşandığı gecikme değeri

   Verim, gecikmeyi çok fazla etkilemeden iyileşir.

   Gözlemlenen en yavaş gecikme

   Performans ödünlerinden bağımsız olarak bir model için elde edilebilecek minimum bellek alanı

Yanıtları gönder