Wprowadzenie do modeli AI na GPU – test

1. Jaka jest podstawowa różnica między trenowaniem a wnioskowaniem?

   Trenowanie wykorzystuje tylko przejście do przodu, a wnioskowanie – przejście do przodu i do tyłu.

   Trenowanie aktualizuje wagi, wnioskowanie nie aktualizuje wag

   Wnioskowanie wymaga większych zbiorów danych niż trenowanie

   Wnioskowanie zawsze korzysta z procesorów

2. Co głównie określają formaty modeli?

   Współczynnik kompresji dzienników trenowania

   Sposób serializacji wag, odchyleń i metadanych

   Liczba tokenów, które może wygenerować model

   Jak planowane jest użycie procesorów graficznych

3. Silniki TensorRT najlepiej opisują:

   Przenośne punkty kontrolne do badań

   Formaty wymiany niezależne od dostawcy

   Zoptymalizowane pod kątem procesora graficznego pliki binarne skompilowane pod kątem konkretnego sprzętu

   Lekkie formaty tworzone przez społeczność

4. Dlaczego procesory graficzne lepiej nadają się do wnioskowania niż procesory CPU?

   mają mniej rdzeni,

   Mają tysiące równoległych rdzeni zoptymalizowanych pod kątem obliczeń macierzowych.

   Zużywają dużo energii na rdzeń

   Obsługują bardziej zróżnicowane instrukcje

5. Co to jest „punkt przegięcia” w optymalizacji skuteczności?

   Wartość opóźnienia, przy której przepustowość spada

   Punkt, w którym przepustowość wzrasta bez zbytniego pogorszenia się opóźnienia.

   Najdłuższy zaobserwowany czas oczekiwania

   Minimalny rozmiar pamięci, jaki można osiągnąć w przypadku modelu, niezależnie od kompromisów dotyczących wydajności.

Prześlij odpowiedzi