Teste de introdução aos modelos de IA em GPUs

1. Qual é a principal diferença entre treinamento e inferência?

   O treinamento usa apenas a transmissão direta, enquanto a inferência usa transmissão direta e indireta.

   O treinamento atualiza os pesos, mas a inferência não.

   A inferência exige conjuntos de dados maiores do que o treinamento

   A inferência sempre usa CPUs

2. O que os formatos de modelo definem principalmente?

   A taxa de compressão dos registros de treinamento

   Como pesos, vieses e metadados são serializados

   O número de tokens que um modelo pode gerar

   Como as GPUs são programadas

3. Os mecanismos do TensorRT podem ser descritos como:

   Checkpoints portáteis para pesquisa

   Formatos de troca independentes de fornecedores

   Binários otimizados para GPU compilados para hardware específico

   Formatos leves voltados para a comunidade

4. O que torna as GPUs adequadas para inferência em comparação com as CPUs?

   Eles usam menos núcleos

   Elas têm milhares de núcleos paralelos otimizados para matemática de matrizes.

   Eles consomem muita energia por núcleo.

   Elas processam instruções mais diversas

5. O que é o "ponto de inflexão" na otimização de performance?

   O valor da latência em que a capacidade de processamento entra em colapso

   O ponto em que a capacidade melhora sem prejudicar muito a latência

   A latência mais lenta observada

   O consumo mínimo de memória possível para um modelo, independente das compensações de desempenho

Enviar respostas