GPU 上の AI モデルの概要に関するクイズ

1. トレーニングと推論の主な違いは何ですか？

   トレーニングではフォワード パスのみを使用し、推論ではフォワード パスとバックワード パスを使用します。

   トレーニングでは重みが更新されるが、推論では重みが更新されない

   推論にはトレーニングよりも大きなデータセットが必要

   推論では常に CPU が使用される

2. モデル形式は主に何を定義しますか？

   トレーニング ログの圧縮率

   重み、バイアス、メタデータのシリアル化方法

   モデルが生成できるトークンの数

   GPU のスケジュール方法

3. TensorRT エンジンについて最も適切な説明は次のうちどれですか。

   研究用のポータブル チェックポイント

   ベンダーに依存しない交換フォーマット

   特定のハードウェア用にコンパイルされた GPU 最適化バイナリ

   軽量なコミュニティ主導のフォーマット

4. GPU が CPU よりも推論に適しているのはなぜですか？

   使用するコア数が少ない

   行列計算用に最適化された数千の並列コアを備えています。

   コアあたりの消費電力が大きい

   より多様な指示を処理する

5. パフォーマンス最適化における「ニーポイント」とは何ですか？

   スループットが低下するレイテンシの値

   レイテンシを過度に悪化させることなくスループットが改善されるポイント

   観測された最も遅いレイテンシ

   パフォーマンスのトレードオフに関係なく、モデルで実現可能な最小メモリ フットプリント

解答を送信