آزمون آشنایی با مدل‌های هوش مصنوعی در پردازنده گرافیکی

1. تفاوت کلیدی بین آموزش و استنتاج چیست؟

   آموزش فقط از انتقال رو به جلو استفاده می‌کند؛ استنتاج از انتقال رو به جلو + رو به عقب استفاده می‌کند.

   آموزش، وزن‌ها را به‌روزرسانی می‌کند؛ استنتاج، وزن‌ها را به‌روزرسانی نمی‌کند.

   استنتاج به مجموعه داده‌های بزرگتری نسبت به آموزش نیاز دارد

   استنتاج همیشه از CPU استفاده می‌کند

2. قالب‌های مدل در درجه اول چه چیزی را تعریف می‌کنند؟

   نسبت فشرده‌سازی لاگ‌های آموزشی

   نحوه سریال‌سازی وزن‌ها، بایاس‌ها و فراداده‌ها

   تعداد توکن‌هایی که یک مدل می‌تواند تولید کند

   نحوه زمان‌بندی پردازنده‌های گرافیکی (GPU)

3. موتورهای TensorRT به بهترین شکل به صورت زیر توصیف می‌شوند:

   ایستگاه‌های بازرسی قابل حمل برای تحقیق

   قالب‌های تبادل بدون وابستگی به فروشنده

   فایل‌های باینری بهینه‌سازی‌شده برای پردازنده گرافیکی (GPU) که ​​برای سخت‌افزار خاص کامپایل شده‌اند

   قالب‌های سبک مبتنی بر جامعه

4. چه چیزی باعث می‌شود پردازنده‌های گرافیکی (GPU) در مقایسه با پردازنده‌های مرکزی (CPU) برای استنتاج مناسب‌تر باشند؟

   از هسته‌های کمتری استفاده می‌کنند

   آنها هزاران هسته موازی دارند که برای محاسبات ماتریسی بهینه شده‌اند.

   آنها به ازای هر هسته انرژی زیادی مصرف می‌کنند

   آنها دستورالعمل‌های متنوع‌تری را مدیریت می‌کنند

5. «نقطه زانو» در بهینه‌سازی عملکرد چیست؟

   مقدار تأخیر در جایی که توان عملیاتی کاهش می‌یابد

   نقطه‌ای که در آن توان عملیاتی بدون آسیب زیاد به تأخیر، بهبود می‌یابد

   کمترین تأخیر مشاهده شده

   حداقل میزان حافظه قابل دستیابی برای یک مدل، صرف نظر از تفاوت‌های عملکردی

ارسال پاسخ‌ها