LLM на Android с Keras и TensorFlow Lite

1. Какая структура используется для преобразования модели LLM в формат, совместимый с мобильными устройствами?

   Керас

   PyTorch

   Базовое машинное обучение

   ТензорФлоу Лайт

2. В чем состоит основная проблема при развертывании больших языковых моделей на устройствах Android?

   Отсутствие предварительно обученных моделей LLM.

   Сложность поиска подходящих наборов данных.

   Ограниченная вычислительная мощность и память.

   Требования к высокой пропускной способности Интернета.

3. Какова польза от квантования модели в процессе преобразования?

   Это позволяет проводить обучение на большем наборе данных.

   Это упрощает архитектуру модели.

   Это повышает точность модели.

   Это уменьшает размер модели и уменьшает задержку.

4. Вопросы, где нужно заполнить пропуски

   Введите одно или несколько слов, чтобы закончить предложение.

   Библиотека высокого уровня, упрощающая разработку моделей НЛП с использованием TensorFlow, — ___.

5. Как руководство рекомендует подготовить текстовые данные для модели LLM?

   Преобразуйте текстовые данные в числовые представления.

   Оставьте текстовые данные в необработанном формате.

   Предварительно обработайте текстовые данные путем их токенизации.

   Все вышеперечисленное

Отправить ответы