Как я могу квантовать модель keras при преобразовании ее в модель слоев TensorflowJS?

Я создал модель tensorflow, а затем преобразовал ее в модель tensorflow.js, используя следующий код:

import tensorflowjs as tfjs
from tensorflow.keras.models import load_model

classifier = load_model("model")
tfjs.converters.save_keras_model(classifier, "js")

Он отлично работает, и теперь я хотел бы уменьшить размер модели с помощью квантования при преобразовании ее в модель слоев TensorflowJS.


person aruno14    schedule 18.09.2020    source источник


Ответы (2)


Да, возможно, у вас есть четыре варианта квантования:

  1. --quantization_bytes (устарело)
  2. --quantize_float16
  3. --quantize_uint8
  4. --quantize_uint16

Пример конвертации из формата keras в tfjs_layers_model:

tensorflowjs_converter \
   --input_format keras \
   --output_format tfjs_layers_model \
   --quantize_uint16 \
   original_model/model.json
   quantized_model/

Или, если вам нужна дополнительная помощь со всем процессом, просто введите следующее в своем терминале

tensorflowjs_wizard

Дополнительная информация от Tensorflowjs Converter

person yudhiesh    schedule 18.09.2020
comment
Благодарю вас! Можно ли использовать эти параметры в коде Python? - person aruno14; 19.09.2020
comment
Привет, вы делаете все это со своего терминала, если в вашей системе установлен Tensorflowjs, у вас не будет проблем. Если вы немного запутались во всем процессе, просто используйте Tensorflowjswizard. - person yudhiesh; 19.09.2020
comment
Я мог бы выполнить количественную оценку с помощью инструмента командной строки. Спасибо. Я хотел сделать это на питоне, но это невозможно, верно? - person aruno14; 22.09.2020
comment
Согласно документации, он доступен только из командной строки. - person yudhiesh; 22.09.2020

Используя инструмент командной строки, я смог преобразовать свою модель в количественную модель tensorflow.js.

Я использовал команду ниже:

~/.local/bin/tensorflowjs_converter model/ quantized_model/
--input_format tf_saved_model --output_format tfjs_graph_model --quantize_uint8

Я установил модель Python как пользователь, поэтому инструменты командной строки находятся в: ~/.local/bin/

person aruno14    schedule 22.09.2020