下面是两个很好的例子，说明如何创建representative_dataset()：
class Interpreter: TensorFlow Lite模型的解释器接口。 class OpHint: 一个帮助构建tflite函数调用的类。 class OpsSet: 类定义可用于生成TFLite模型的操作系统集。 class Optimize: Enum定义在生成tflite图时要应用的优化。 class RepresentativeDataset: 用于评估优化的代表性数据集。 class TFLiteConverter: 将TensorF...
converter.representative_dataset=representative_data_gen # 设置ops量化类型 converter.target_spec.supported_ops=[tf.lite.OpsSet.TFLITE_BUILTINS_INT8] # 设置模型输入输出数据格式 converter.inference_input_type=tf.uint8# or tf.uint8 converter.inference_output_type=tf.uint8# or tf.uint8 ...
def representative_dataset_gen(): for _ in range(num_calibration_steps): # Get sample input data as a numpy array in a method of your choosing. yield [input] converter.representative_dataset = representative_dataset_gen converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS_I...
converter.representative_dataset = representative_dataset_gen tflite_model = converter.convert() tflite_model_size = open(MODEL_TFLITE, "wb").write(tflite_model) print("Quantized model is %d bytes" % tflite_model_size) 5部署 在嵌入式设备端,通过以下命令将.tflite模型文件转为C代码中的unsigned...
converter.representative_dataset = representative_dataset_gen tflite_model = converter.convert() with open('/root/facial_expression_detection.tflite','wb') as f: f.write(tflite_model) print("tranfer done!!") ※ 训练完成后,将于 /root 资料夹内产出 facial_expression_detection.tflite 档案 ...
如同上述代碼中的數據集描述 representative_dataset_gen() ,而該代碼之所以為簡單快速是因為無須考慮原始來源的數據集,利用隨機產生的資料即轉換成輕量化模型(.tflite),但這有可能大幅度影響準確度。這是因為在 TensorFlow 進行轉換的過程中,會提取數據集之中的資料進行微調或小批的再訓練,將會導致前後結果之間的權...
data_gen=get_representative_dataset() x,x=data_gen.__next__() input_data = tf.constant(x) interpreter.set_tensor(input_details[0]['index'],input_data) #执行预测 interpreter.invoke() output_results = interpreter.get_tensor(output_details[0]['index']) ...
converter.representative_dataset = representative_dataset_gen converter.inference_input_type = tf.uint8 converter.optimizations = [tf.lite.Optimize.DEFAULT] 请注意,我们在代码中指定了代表性数据集,是因为 float32 精度模型不是使用 QAT 训练的。对于...
通常,这是从训练或评估数据集中随机选择的数百个样本的一小部分,没有特定的顺序。这是一个可选属性,但对于完整整数量化是必需的,即,如果tf.int8是target_spec.supported_types中唯一支持的类型。请参阅tf.lite.RepresentativeDataset。 (默认无) target_spec实验标志,可能会发生变化。目标设备的规格,包括支持的...