一 试着将模型进行了esp-dl上int16和int8的量化，并在测试数据集上进行精度评估，其中int16的模型精度基本没有下降，但是int8的模型评估精度下降了很多，
2024-06-28 15:10
一、int8的输出和fp32模型输出差异比较大 解决方案： 检查前后处理是否有问题，int8网络输入输出一般需要做scale处理，看看是否遗漏？ 通过量化可视化工具分析int8的输出和fp32
2023-09-19 06:09
与采用旧 CPU 的推理相比，在新 CPU 上推断的 INT8 模型的推理速度更快。
2023-08-15 08:28
无法在 OpenVINO™ 工具套件的深度学习 （DL） 工作台中导出 INT8 模型
2025-03-06 07:54
无法确定是否可以输入随机数据集来生成 INT8 训练后量化模型。
2025-03-06 06:45
本帖最后由 一只耳朵怪 于 2018-6-25 14:58 编辑 不能是INT16字型的？INT8精度不够呀~
2018-06-25 01:12
我有一个大型量化 tensorflow lite 模型。它包括输入和输出类型为 “int8” 的 “Softmax”作。 我正在运行 eIQ 模型工具版本 1.14.0 将模型转换为 i.MX95
2025-04-14 07:15
求大神指教：在labview的公式节点中如何定义一个静态变量（例如：static int8 i=0;这样可以吗？）
2016-04-13 21:37
本帖最后由 一只耳朵怪 于 2018-6-13 16:29 编辑 大家好，使用28335也有1年多了，这个数制问题一直困扰我，就是如何自己定义8位的int型整数？在网上搜到的 typedef CPU_INT08
2018-06-13 04:13
model_deploy.py --mlir yolov5l.mlir --quantize INT8 --calibration_table yolov5l_cali_table --chip
2024-01-10 06:40
