模数转换的量化方式有定点量化、浮点量化和离散量化。定点量化是指将模拟信号
2023-02-19 17:51
数码管显示。显示AD转换的量化值和换算后的电压值，按键S1为复位键
2018-06-20 02:27
量化噪声是数据转换器中最著名的噪声源。它是由转换器中使用的采样和量化过程中固有的误差引起的。
2021-06-01 11:29
Σ-Δ调制器多了一个特性，那就是噪声整形，如图2c所示。模数转换的量化噪声被调制整形，从低频移动到较高频率（通常如此），低通数字滤波器可将其从转换结果中消除。Σ-Δ型ADC的噪底由热噪声决定，而不受
2018-04-10 11:01
许多实际高速采样系统，如电气测试与测量设备、生命系统健康监护等，不能接受较高的ADC转换误差率。这些系统要在很宽的噪声频谱上寻找极其罕见或极小的信号。误报警可能会引起系统故障。因此，我们必须能够量化高速ADC转换误差
2022-01-03 09:09
ADC的量化噪音如何考虑？ ADC（模数转换器）是将模拟信号转换成数字信号的设备。在转换过程中，由于各种不确定性的影响，ADC会引入一定的
2023-11-09 09:50
软件必须是并行和矢量化的，以充分利用今天和明天的硬件。但并非所有线程或矢量化设计都值得。工具可以非常有助于确定可以（并且应该）并行化和允许的内容
2018-11-07 06:47
TensorRT 支持使用 8 位整数来表示量化的浮点值。量化方案是对称均匀量化 – 量化值以有符号 INT8 表示，从量化
2022-05-13 16:28
欢迎观看第一期ADC ASPECTS系列视频，本系列视频针对模数转换器进行简要论述。在本集中，我们将讨论量化问题。
2018-06-07 13:46
使用 GPTQ 量化的模型具有很大的速度优势，与 LLM.int8() 不同，GPTQ 要求对模型进行 post-training quantization，来得到量化权重。GPTQ 主要参考了
2023-08-28 16:44
