Σ-Δ调制器多了一个特性，那就是噪声整形，如图2c所示。模数转换的量化噪声被调制整形，从低频移动到较高频率（通常如此），低通数字滤波器可将其从转换结果中消除。Σ-Δ型ADC的噪底由热噪声决定，而不受
2018-04-10 11:01
许多实际高速采样系统，如电气测试与测量设备、生命系统健康监护等，不能接受较高的ADC转换误差率。这些系统要在很宽的噪声频谱上寻找极其罕见或极小的信号。误报警可能会引起系统故障。因此，我们必须能够量化高速ADC转换误差
2022-01-03 09:09
取样和量化是获取图像的目标是从感知的数据中产生数字图像，但是传感器的输出是连续的电压波形，因此需要把连续的感知数据转换为数字形式。这一过程由图像的取样与量化来完成。 数字化坐标值称为取样；数字化幅度值称为
2018-05-12 04:46
使用 GPTQ 量化的模型具有很大的速度优势，与 LLM.int8() 不同，GPTQ 要求对模型进行 post-training quantization，来得到量化权重。GPTQ 主要参考了
2023-08-28 16:44
这是一种实现对activation量化的方法，基本思想是通过训练来获得ReLU的一个clip参数a。
2020-11-03 15:21
基于Benchmark的性能测试量化指标方案是一种用于评估和量化系统性能的方法。通过使用Benchmark测试工具，该方案旨在提供可靠的性能数据，并使用具体的指标来衡量系统在各个方面的表现。本文将
2023-10-17 10:15
我们深入探讨实际器件与理想 DAC 传输函数的差异，以及如何量化这些差异。
2018-07-10 11:59
在这篇文章中，我们简要介绍了基本的量化概念和 TensorRT 的量化工具箱，然后回顾了 TensorRT 8 . 0 是如何处理 Q / DQ 网络的。我们对量化工具箱提供的 resnet50qat 示例进行了快速
2022-03-31 16:51
以下应用笔记深入探讨了量化和热噪声的数学定义，这些参数会显著影响RF接收机应用中模数转换器（ADC）的信噪比（SNR）和信噪加失真（SINAD）规格。最后，比较了它们对奈奎斯特和过采样ADC有效噪声系数的影响。
2023-02-24 14:20
LDO输出虽然更为干净，但在大电流追求高的电源转换效率的系统中，我们还是会选择DC-DC开关式转换器，既要追求高的电源转换效率，又对噪声敏感，正确地测量量化开关稳压器中
2020-03-22 15:02
