使用 GPTQ 量化的模型具有很大的速度优势，与 LLM.int8() 不同，GPTQ 要求对模型进行 post-training quantization，来得到量化权重。GPTQ 主要参考了
2023-08-28 16:44
ADC的量化噪音如何考虑？ ADC（模数转换器）是将模拟信号转换成数字信号的设备。在转换过程中，由于各种不确定性的影响，ADC会引入一定的量化噪音。这篇文章将详细讨论ADC的量化噪音及其影响。 首先
2023-11-09 09:50
量化感知训练（Quantization Aware Training ）是在模型中插入伪量化模块（fake\_quant module）模拟量化模型在推理过程中进行的舍入（r...
2020-12-08 22:57
这是一种实现对activation量化的方法，基本思想是通过训练来获得ReLU的一个clip参数a。
2020-11-03 15:21
模数转换的量化方式有定点量化、浮点量化和离散量化。定点量化是指将模拟信号转换为有限的离散等级，以表示信号的幅值；浮点
2023-02-19 17:51
欢迎观看第一期ADC ASPECTS系列视频，本系列视频针对模数转换器进行简要论述。在本集中，我们将讨论量化问题。
2018-06-07 13:46
深度学习模型量化是一种重要的模型轻量化技术，旨在通过减少网络参数的比特宽度来减小模型大小和加速推理过程，同时尽量保持模型性能。从而达到把模型部署到边缘或者低算力设备上，实现降本增效的目标。
2024-07-15 11:01
量化交易的主要特点是买人和卖出，不再是由人的主观判断作出决定，而是由量化模型来决定。量化交易是一套科学的方法，有严格的分析和计算，并由数据和模型来作出决定。即便是简单的低市盈率投资方法，只要
2019-02-14 10:25
矢量化的优点和数据大小的影响
2018-11-15 06:36
很多搞研发的人，身上都带有一股偏执。而或许正是这个特性，让他们在某个领域取得非同寻常的成就。 何鹏在轻量化领域偏执了15年。而他的这份偏执，也为中国轻量化事业的发展起到了助推器作用。 众所周知
2020-09-16 14:02
