OpenVINO2023版本衍生出了一个新支持工具包NNCF(Neural Network Compression Framework – 神经网络压缩框架)，通过对OpenVINO IR格式模型的压缩与量化更好的提
2023-11-20 10:46
近年来，大规模语言模型（Large Language Models, LLMs）在自然语言处理领域取得了革命性进展。以 GPT 系列、LLaMA 等为代表的模型，通过千亿级参数的复杂结构展现出强大的语义理解和生成能力。
2025-03-04 11:10
MambaQuant在Mamba系列模型上实现了W8A8/W4A8量化的方法，精度逼近浮点，超过Quarot等SOTA方法。该工作已被人工智能顶会ICLR-2025接收。
2025-03-05 11:10
在人工智能（AI）的广阔领域中，模型作为算法与数据之间的桥梁，扮演着至关重要的角色。根据模型的大小和复杂度，我们可以将其大致分为AI大模型和小模型。这两种
2024-07-10 10:39
集成学习是功能强大的机器学习技术之一。集成学习通过使用多种机器学习模型来提高预测结果的可靠性和准确性。但是，使用多种机器学习模型如何使预测结果更准确？可以采用什么样的技术创建整体学习
2020-11-11 11:13
PRAM（Parallel Random Access Machine，随机存取并行机器）模型，也称为共享存储的SIMD模型，是一种抽象的并行计算模型，它是从串行的RA
2018-05-07 09:12
RabbitMQ 是一个流行的开源消息队列软件，它提供了多种通信模型，例如发布/订阅模型、路由模型、work模型等。在前
2023-09-25 11:30
视觉语言模型（VLM）是一种多模态、生成式 AI 模型，能够理解和处理视频、图像和文本。
2025-02-12 11:13
难以达到最佳性能。为了提升模型在特定任务上的表现，微调（Fine-tuning）成为了一个关键步骤。本文将详细探讨大模型为什么要进行微调以及微调的原理，并附上相关的代码示例。
2024-07-10 10:43
使用 GPTQ 量化的模型具有很大的速度优势，与 LLM.int8() 不同，GPTQ 要求对模型进行 post-training quantization，来得到量化
2023-08-28 16:44
