深度学习框架区分训练还是推理吗 深度学习框架是一个非常重要的技术，它们能够加速
2023-08-17 16:03
在这篇文章中，我们解释了如何使用 TensorFlow-to-ONNX-to-TensorRT 工作流来部署深度学习应用程序，并给出了几个示例。第一个例子是 ResNet-50 上的 ONNX-
2022-04-01 15:45
深度学习框架是什么？深度学习框架有哪些？ 深度学习框架是一种软件工具，
2023-08-17 16:03
LLM（大型语言模型）大模型推理加速是当前人工智能领域的一个研究热点，旨在提高模型在处理复杂任务时的效率和响应速度。以下是对LLM大模型推理加速关键技术的详细探讨，内容
2024-07-24 11:38
PyTorch是由Facebook人工智能研究小组开发的一种基于Lua编写的Torch库的Python实现的深度学习库，也是目前使用范围和体验感最好的一款深度学习框架。
2023-05-08 14:20
vLLM是一个开源的大模型推理加速框架，通过PagedAttention高效地管理attention中缓存的张量，实现了比HuggingFace Transformers高14-24倍的吞吐量。
2023-10-10 15:09
近日，科大讯飞在1月7日成功举办的办公智能体产品升级发布会上，宣布了一项令人振奋的新进展。据科大讯飞官方透露，公司将于1月15日正式对外发布其最新的“讯飞星火深度推理模型X1”。 这一新模型的发布
2025-01-08 10:30
随着人们对深度学习（ deep learning ， DL ）兴趣的日益浓厚，越来越多的用户在生产环境中使用 DL 。由于 DL 需要强大的计算能力，开发人员正在利
2022-04-27 09:54
今天，科大讯飞正式发布星火深度推理模型X1，星火4.0 Turbo底座全面升级，首发星火语音同传大模型。
2025-01-15 15:54
一个完整的医疗影像推理流程一般包含数据的前处理、AI 推理以及数据后处理这几部分。通常情况下，我们可以通过 TensorRT， TensorFlow 或者 PyTorch 这些框架来实现 GPU
2022-04-07 10:27
