AMD Fiji Fury系列显卡首次商用了新一代高带宽显存HBM，大大提升带宽并缩小空间占用，NVIDIA目前也已在其Tesla系列计算卡、Titan系列开发卡中应用HBM。 但是，HBM可不
2018-01-22 16:50
DataParallel里为什么会显存不均匀以及如何解决
2022-12-14 10:36
NVIDIA新一代显卡即将出炉，尽管对于个中细节并不了解细节，但业界普遍认为无论是NVIDIA还是AMD，新一代显卡搭载GDDR6显存可能性极高。
2018-08-06 16:35
对于日常选购显卡的玩家来说，一款显卡的性能往往是一个非常重要的因素；而决定一款显卡的性能高低的因素绝不仅仅是单一的，而是有非常多的因素；这其中包括了一款显卡的核心架构、制程工艺、核心频率和显存规格等等，它们对显卡的性能高低都有关系，但是影响程度不一，本文笔者主要针对显存
2020-09-17 15:26
QDR（Quad Data Rate):四倍数据倍率，在DDR的基础上，拥有独立的写接口和读接口，以此达到4倍速率，例如QDR-SRAM等 。DDR2-SDRAM，DDR3-SDRAM基本原理和DDR-SDRAM是一样的，通过提高时钟频率来提升性能，因为时钟频率提高了，必须做相应的预处理（DDR支持2、4、8busrt, DDR2支持4和8，而DDR3只支持8）。
2018-11-07 08:50
从 GPT-3，Gopher 到 LLaMA，大模型有更好的性能已成为业界的共识。但相比之下，单个 GPU 的显存大小却增长缓慢，这让显存成为了大模型训练的主要瓶颈，如何在有限的 GPU 内存下训练大模型成为了一个重要的难题。
2023-09-11 16:08
早期内存通过存储器总线和北桥相连，北桥通过前端总线与CPU通信。从Intel Nehalem起，北桥被集成到CPU内部，内存直接通过存储器总线和CPU相连。
2020-02-07 18:13
早期内存通过存储器总线和北桥相连，北桥通过前端总线与CPU通信。从Intel Nehalem起，北桥被集成到CPU内部，内存直接通过存储器总线和CPU相连。
2020-03-01 16:16
在上篇介绍中，通讯负载不均的优化我们解释过了，但还遗留了一个显存开销问题：数据并行中，每个GPU上都复制了一份完整模型，当模型变大时，很容易打爆GPU的显存，那要怎么办呢？
2023-05-26 14:38
