显存（Video RAM，简称VRAM） 是显卡上专用的高速内存，它的作用是临时存储GPU即将处理或正在处理的数据。可以把显存理解为显卡的"工作台"：工作台越大，能同时铺开的"零件"就越多，处理效率就越高。
显存 ≠ 系统内存（RAM） ，二者有本质区别：
系统内存（RAM） 是CPU的"工作台"，由主板上的内存条提供，容量通常16GB-64GB。
显存（VRAM） 是GPU的"工作台"，焊在显卡PCB板上，容量通常6GB-24GB不等。显存的速度远超系统内存（GDDR6/GDDR7的带宽可达数百GB/s甚至上TB/s），但容量远小于系统内存。
"CUDA out of memory"（简称OOM） 是NVIDIA显卡用户在运行CUDA相关程序（如AI训练、深度学习推理、3D渲染等）时最常见的错误提示。它的字面意思是 "CUDA显存用完了" ——当程序请求分配的显存超过了显卡可用显存的上限时，系统就会抛出这个错误，程序直接终止。
不同场景下显存不足的触发方式不同：
游戏场景——"显存不足"的表现
游戏中显存不足通常不会直接弹窗报错，而是表现为：
纹理加载延迟（远处景物突然从模糊变清晰）
画面卡顿、掉帧（系统被迫使用系统内存作为显存，速度极慢）
游戏闪退或直接黑屏
AI/深度学习场景——"CUDA out of memory"的表现
这是最常见的报错场景，典型提示如：
text
RuntimeError: CUDA out of memory. Tried to allocate 2.00 GiB (GPU 0; 11.00 GiB total capacity; 9.50 GiB already allocated; 1.20 GiB free; 10.50 GiB reserved in total by PyTorch)
内容创作场景——"显存不足"的表现
视频剪辑（尤其是4K/8K多轨道）、3D渲染、特效合成等：
预览时卡顿、丢帧
渲染时提示"GPU内存不足"
导出的视频出现花屏或黑帧
为什么显存这么容易不够用？
近年来，游戏纹理分辨率和AI模型规模都在飞速膨胀——几年前一个3A游戏的纹理包可能只需4GB显存，如今的4K材质包动辄需要8-10GB；AI领域更是如此，LLaMA、Stable Diffusion等大模型动辄需要几十GB显存。而显存的硬件容量增长速度却跟不上软件需求，于是"显存不足"成了高频痛点。
二、两个常见疑问与解答
疑问一：显存不够了，能不能用系统内存（RAM）来"借"一点？
这是很多用户的第一反应——"我系统内存有32GB，分一点给显存用不就行了？"
可以，但有代价。 Windows和Linux都支持将系统内存作为显存的"备用仓库"：
Windows：系统会自动将系统内存的一部分作为"共享GPU内存"，默认约为系统内存的一半。如果你的系统内存是32GB，共享GPU内存约为16GB。当显存用完后，系统会借用这部分内存。
Linux：通过配置/etc/profile中的CUDA_VISIBLE_DEVICES和内存映射机制也可以实现类似功能。
但问题在于速度：系统内存（DDR4/DDR5）的带宽约为20-60GB/s，而显存（GDDR6/GDDR6X）的带宽高达400-1000GB/s——相差10-20倍。这意味着，一旦程序开始使用"借来"的系统内存，速度会急剧下降。在游戏中表现为掉帧、卡顿；在AI推理中表现为速度暴跌（可能慢5-10倍），甚至在训练中直接导致训练失败。
结论：借用系统内存只能作为临时的"急救"方案，不能替代真正的显存升级。而且很多AI框架（如PyTorch）在显存不足时会直接报错退出，并不会自动借用系统内存——因为速度差异太大，借用反而可能导致程序卡死。
疑问二：我的显卡有16GB显存，为什么只跑了几个小任务就提示"out of memory"？
这是AI从业者经常遇到的情况——明明显存容量看起来够用，但就是报错。原因通常有以下几种：
1. 显存没有被正确释放
在Python的AI框架（PyTorch/TensorFlow）中，如果你在循环中反复创建张量（tensor）但没有及时释放，显存会被一点点"蚕食"直至耗尽。尤其是在使用for循环多次推理时，每一次迭代的中间变量如果不主动del或清空缓存，都会堆积在显存中。
2. Batch Size（批次大小）设置过大
Batch Size是AI训练/推理中一次送入GPU的数据量。如果设置得太高，单次就需要分配大量显存。很多初学者照着网上的教程抄了一个Batch Size=16的设置，但他的显卡显存只有8GB，而教程作者用的是24GB的卡——结果自然是OOM。
3. 模型本身超过显存容量
有些大模型（如LLaMA 70B全精度版本）需要超过100GB显存才能加载，消费级显卡根本无法运行。这时候不是你的卡"有问题"，而是模型根本不适合在你的硬件上跑。
4. 其他程序占用了显存
你可能同时打开了多个占用显存的程序：浏览器（尤其是开启了硬件加速的Chrome）、另一个AI推理窗口、OBS录屏软件等。可以用nvidia-smi命令查看显存占用情况，看看是不是有其他程序"抢"走了显存。
三、及时解决显存不足有什么好处？
1. 让程序稳定运行，避免中断
AI训练一次可能需要数小时甚至数天。如果在训练中途因为OOM而崩溃，前面的所有计算都白费了。提前规划和释放显存，可以确保长时间任务稳定完成。
2. 提升效率，节省时间
显存不足时如果被迫使用系统内存作为缓存，速度会慢10倍以上。一个原本1分钟能跑完的任务，可能需要10分钟甚至更长。合理管理显存可以让GPU发挥出应有的速度。
3. 避免不必要的硬件升级
很多人一遇到OOM就想"是不是得买张更大的显卡"。实际上，很多情况下通过调整Batch Size、开启梯度累积、使用混合精度训练等方式，可以在不更换硬件的前提下让程序跑起来。一张新显卡动辄几千上万，能省则省。
4. 延长显卡寿命
让显存在接近满载的状态下运行其实没事（硬件设计如此），但如果频繁在满载边缘反复分配/释放显存，反而可能导致显存颗粒的压力波动。稳定的显存管理有助于硬件在平稳的状态下工作。
四、解决显存不足与CUDA OOM问题的五个步骤
第一步：查看当前显存占用情况
动手之前先搞清楚"谁占了显存、占了多少"：
NVIDIA显卡用户（最常用）：
打开命令提示符（CMD）或终端，输入：
bash
nvidia-smi
会显示一个表格，包含：
GPU编号、型号、温度、功耗
显存总容量（Total） 、已用（Used） 、剩余（Free）
进程列表（Processes） ：哪些程序在占用显存，占用了多少
在Windows任务管理器中查看：
按 Ctrl + Shift + Esc → "性能"选项卡 → 选择GPU → 查看"专用GPU内存使用率"。
在Linux中持续监控：
输入 watch -n 1 nvidia-smi 可以每秒刷新一次占用情况。
第二步：游戏用户——降低显存占用
如果是玩游戏时提示显存不足，按以下优先级调整：
方案一：降低纹理质量
纹理是最吃显存的设置。将"纹理质量"从"超高"降到"高"或"中"，通常能节省2-4GB显存，且画质损失较小。
方案二：降低渲染分辨率或阴影质量
将分辨率从4K降到2K（1440p），或从2K降到1080p
将阴影质量从"超高"降到"高"
方案三：关闭多余的后台程序
关闭浏览器（尤其是多标签页Chrome）、关闭录屏软件、关闭其他游戏启动器（Steam/Epic等其实也占显存）。
方案四：关闭NVIDIA Overlay等功能
在NVIDIA Experience中关闭"游戏内覆盖"，可释放约200-500MB显存。
第三步：AI/深度学习用户——调整代码与参数
方案一：调小Batch Size
这是最直接有效的方法。如果你的Batch Size=16报OOM，先降到8试试，再不行降到4。Batch Size降低会让训练略微变慢，但至少能让程序跑起来。
方案二：使用混合精度训练（Mixed Precision）
在PyTorch中，使用自动混合精度（AMP）可以将显存占用减少约30%-50%：
python
from torch.cuda.amp import autocast, GradScaler
scaler = GradScaler()
with autocast():
output = model(input)
loss = criterion(output, target)
N卡用户也可开启torch.backends.cuda.matmul.allow_tf32 = True利用TF32加速。
方案三：开启梯度累积（Gradient Accumulation）
如果Batch Size已经降到1还是显存不够，可以开启梯度累积——每处理几个mini-batch才更新一次梯度，模拟大Batch Size的效果，但显存占用只相当于小Batch Size。
python
accumulation_steps = 4
for i, (inputs, labels) in enumerate(dataloader):
outputs = model(inputs)
loss = criterion(outputs, labels)
loss = loss / accumulation_steps
loss.backward()
if (i+1) % accumulation_steps == 0:
optimizer.step()
optimizer.zero_grad()
方案四：使用更轻量的模型
如果以上方法都不行，考虑换用更小参数的模型（如将LLaMA 13B换成7B，或将Stable Diffusion XL换成1.5版本）。
第四步：调整系统设置——虚拟内存与共享GPU内存
Windows用户：调整虚拟内存
虽然虚拟内存（系统内存）速度慢，但可以作为"保险"：
"设置→系统→关于→高级系统设置"
"高级"选项卡→"性能"→"设置"→"高级"→"虚拟内存"→"更改"
取消"自动管理所有驱动器的分页文件大小"
选择系统盘（C盘），选择"自定义大小"，将初始值和最大值都设为 24576MB（24GB） 或更高
点击"设置"并重启电脑
Linux用户：调整swappiness：
bash
sudo sysctl vm.swappiness=60
并在/etc/sysctl.conf中添加vm.swappiness = 60使之永久生效。
第五步：排查显存泄漏（Memory Leak）
如果发现显存占用随着程序运行时间不断增长（即使没有分配新的变量），可能存在显存泄漏：
在PyTorch中：
python
import torch
torch.cuda.empty_cache() # 释放显存缓存
在循环末尾调用，可释放未使用的缓存显存。但要警惕调用empty_cache()本身也有开销，不宜过于频繁。
排查建议：
在程序关键位置打印显存占用：
python
print(torch.cuda.memory_allocated() / 1024**3, "GB allocated")
print(torch.cuda.memory_reserved() / 1024**3, "GB reserved")
如果发现allocated数值在循环中持续增长，说明有变量没有被释放——检查是否在循环中反复创建了新的张量而没有删除。
终极方案：
如果程序不需要保持GPU状态（如数据预处理或后处理逻辑），可以临时将不用的数据.cpu()移到系统内存，或将不用的张量del后调用torch.cuda.empty_cache()强制释放。
五、实践案例
案例一：《黑神话：悟空》提示显存不足，纹理质量从超高降到高后解决
用户配置RTX 4060 8GB显存，在《黑神话：悟空》中开启4K分辨率+超高纹理质量后，游戏提示"显存不足"并闪退。他用nvidia-smi查看发现游戏已占用7.8GB显存，几乎满载。
按本文步骤，在游戏图形设置中将"纹理质量"从"超高"降低为"高"，并将"阴影质量"从"超高"降为"高"。重新进入游戏后，显存占用降至5.2GB，游戏稳定运行无闪退，画质损失肉眼几乎无法察觉。
案例二：Stable Diffusion生成2048×2048图像时报CUDA OOM，改用fp16精度后成功
用户使用RTX 3060 12GB显存，用Stable Diffusion WebUI生成2048×2048高清图像时提示"CUDA out of memory"，但生成1024×1024正常。
排查发现：高分辨率图像在生成过程中需要分配大量中间张量。解决方案：在WebUI的"设置"中，将"精度"从fp32改为fp16（半精度）。fp16模型权重和中间计算结果都只需一半显存，2048×2048图像在fp16精度下成功生成，且肉眼几乎看不出画质差异。
案例三：PyTorch训练中因显存泄漏频繁OOM，排查后发现循环中的中间变量未释放
用户在训练自定义深度学习模型时，每个epoch运行到约70%时必报"CUDA out of memory"。他用watch -n 1 nvidia-smi监控显存，发现显存占用在每个batch迭代中稳步增长——从起始的6GB逐渐攀升至11GB然后崩溃，这是典型的显存泄漏。
排查代码发现：在训练循环中创建了中间特征图feature_map = model.layer_activation，但没有及时删除。修复方案：在每次迭代末尾添加del feature_map和torch.cuda.empty_cache()。修复后显存占用稳定在6.2GB左右，训练顺利完成。
显存不足和CUDA OOM是游戏玩家、AI从业者和内容创作者共同的痛点，但好消息是：大多数情况下并不需要立刻买新显卡。通过查看nvidia-smi了解显存占用、调低纹理质量或Batch Size、使用混合精度训练、排查显存泄漏等软件层面的调整，往往就能解决问题。如果所有优化手段都已用尽仍频繁OOM，再考虑升级到显存更大的显卡（如从8GB升级到16GB），那也是"最后一招"而非首选方案。
版权声明：本平台仅提供信息存储空间服务，用户发布内容不代表本站观点，交易风险自担；侵权违法内容请立即举报（邮箱：37996619@qq.com），本站接通知后先行屏蔽，责任由发布者承担。