上一篇
广州GPU服务器怎么设置虚拟内存？GPU服务器虚拟内存设置教程
在高性能计算、深度学习训练或大规模数据处理场景中，广州地区的GPU服务器往往承载着极高的内存负载，当物理内存（RAM）耗尽时，系统会利用硬盘空间作为“虚拟内存”（在Linux系统中通常称为Swap分区或Swap文件）来暂存不常用的数据页，从而防止程序因内存不足而崩溃，对于配置了昂贵GPU资源的服务器而言，合理设置虚拟内存是保障业务连续性的关键措施。
环境检查与现状评估
在开始配置之前,首先需要了解当前服务器的内存使用情况和现有的Swap状态，大多数生产环境的GPU服务器运行的是Linux操作系统（如Ubuntu 20.04/22.04或CentOS 7/8）。
我们可以通过以下命令查看当前的内存和Swap使用情况：
free -h
输出示例及解读：
| 字段 | 含义 | 理想状态 |
|---|---|---|
| total | 物理内存总量 | 根据硬件配置而定 |
| used | 已使用内存 | 接近上限时需警惕 |
| free | 空闲内存 | 较低时可能触发Swap |
| swap total | Swap总大小 | 若为0，表示未启用 |
| swap used | Swap已用大小 | 若为0，表示未使用 |
swap total 显示为 0，说明服务器尚未配置虚拟内存，此时需要立即创建，如果已有Swap但空间不足，则需要扩容。
创建Swap文件（推荐方式）
相比于创建独立的Swap分区,使用Swap文件更加灵活，无需重新分区磁盘，适合云主机或已部署好的服务器，假设我们要创建一个大小为 16GB 的Swap文件（具体大小需根据物理内存和业务需求调整，一般建议为物理内存的1-2倍，或至少4-8GB）。
创建Swap文件
使用 dd 命令创建文件，这里以创建16GB为例：
sudo dd if=/dev/zero of=/swapfile bs=1G count=16
设置文件权限
为了安全起见,必须限制Swap文件的访问权限，仅允许root用户读写：
sudo chmod 600 /swapfile
格式化为Swap空间
将创建的文件初始化为Linux Swap格式：
sudo mkswap /swapfile
启用Swap
激活该Swap文件：
sudo swapon /swapfile
再次运行 free -h，你应该能看到Swap总量增加了16GB。
持久化配置
上述操作在重启服务器后会失效,因为系统不会自动重新挂载Swap文件，我们需要修改 /etc/fstab 文件，使系统在启动时自动加载Swap。
备份fstab文件
sudo cp /etc/fstab /etc/fstab.bak
添加Swap条目
使用
echo 命令将Swap配置追加到 /etc/fstab 末尾：
echo '/swapfile none swap sw 0 0' | sudo tee -a /etc/fstab
验证配置
重启服务器后,再次检查 free -h，确认Swap是否自动生效。
调整Swappiness参数
Swappiness 是Linux内核的一个参数，定义了系统使用Swap空间的倾向性，其值范围是 0-100。
- 值越高（如60-100）：内核越倾向于将内存数据移到Swap中，释放物理内存。
- 值越低（如0-10）：内核尽量使用物理内存，只有当物理内存极度不足时才使用Swap。
对于GPU服务器,由于GPU显存和CPU内存之间的数据交换频繁，且Swap读写速度远慢于内存，过高的Swappiness会导致严重的性能抖动（I/O瓶颈），建议将其调低。
查看当前值：
cat /proc/sys/vm/swappiness
临时调整（立即生效，重启失效）：
sudo sysctl vm.swappiness=10
永久调整：
编辑 /etc/sysctl.conf 文件，添加或修改以下行：
vm.swappiness=10
保存后,执行 sudo sysctl -p 使配置生效。
性能优化建议
在GPU服务器环境中,虚拟内存的设置不仅仅是“有没有”的问题，更是“快不快”的问题。
- SSD/NVMe存储：确保Swap文件位于高速固态硬盘（SSD）或NVMe驱动器上，机械硬盘（HDD）的I/O延迟极高，一旦大量使用Swap，系统响应将变得极慢，严重影响训练任务。
- 监控Swap使用：使用 htop 或 iotop 监控Swap的使用频率，如果Swap使用率持续较高，说明物理内存不足，应考虑增加物理内存或优化代码中的内存占用，而不是单纯依赖Swap。
- OOM Killer 保护：Linux内核在内存极度不足时会触发OOM（Out-Of-Memory） Killer，杀死占用内存最多的进程，对于关键业务，可以调整 /proc/sys/vm/oom_kill_allocating_task 或配置 cgroups 来限制特定进程的内存使用，避免误杀GPU驱动或核心服务进程。
相关问题与解答
问题1：为什么我的GPU服务器在训练模型时，即使物理内存没满，系统也会开始使用Swap，导致训练速度变慢？
解答：
这通常是因为Swappiness参数设置过高，或者应用程序（如Python进程）分配了大量内存但未及时释放，导致内核认为物理内存紧张，某些深度学习框架在加载大型数据集时，可能会预加载数据到内存中，造成瞬时内存峰值，建议首先检查 vm.swappiness 值，将其降低至10或更低，以减少内核主动将数据移至Swap的倾向，检查是否有内存泄漏，并考虑使用 mmap 或流式加载数据的方式，避免一次性将所有数据载入内存。
问题2：Swap文件创建后，如何确认它是否正在被使用，以及如何安全地删除它？
解答：
确认Swap是否被使用，可以通过 free -h 查看 swap used 列，或使用 swapon --show 查看具体哪个Swap设备正在活跃，如果Swap使用率很高，说明物理内存确实不足。
若要安全删除Swap文件,请严格按以下步骤操作：
- 首先关闭Swap：sudo swapoff /swapfile
- 从 /etc/fstab 中删除对应的配置行（可使用文本编辑器手动删除，或使用 sed 命令）。
- 删除Swap文件：sudo rm /swapfile
- 验证：再次运行 free -h，确认Swap总量已变为0。
