ANU Machine Learning GPU Server Access: How to Request Resources for Your COMP Course Project and Usage Quotas

3 min read
Read in English

澳大利亚国立大学（ANU）为计算机科学（COMP）课程的学生提供专用的机器学习GPU服务器访问权限，以支持深度学习模型训练和计算密集型项目。截至2024年，ANU信息技术服务部（ITS）与工程、计算与控制学院（CECS）联合管理的GPU集群包含超过120块NVIDIA GPU（包括V100、A100和RTX 4090等型号），供全校约3,500名在读COMP课程学生按需申请【ANU ITS 2024，High-Performance Computing Resource Allocation Report】。随着2025年第一学期COMP课程（如COMP4670深度学习、COMP6710高级机器学习）对GPU算力的需求同比增长约35%，理解资源请求流程和配额管理机制对按时完成课程项目至关重要。本文基于ANU官方文档和2024-2025学年最新政策，系统梳理GPU服务器访问申请步骤、配额限制及常见问题。

申请资格与课程绑定

GPU服务器访问并非对所有ANU学生开放，而是严格绑定至特定COMP课程项目。根据ANU CECS政策，仅注册了以下类型课程的学生可提交申请：COMP4670（深度学习）、COMP6710（高级机器学习）、COMP6320（计算机视觉）以及部分经课程协调员批准的HDR（Higher Degree Research）项目。2024年数据显示，约**78%**的GPU资源申请来自COMP4670和COMP6710两门课程，其余来自研究型项目【ANU CECS 2024，Course Resource Allocation Report】。

课程项目预注册

学生需在学期第2周前通过课程Wattle页面完成项目预注册。预注册时需提交项目描述、预期使用的GPU时长（以GPU小时为单位）以及所需GPU型号（V100或A100）。课程协调员会在第3周前审核并分配初始配额。未完成预注册的学生将无法访问GPU集群。

研究型项目特殊通道

HDR学生（博士生或硕士研究型）可通过导师提交持续访问申请，有效期为一个学期（约20周）。此类申请需附带研究伦理批准号（如涉及人类数据）和计算资源需求论证。2024年，HDR申请平均获批配额为2,400 GPU小时，是课程项目平均配额（400 GPU小时）的6倍。

资源请求流程

GPU资源请求通过ANU Research Computing Portal（https://rescomp.anu.edu.au）提交，该门户整合了集群访问、配额管理和作业提交功能。整个流程分为四个阶段，从账户激活到作业运行通常需要3-5个工作日。

第一步：账户激活

学生需使用ANU统一身份认证（Uni ID）登录Portal，首次登录时需同意《ANU高性能计算使用协议》。协议明确禁止将GPU资源用于加密货币挖掘、未经授权的商业计算或违反澳大利亚出口管制法规的模型训练。账户激活后，系统会生成一个SSH密钥对，用于后续服务器登录。

第二步：项目配额申请

在Portal的“Resource Allocation”模块，学生需填写项目名称（与Wattle预注册一致）、所需GPU型号和预计使用时长。系统会根据课程类型自动建议配额上限：COMP4670课程项目默认上限为500 GPU小时，COMP6710为400 GPU小时。超出上限的申请需提供额外论证，如模型参数量超过10亿或训练数据规模超过100GB。

第三步：作业提交与监控

获批后，学生通过SLURM作业调度系统提交训练任务。每个任务可申请1-4块GPU，单次运行时长限制为48小时。任务状态可通过Portal或命令行工具squeue实时查看。2024年数据显示，约**62%**的作业在24小时内完成，平均等待时间为12分钟（非高峰时段）至2.5小时（期末周）。

配额管理与限制

使用配额是ANU GPU集群管理的核心机制，旨在公平分配有限资源。配额分为三个层级：课程配额、学期配额和集群总配额。违反配额限制会导致作业被自动终止，且无法恢复已消耗的GPU小时。

课程配额

每门COMP课程设有独立配额池。以2025年第一学期为例，COMP4670课程总配额为12,000 GPU小时，由约120名学生共享。这意味着平均每名学生可分配100 GPU小时，但通过预注册论证可申请额外资源。课程协调员会在学期第6周重新评估配额分配，根据已使用量调整剩余资源。

学期配额

每名学生每学期最多可消耗1,500 GPU小时（包括课程项目和研究项目）。超过此上限的申请需提交至ITS资源委员会审批，审批周期为5-10个工作日。2024年，仅有**8%**的学生触发了学期配额上限，其中大多数是HDR学生。

集群总配额

整个GPU集群的月度总配额为45,000 GPU小时，由所有课程和研究项目共享。ITS会根据历史使用模式动态调整各课程的配额池。例如，2024年8月（期末高峰）集群使用率达到94%，ITS临时将COMP4670配额增加20%以应对需求【ANU ITS 2024，Monthly GPU Utilization Report】。

可选GPU型号与性能差异

ANU GPU集群提供三种主要型号：NVIDIA V100（32GB HBM2）、A100（40GB HBM2e）和RTX 4090（24GB GDDR6X）。型号选择直接影响训练速度和可处理的最大模型规模。2024年基准测试显示，A100在混合精度训练中比V100快1.8倍，而RTX 4090在单精度任务中比V100快1.4倍，但显存较小限制了其在大模型上的应用【ANU CECS 2024，GPU Benchmark Report】。

V100：通用选择

V100是集群中数量最多的型号（约60块），适合大多数课程项目。其32GB显存可支持参数量在10亿以内的模型训练（如ResNet-152、BERT-base）。V100的排队等待时间通常最短，非高峰时段平均等待8分钟。

A100：高性能需求

A100（约30块）专为大规模训练设计，40GB显存可支持参数量达30亿的模型（如GPT-2-large）。A100的排队时间较长，非高峰时段平均等待35分钟，期末周可能超过3小时。建议仅在模型无法在V100上训练时申请A100。

RTX 4090：快速迭代

RTX 4090（约30块）适合小批量快速实验，但其24GB显存限制了在大型数据集或高分辨率图像上的应用。RTX 4090的每次作业时长限制为24小时（低于V100和A100的48小时），且不支持NVLink多卡通信。

常见错误与故障排除

GPU服务器使用中，学生常因配置错误或资源不足导致作业失败。ANU ITS统计显示，2024年约**23%**的首次作业因环境配置问题被终止。以下列出三个高频错误及其解决方案。

CUDA版本不匹配

作业失败的首要原因是代码要求的CUDA版本与集群环境不一致。集群默认安装CUDA 12.1，但部分课程模板（如COMP4670的PyTorch示例）要求CUDA 11.8。学生需在作业提交脚本中添加module load cuda/11.8命令。ITS提供预配置的Anaconda环境，包含CUDA 11.8和12.1两个版本，可通过conda activate pytorch-cuda118切换。

显存溢出

训练过程中显存溢出（OOM）是最常见的运行时错误。2024年数据显示，**37%**的作业因显存不足被自动终止。解决方案包括：减小批量大小（batch size）、使用梯度累积（gradient accumulation）或启用混合精度训练（AMP）。ITS建议在作业脚本中添加--batch-size 16和--amp参数作为默认配置。

存储配额不足

每个学生在集群的家目录（/home/）和项目目录（/projects/）各有50GB存储配额。大型数据集（如ImageNet，约150GB）需存储在共享的/scratch/目录（配额500GB），但该目录每30天自动清理一次。学生需在作业脚本中将数据集复制到/scratch/，并在训练完成后清理临时文件。

学期末资源回收与续期

资源回收在每学期第12周开始，ITS会终止所有未完成的课程项目作业，并回收未使用的GPU小时配额。回收的资源会重新分配给研究型项目，确保假期期间的持续计算能力。2024年数据显示，第12周回收的GPU小时约占学期总配额的15%。

项目数据保存

学生需在第12周前将训练模型、日志和代码从集群家目录迁移至个人存储设备或ANU提供的云存储（如ANU OneDrive，配额1TB）。ITS不负责保存学期结束后超过30天的数据。2024年，约**5%**的学生因未及时迁移数据而丢失训练成果。

续期申请

需要假期继续使用GPU的学生（如HDR学生或延期项目），需在学期第10周前提交续期申请。续期申请需附上项目进展报告和剩余工作的时间表。2024年，续期申请获批率为72%，平均获批额外配额为800 GPU小时。

FAQ

Q1：申请GPU服务器后多久能获得访问权限？

账户激活通常需要1-2个工作日。项目配额申请获批后，学生可在Portal的“SSH Keys”模块下载私钥，立即登录集群。2024年数据显示，从提交申请到首次成功提交作业的平均时间为3.8个工作日，其中95%的申请在5个工作日内完成。

Q2：GPU使用配额用完后还能继续申请吗？

可以。学生可通过Portal提交“额外配额请求”，需提供详细论证（如模型尚未收敛、测试集未完成评估）。额外配额上限为初始配额的50%，审批周期为2-5个工作日。2024年，约**18%**的课程项目学生申请了额外配额，其中76%获批。

Q3：能否在个人电脑上训练模型代替使用集群？

可以，但需注意个人电脑的性能限制。ANU ITS建议，仅当模型参数量低于5亿且训练数据小于10GB时，考虑使用个人电脑（如配备RTX 3060或以上显卡）。对于COMP4670和COMP6710课程项目，约**65%**的模型训练需要集群级GPU资源【ANU CECS 2024，Course Resource Survey】。

参考资料

  • ANU Information Technology Services. 2024. High-Performance Computing Resource Allocation Report.
  • ANU College of Engineering, Computing and Cybernetics. 2024. Course Resource Allocation Report.
  • ANU Information Technology Services. 2024. Monthly GPU Utilization Report (August 2024).
  • ANU College of Engineering, Computing and Cybernetics. 2024. GPU Benchmark Report (V100 vs A100 vs RTX 4090).
  • UNILINK Education. 2024. ANU Computing Resource Access Guide (Internal Database).