NVIDIA H100 SXM 80GB
USD 203.573 天 · 1 批 · 1 GPU · 每块 GPU 80 GB
配置 3 天查看完整详情Location GPU / NVIDIA H100 SXM 80GB
H100 SXM 80 GB：为您的 Hopper 训练计划租用算力。
在 IteraGPU 租用 80 GB 的 H100 SXM，用于您为 Hopper 准备的微调或训练计划。为您的对比实验选择合适的时间周期，并以整批的价格获得完整预算。
低至 USD 203.573 天 · 1 批 · 1 GPU · 每块 GPU 80 GB
加密货币支付，无需 KYC。需要账户：名字、姓氏、邮箱和密码。无需 KYC 程序，也无需身份证件。
- 每批 GPU 数量
- 1
- 每块 GPU 的内存
- 80 Go
- 内存类型
- HBM3
- 可用批次
- 63
选择您的训练活动时长。
价格为整批的美元价；配置器中可选 1 至 10 批。总计为套餐单价乘以批数，不含自动续期。
在明确显存需求的前提下选择 Hopper
当您的计划面向兼容 Hopper 的软件栈，并且每张卡 80 GB 的显存符合您的显存预算时，就应选择 H100 SXM。对于微调，该预算包含基础模型和激活值；对于完整训练，还需加上梯度和优化器状态。因此，同一架构的需求会因所采用的方法而变化。
80 GB 可以为原本在更小配置上受限的微批次或序列留出空间，但您的方案必须确立这一余量。如果方案已经能在 Ampere 上运行且不超过 80 GB，那么 A100 SXM 值得在套餐上做一番比较。如果容量仍然不够，请考虑 141 GB 的 H200 SXM，而不是想当然地认为换一种精度就能在未经验证的情况下解决问题。
- 明确训练对象：仅适配器还是全部参数，以及它们对应的状态。
- 在选定这一 Hopper 配置之前，先检查 CUDA/PyTorch 版本和所需的扩展。
- 将该时间周期的预算与计划的预期结果进行比较，不要从 H100 这个名字推断出执行时间。
示例活动 · 7 天
用七天对比您的训练设置
1 批 H100 SXM 的租金为 USD 475.00，即 1 块 80 GB 的 GPU 使用 7 天。您的计划可以包含一份基准方案、若干兼容的微批次或精度变体，然后是指标对比和一次检查点恢复。在预订之前先确定优先测试项：套餐只定义一个时间周期，并不保证您的模型能完成多少个变体。
USD 475.00
7 天 · 1 批 · 1 GPU · 每块 GPU 80 GB
配置此 7 天套餐可根据您的负载进行比较的两个替代方案。
NVIDIA A100 SXM 80GB
USD 280.007 天 · 1 批 · 1 GPU · 每块 GPU 80 GB
当您的方案已经兼容 Ampere 时，可以比较另一款 80 GB 的显卡。套餐和您实验方案的结果决定取舍；相同的容量并不保证相同的行为或吞吐量。
配置 7 天查看完整详情NVIDIA H200 SXM 141GB
USD 640.007 天 · 1 批 · 1 GPU · 每块 GPU 141 GB
如果阻碍您的实验在 80 GB 内运行的是显存，而非精度的选择，那就转向研究一款 141 GB 的显卡。H200 仍需用您的软件和所选用时间周期的预算来验证。
配置 7 天查看完整详情直接用加密货币支付您的租用费用。
直接付款，无需预先充值，例如使用 Bitcoin 上的 BTC 或 Tron 上的 USDT。需要账户：名字、姓氏、邮箱和密码。无需 KYC 程序，也无需身份证件。
查看资产、网络和支付条件选择您的租赁方案：实用的解答。
为什么为微调计划选择 H100 SXM？
IteraGPU 的 H100 SXM 在单块 GPU 上提供 80 GB 的容量，适用于方案兼容 Hopper 的计划。当权重、激活值以及被训练参数的状态需要比更小显卡更多的空间时，它就是一个候选。必须对您的微调方法进行用量估算；GPU 的名字既不保证某个模型放得下，也不保证微调能改善您的指标。
我的研究周期内一批 H100 SXM 的价格是多少？
IteraGPU 提供 1 批 H100 SXM，含 1 块 80 GB 的 GPU：3 天 USD 203.57，7 天 USD 475.00，30 天 USD 1,690.00。这些是整段时间的批次价格。请选择一段包含您的测试、评估和结果导出的时长。直接用加密货币支付无需预先充值余额。
只要模型权重放得下，H100 SXM 的 80 GB 就够了吗？
不是。在 H100 SXM 上，和其他显卡一样，权重体积只是所需显存的一部分。训练还会使用激活值、梯度、优化器状态和临时分配。参数微调可以减少其中某些项目，但不会消除其他项目。在选定 80 GB 批次之前，请核实完整一步和评估阶段的峰值。
应该把 H100 SXM 与 A100 SXM 还是 H200 SXM 进行比较？
当您的方案不超过 80 GB 且能在 Ampere 上运行时，就比较 A100 SXM：此时决策取决于套餐和您的实验方案。当您希望在单块卡上获得更多显存时，就比较 H200 SXM，它有 141 GB 而非 80 GB。在 IteraGPU，这三款型号的每一批都含 1 块 GPU。这些特性中的任何一项都不足以断定某一型号在所有计划中都胜出。
您的方案 / 您的测量
准备一场可供比较的训练活动。
结合收敛评估精度
Hopper 支持 FP8 运算，但该格式要求配套的软件栈和模型。请先运行经过项目验证的 BF16 或 FP16，然后再考虑降低精度的变体。保持相同的评估样本，并监控损失、非有限值和最终指标。只有当实验仍能回答其核心问题时，更高的每秒步数才有价值。
让 80 GB 显存充分发挥作用而不破坏实验方案
逐步增大 microbatch，直到达到合理的内存余量，同时测量包含反向传播在内的单步耗时。梯度累积随后可用于构建更大的有效 batch，而无需将所有样本同时驻留内存。请记录这两个规模：它们对性能和参数更新的意义并不相同。
在开始长时间训练之前，请真正重新加载一次 checkpoint 并执行若干步。相比仅检查文件是否存在，这个测试能更早地暴露出优化器状态或学习率调度被遗漏的问题。
SXM、PCIe 还是更大显存？
请保留与 Hopper 兼容的 CUDA/PyTorch 构建，并检查你的注意力扩展。H100 PCIe 是单卡工作的合适对照，但不同硬件变体必须在你自己的负载上测量。如果主要瓶颈仍是显存容量，建议考察 H200。A100 SXM 同样有助于比较那些 kernel 和精度已在 Ampere 上正常运行的实验成本。
将租用与研究交付物对应起来
以三天为期，目标是得到一条 batch 爬坡曲线和一个可复用的 checkpoint。以七天为期，比较几组精心挑选的配置。以三十天为期，安排好重复实验和中间评估。下单时请注明时长、显卡数量和环境要求；用加密货币付款后点击「J’ai payé」。你的笔记可以在订单跟踪旁边保留每次试验的精确配方。
在此配置上准备您的首次试用
GPU 规格表描述的是一种能力。这些方法帮助您在自己的工作负载上确定输入、调优和目标校验结果。
您的活动，您的时长。
NVIDIA H100 SXM 80GB · USD 203.57 换 3 天 · 1 批 · 1 GPU · 每块 GPU 80 GB。