机柜里整卡发光的 GPU 服务器

解决方案 技术解决方案 GPU 算力

GPU 算力解决方案

异构算力 · 按需租用 · 机型齐全

GPU 服务器在售 18 款,覆盖 RTX 4090 到 H200。整卡独享不切分,部署在美国、日本与新加坡节点,30–60 分钟标准交付。

  • 整卡独享不切分
  • 单卡到 8 卡并行
  • RTX 4090 / 5090 / H100 / H200
  • 30–60 分钟标准交付

协助驱动与环境配置,30–60 分钟标准交付

容量阶梯:从单卡推理到八卡训练

按五个角色从单卡往上配。规格和月价以商品页为准。

单卡入门

US-DAL-GPU-4090x1-i9-14900K

Core i9-14900K·24C / 32T 96G 2TB NVMe Global BGP 1G / 不限流量

$799 /月起

选购

四卡起步

US-DAL-GPU-5090x4-75F3x2

EPYC 75F3 x 2·64C / 128T 512G 960GB SSD×2 + 8TB NVMe×2 Global BGP 10G / 不限流量

$1459 /月起

选购

八卡 RTX 4090

US-SEA-GPU-4090x8-7763x2

EPYC 7763 x 2·128C / 256T 512G 960GB SSD + 3.84TB NVMe Global BGP 1G / 不限流量

$3369 /月起

选购

八卡 H100

JP-TYO-GPU-H100x8-8460Yx2

Xeon Platinum 8460Y x 2·80C / 160T 2048G 19.2TB NVMe Global BGP 1G / 不限流量

$12229 /月起

选购

八卡 H200

JP-TYO-GPU-H200x8-8460Yx2

Xeon Platinum 8460Y x 2·80C / 160T 2048G 1.92TB NVMe×8 Global BGP 10G / 不限流量

$16129 /月起

选购

GPU 服务器在售 18 款,显卡 1 卡到 8 卡并行,内存 96G 至 2048G。部署地区包括美国达拉斯、西雅图、洛杉矶、弗吉尼亚阿什本、伊利诺伊芝加哥、日本东京与新加坡。

选型要点:算力项目先想清四件事

GPU 项目的瓶颈多在显存、数据供给、资源独占与机房电力上。

先看显存,再看算力

显存不足会导致模型无法加载,或只能压缩批大小。显存够用之后,再按耗时要求挑算力档位。

显存不够,再强的算力也用不上

数据供给要跟得上显卡

小文件随机读取对机械硬盘不友好,数据集建议放在 NVMe 上。CPU 线程数与内存也要同步配套。

显卡等数据,等于按满载付费

整卡独享,不做切分

方案提供物理 GPU 服务器,整卡独占,显存与算力不被其他任务分走。

跑出来的成绩不会被别人分走

电力与散热要跟得上显卡

高功耗显卡依赖机房的电力配额与散热。配额不够就加不上卡,散热不足会在长期满载时降频。

加了卡,成绩却上不去

哪些任务适合租用 GPU 服务器

从单卡推理到八卡训练,每种任务对应一种机型方向。

任务匹配

AI 推理服务

典型情况

在线并发请求对显存与耗时敏感,显存不够就只能压批大小。

怎么配

推荐单卡 RTX 4090,或四卡 RTX 5090 扛并发。先用真实模型确认显存够不够。

任务匹配

模型训练与微调

典型情况

依赖多卡互联、大内存与高速存储,周期长,一次中断会让排队时间白费。

怎么配

推荐八卡 RTX 4090,或八卡 H100。卡间互联、PCIe 通道和 CPU 线程要一起配套。

任务匹配

教学与算法实验

典型情况

课程与实验需要短周期算力,任务结束就不应继续占着机器。

怎么配

推荐单卡入门机型。月付用完即可释放,不必一次锁一年。

算力架构:从任务提交到机房供电

任务进入队列后按整卡独占分配。GPU 池按卡数并行,NVMe 负责供数,电力与温度决定能不能长期满载。

GPU 算力:从任务队列到整卡与 NVMe 训练和推理进入队列后,按整卡独占分配,并带上驱动与框架。GPU 池从单卡到八卡并行。NVMe 加载数据并写出结果。电力不够或温度过高时,加卡和满载都会受到限制。 任务 调度 GPU 池 数据 机房 调度 算力 电力 机房 推理任务在线并发 训练任务多卡长周期 转码渲染批量作业 显存不足模型装不进去 整卡调度不做切分 驱动环境交付后可装 框架环境常用运行时 任务队列按卡数分配 GPU 服务器物理整机 单卡到四卡推理与实验 八卡并行训练与仿真 电力不足无法继续加卡 数据集热数据 NVMe持续供数 结果输出Raid 保护 温度监测防止降频 功耗监测看电力配额 冗余电源风扇与空调 任务记录中断可回看
  • 任务与数据流
  • 电力配额不足则无法加卡
  • 驱动框架环境与存储保护

资源与设施规格

显卡、内存、存储、节点和机房条件逐项列明,便于按任务规模选机型。

  • 在售 18 款,部署地区包括美国达拉斯、西雅图、洛杉矶、弗吉尼亚阿什本、伊利诺伊芝加哥、日本东京与新加坡
  • 未列出的显卡数量与型号、CPU、内存、硬盘、防御与 IPv4 均可按需配置
显卡
覆盖 RTX 4090、RTX 5090、H100 与 H200。单卡到 8 卡并行,整卡独享,不做虚拟化切分。
处理器与内存
内存从 96G 到 2048G。多卡并行时,CPU 线程数要和 PCIe 通道、卡数一起配套。
存储
硬盘以 NVMe 与 SSD 为主,容量最高 19.2TB,可配 Raid 阵列。热数据不要放在机械盘上。
节点
美国达拉斯、西雅图、洛杉矶、阿什本、芝加哥,以及日本东京、新加坡均有在售机型。
电力与散热
冗余电源、风扇与存储控制器,机房侧提供精密空调与电力,并持续监控电源与温度。
交付与环境
标准配置 30–60 分钟交付,定制配置 1–2 个工作日。协助安装显卡驱动与常用运行环境。

推荐 GPU 服务器配置

显卡、内存、硬盘和价格以商品页为准。在售机型覆盖单卡到 8 卡。

适用场景 / 机型 CPU 内存 硬盘 线路 带宽 防御 IPv4 参考价格 选购
US-DAL-GPU-4090x1-i9-14900K Core i9-14900K·24C / 32T 96G 2TB NVMe Global BGP 1G / 不限流量 10G 1 IP $799 /月起 选购
US-DAL-GPU-5090x4-75F3x2 EPYC 75F3 x 2·64C / 128T 512G 960GB SSD×2 + 8TB NVMe×2 Global BGP 10G / 不限流量 10G 1 IP $1459 /月起 选购
US-SEA-GPU-4090x8-7763x2 EPYC 7763 x 2·128C / 256T 512G 960GB SSD + 3.84TB NVMe Global BGP 1G / 不限流量 10G 1 IP $3369 /月起 选购
US-DAL-GPU-5090x8-9354x2 EPYC 9354 x 2·64C / 128T 1024G 960GB SSD×2 + 8TB NVMe×2 Global BGP 10G / 不限流量 10G 1 IP $4669 /月起 选购

整卡独享,不做虚拟化切分。显存不够是硬门槛,数据供给跟不上时 GPU 利用率会掉,账单仍按机器走。多卡并行还要看卡间互联、PCIe 通道和电力配额,加卡不一定等比例加速。

价格以商品页为准。季付 9.5 折、半年付 9 折、年付 8.5 折,续费同价。以 $799/月的单卡入门机型为例,年付 $8,149.8,比按月付的 $9,588 少 $1,438.2。未列出的显卡数量与型号、CPU、内存、硬盘、防御与 IPv4 可按需配置。

任务怎么配:从推理到八卡训练

每种任务先看自己的硬门槛,再对机型方向。具体卡数以商品页为准。

任务 先看什么 机型方向
AI 推理服务 在线并发对显存和耗时敏感 单卡 RTX 4090,或四卡 RTX 5090
模型训练与微调 多卡互联、大内存、NVMe 八卡 RTX 4090,或八卡 H100
视频转码与渲染 大显存配合多核处理器 八卡 RTX 4090,内存 512G 以上
图形工作站与虚拟桌面 GPU 加速,并且能远程连接 四卡或八卡 RTX 5090
科学计算与仿真 内存与存储吞吐,以及电力配额 H100 或 H200 八卡,内存可到 2048G
教学与算法实验 短周期,结束就要释放 单卡入门,月付用完即释放

多卡并行不只是把卡插满。机箱空间、供电、卡间互联和 PCIe 通道没配套时,加卡不一定等比例加速。热数据放 NVMe。可以先申请测试机,用真实模型和数据集确认显存、迭代速度和数据加载。

方案能力矩阵

显卡只是一环。资源独占、存储供给与机房条件同样决定产出。

算力从机房射向任务所在的地区

从独享到机房,逐项交付

物理 GPU 服务器整卡独占,不做切分。显卡型号、数量、CPU、内存和硬盘都按在售规格说明。热数据放 NVMe,可配 Raid。月付到年付都能选,任务结束即可释放。机房有冗余电源和精密空调,并看住电源与温度。

提供物理 GPU 服务器,整卡独占不做虚拟化切分,显存与算力不被其他任务占用。

对算力项目的意义: 实测性能不打折,跑分可复现。

显卡型号与数量、CPU 核心线程数、内存与硬盘规格以在售机型为准。

对算力项目的意义: 下单前就知道卡型和卡数。

硬盘以 NVMe 与 SSD 为主,容量最高 19.2TB,可配 Raid 阵列。

对算力项目的意义: 数据供给不拖累显卡。

月付、季付、半年付与年付可选,任务结束即可释放资源。

对算力项目的意义: 按项目周期租,不用一次锁一年。

冗余电源与风扇、精密空调散热,并持续监控电源与温度状态。

对算力项目的意义: 长期满载时不容易因散热降频。

服务保障

训练任务动辄跑上几天。硬件与运维的一次中断,会让排队时间白费。

工作日 30 分钟内首次响应

夜间及周末仅处理宕机。任务中断与硬件异常有人跟进。

30–60 分钟标准交付

标准配置 30–60 分钟交付,交付后即可部署环境。定制配置 1–2 个工作日。

环境协助配置

协助安装显卡驱动与常用运行环境,省掉最耗时的环境排错。

数据冗余存储

SSD Raid 冗余阵列。单块硬盘故障,不至于把整机数据一起带走。

99.9% SLA 目标

网络可用性以 99.9% 为服务目标。

弹性升级

显卡数量、内存、硬盘与带宽均可随项目阶段调整。

说说你的算力需求,我们给出显卡与配置建议

任务类型、模型规模、数据集大小、预计运行周期与并发量。把这些告诉方案顾问,我们会给出机型、配套配置和报价。

  • 按任务类型输出显卡型号与配套配置建议
  • 整卡独享不切分,显卡型号与数量按任务规模选配
  • 协助驱动安装与运行环境配置
  • 工作日 30 分钟内首次响应,机型与配置可调整

常见问题

先看显存够不够,再看算力。显存不足会导致模型无法加载,或只能压缩批大小,这是硬门槛。显存够用后,再按耗时或迭代速度挑档位。

提供的是物理 GPU 服务器,整卡独占,不做虚拟化切分。显存与算力不会被其他租户分走。

多卡并行不只是把卡插满。机箱空间与供电要承载多张全高双宽显卡,卡间互联与 PCIe 通道数影响效率。这几项没配套,加卡不一定带来等比例的加速。电力配额不够时,也无法继续加卡。

会。训练中数据加载是持续行为,小文件随机读取对机械硬盘不友好。数据供给跟不上显卡时,GPU 利用率会明显下降,账单却按机器走。热数据建议放在 NVMe 上。

设备部署在专业机房,配备冗余电源、风扇与存储控制器。机房侧提供精密空调与电力,并持续监控电源与温度,降低散热不足导致降频的风险。

月付适合短周期、强峰值的需求,例如模型调参与对比实验,用完即可释放。长期在线推理或持续训练可选季付、半年付或年付。季付 9.5 折、半年付 9 折、年付 8.5 折,续费同价。

可以先申请测试机,用真实模型与数据集确认三件事:显存是否够用,迭代速度是否达标,数据加载是否成为瓶颈。

标准配置 30–60 分钟内交付,交付后即可部署环境。定制配置 1–2 个工作日。我们可以协助安装显卡驱动和常用运行环境。

价格以商品页为准。季付 9.5 折、半年付 9 折、年付 8.5 折,续费同价。以 $799/月的单卡入门机型为例,年付 $8,149.8,比按月付的 $9,588 少 $1,438.2。

可以。显卡数量、内存、硬盘与带宽都可随项目阶段调整。加卡前要确认机箱、供电、PCIe 通道和电力配额配套,否则不一定等比例加速。