搜 GPU 服务器的人，经常把云上的一张卡和独立服务器里的八卡箱子当成同一类商品。云上的 GPU 适合试模型、短任务和按小时伸缩；独立服务器上的 GPU，也就是带显卡的物理机，适合把卡、本地盘和固定带宽绑在一起，连续跑几天的训练、渲染或推理。先问这张卡要连着跑多久，再问它该放在达拉斯还是东京。
单卡入门看达拉斯的 US-DAL-GPU-4090x1-i9-14900K，适合渲染、单路推理和要把一张消费级卡跑满的任务。四卡 US-DAL-GPU-5090x4-75F3x2 开始进入要多卡通信的训练或批量推理。八卡 H100 在达拉斯有 US-DAL-GPU-H100x8-8462Yx2，西雅图、弗吉尼亚也有同级箱子；东京则有 JP-TYO-GPU-H100x8-8460Yx2。卡数和代数写在型号里，供电、网络和磁盘要在下单时单独对一遍，不能只看“有 H100”。
达拉斯、西雅图、东京不是同一张训练网
达拉斯在北美中部，去往美东、美西和对象存储都比较均衡，适合数据集已经在美国、团队主要用英文工具链的训练。西雅图更靠近北美西北和跨太平洋出口，适合数据要从亚太拉回来、又要在美国训练的流程。东京的 H100 / H200 箱子给的是东亚侧的本地推理和要低时延的日韩用户，而不是更便宜的美国卡时。把达拉斯的八卡训练结果，再在东京放一套推理，比把八卡训练硬放到东京更常见。训练看的是数据集和卡时，推理看的是用户在哪。
消费级 4090 / 5090 和数据中心 H100 也不能互相比价。4090 适合渲染、单卡微调和吞吐不那么敏感的推理；H100 适合要 NVLink 或同类高速互联的大模型训练。用八张 4090 去模仿 H100 的互联，看起来卡数不少，梯度同步却会先卡在 PCIe 和主板拓扑上。反过来，用 H100 跑单路 4K 渲染，月费会浪费在用不上的张量单元上。先写任务类型，再写卡名。
GPU 独立服务器先验收电和盘，再验收 CUDA
GPU 物理机最常见的交付事故，不是驱动没装好，而是电和磁盘按普通独立服务器来验。八卡箱子的功耗和散热是整柜问题，不是单机问题。下单要确认机柜供电、是否允许把八卡同时打满，以及邻居柜会不会被你的发热影响。数据集如果还在对象存储上，训练启动后的第一小时往往在拉盘，不在算力。本地 NVMe 或足够的缓存盘，比再加一张卡更先决定第一个 epoch 要多久。
网络也要按任务拆。训练节点之间要的是机房内或同城的大带宽，不是面向访客的 BGP。推理节点要的是到用户的时延，不是卡间互联。把训练和推理开在同一台八卡机器上，看起来省了一台月费，升级框架或重启驱动时会一起停。单卡 4090 可以训练和推理共用；四卡以上建议把推理拆出去，哪怕推理只用一张卡。
不要用 GPU 箱子去补普通独立服务器
站点、订单库和站群仍然应该留在普通独立服务器上。GPU 机器的地址、防御和线路，通常不是为站点访问设计的。把店铺放在达拉斯八卡箱子上，等于用训练机的月费去买一台并不更近的网站。需要普通计算时，回硅谷或洛杉矶的 E5 / EPYC 独立服务器；需要东亚页面时，回香港或东京的普通型号。GPU 独立服务器只回答一件事：这张卡要连续跑多久、数据和用户分别在哪。
单卡 4090 适合一个人把渲染或推理跑满；四卡以上要写清卡间拓扑和是否需要 NVLink 一类互联。八卡 H100 的月费高，空转一天比普通独立服务器空转一个月更贵。任务不连续时，不要提前把八卡箱子按“以后可能用到”租满。达拉斯还有多档 4090 八卡和 5090 八卡，卡名接近时仍要看 CPU 和供电后缀，不能只按卡数下单。
数据集在美国、用户在日本时，常见做法是达拉斯训练、东京推理，而不是把训练迁到东京去迁就推理。权重发布是一次性或低频的，用户请求是持续的。把持续的那一端放近用户，把重的那一端放近数据。需要普通独立服务器承接站点时，回到硅谷、洛杉矶或香港的非 GPU 型号，不要占用 GPU 箱子的地址和端口。下单前用一句话写清：训练还是推理、数据集在哪、用户在哪、卡要连续跑几天。四个问题答完，达拉斯还是东京、4090 还是 H100，通常就已经能定下来。