一个世界，算力互联。

OCT 是裸金属 GPU 云服务商。我们出租专属 NVIDIA GPU 服务器与集群，合同期 36 至 60 个月，按公开的规格书构建，交付前完成老化测试，并按书面运维承诺运行。

获取报价阅读交付规格书

多伦多开放预订: HGX B300
每块 GPU 的 HBM3e: 270 GB
每块 GPU 的东西向网络: 800 Gb/s
合同期，单一固定费率: 36 至 60 个月

OCT 集群内部

整个集群只属于一位客户

我们最大的参考设计将 288 个 HGX B300 节点连接在同一个轨道优化的无阻塞集群网络上，并配备专属的存储、CPU 节点与控制平面。完全不共享：没有其他租户，也没有 hypervisor。

GPU 节点: 288
NVIDIA B300 GPU: 2,304
预估 IT 负载，约: 4.39 MW

机柜采用两条供电路径

风冷 HGX B300 服务器只部署在承诺提供以下条件的机房：每个机柜的 A/B 双路供电、合同约定的每个机柜功率上限，以及维持该上限所需的散热能力。我们按每个 GPU 节点约 14 kW 进行规划。

每个 GPU 节点（规划值）: 14 kW
每个机柜的独立供电路径: 2
每个节点的本地 NVMe，至少: 9.2 TB

八块 GPU，单个 NVLink 域

每台服务器配备八块 Blackwell Ultra GPU，每块 GPU 配备 270 GB HBM3e 显存。GPU 之间通过 NVSwitch 以第五代 NVLink 互联，每块 GPU 都有独立的 800 Gb/s 路径接入集群网络。

每台服务器的 HBM3e: 2.1 TB
每块 GPU 的 NVLink: 1.8 TB/s
每块 GPU 的集群网络带宽: 800 Gb/s

从 64 个节点起步。扩展到 288 个。

三种参考规模采用同一份规格，因此集群扩展时无需重新设计。更大的集群按需设计，所有偏差项都会在您的方案中逐项编号。

指标	64 个节点	128 个节点	288 个节点
NVIDIA B300 GPU	512	1,024	2,304
可用存储容量	512 TB	1,024 TB	2,304 TB
IT 负载，约	0.98 MW	1.95 MW	4.39 MW

查看参考集群

客户与合作伙伴

与我们合作的 AI 公司、GPU 云服务商、数据中心运营商、电信运营商及硬件制造商。

单一运营商，四种合作方式

租用服务器；由我们在服务器上运维软件；将硬件放置在我们合作伙伴的机房；或交由我们运营您自有的集群，并为它找到客户。

  风冷 HGX 服务器透视图：前方是风扇与硬盘，内部是八块 GPU 的托盘，后方是网卡FansNVMe drivesEight GPUs800 Gb/s per GPU
 
GPU 服务器与集群整台 NVIDIA 服务器与专属集群，合同期为 36、48 或 60 个月。规模从单台 HGX B300 服务器，到配备专属集群网络与存储的 288 节点集群。
 浏览 GPU 服务器专属 GPU 集群 
 四个层级：专属服务器、NVIDIA GPU Operator 与 Network Operator、Kubernetes 控制平面、您的工作负载Your workloadsKubernetescontrol planeGPU Operator,Network OperatorDedicatedGPU servers
 
托管 Kubernetes我们在您的专属服务器上安装 Kubernetes，搭配 NVIDIA GPU Operator 与 Network Operator，再负责运维、升级与监控。若您的团队偏好 Slurm，也可选择托管 Slurm。
 了解托管 Kubernetes 运作方式 
 主机托管机房的局部：私有笼位内的机柜、上方的配电设施、冷却设备与液冷歧管Power buswayPrivate cageCooling unitsLiquid manifold
 
主机托管与运维合作伙伴数据中心的空间与电力，以多年期合同按 kW 计价转售，并为您自有的硬件提供 7×24 小时运维、现场代操作与监控。
 查看两种主机托管方案 
 运营商模式：投资方的硬件或资金流入 OCT 的运维，再流向客户，报告则反向回流InvestorHardware or capitalOCT operationsDeploy, operate, contract, billCustomersReporting
 
为 GPU 投资方代运营您拥有服务器，或为服务器提供融资。我们负责部署与运维，从我们的需求储备中找到客户，与客户签约并开具账单，并报告每台服务器的收益。
 了解我们如何运营投资方硬件 
 

我们部署的 NVIDIA 服务器

只提供整台服务器：8-GPU HGX 系统、72-GPU 机柜，以及用于推理与媒体的 PCIe 服务器。每项配置都会在您的方案中确认。

开放预订Blackwell Ultra

NVIDIA HGX B300

八块 Blackwell Ultra GPU，每块 GPU 配备 270 GB HBM3e 显存和 800 Gb/s 网络。以整台服务器或专属集群形式出租，按我们公开的《交付规格书》构建。

每台服务器的 GPU 数: 8
每块 GPU 的显存: 270 GB HBM3e
每台服务器的 FP4 性能: 108 PFLOPS（稠密）
每块 GPU 的网络: 800 Gb/s

B300 服务器获取报价

NVIDIA HGX B200 Blackwell 180 GB HBM3e（每块 GPU），每台服务器 8 块，开放预订
NVIDIA GB300 NVL72 Grace Blackwell Ultra 279 GB HBM3e（每块 GPU），每个机柜 72 块，需提前预订
NVIDIA Vera Rubin Rubin 288 GB HBM4（每块 GPU），每台服务器 8 块，需提前预订
NVIDIA RTX PRO 6000 Blackwell Blackwell 96 GB GDDR7（每块 GPU），每台服务器 8 块，开放预订
NVIDIA L40S Ada Lovelace 48 GB GDDR6（每块 GPU），每台服务器 8 块，按需提供
NVIDIA GeForce RTX 5090 Blackwell 32 GB GDDR7（每块 GPU），每台服务器 8 块，按需提供
NVIDIA GeForce RTX 4090 Ada Lovelace 24 GB GDDR6X（每块 GPU），每台服务器 8 块，按需提供
NVIDIA A100 80GB Ampere 80 GB HBM2e（每块 GPU），每台服务器 8 块，按需提供
NVIDIA RTX A6000 Ampere 48 GB GDDR6（每块 GPU），每台服务器 8 块，按需提供
NVIDIA RTX 4000 Ada Generation Ada Lovelace 20 GB GDDR6（每块 GPU），每台服务器 4 块，按需提供
NVIDIA RTX A4000 Ampere 16 GB GDDR6（每块 GPU），每台服务器 4 块，按需提供

交到您手上之前，已完成测试

每个集群在交付前都会通过 NVIDIA 为推理服务提供商制定的硬件验证，共五项测试（HW-1 至 HW-5），您还会收到验收报告。这正是我们不提供试用的原因：老化测试本身就是证明。

HW-1集合通信吞吐量。以 nccl-tests 确认 NCCL 吞吐量达到基准值；集群网络支持时，同时启用 SHARP 加速的集合通信。
HW-2每条网络轨道。以 ib_write_bw 测试每条 InfiniBand 或 RoCE 轨道。
HW-3GPUDirect 与存储。GPUDirect RDMA 与存储的冒烟测试，包含 NVMe 读取与写入。
HW-4NVLink 与 NVSwitch。以 nvbandwidth 检查 NVLink 与 NVSwitch 的链路数量与带宽。
HW-524 小时持续负载测试。在持续功率上限下，以具有代表性的推理负载进行 24 小时持续负载测试。

burn-in hgx-b300 node 0172, 8 GPUs 示意

HW-1 all_reduce_perf -b 8 -e 16G -f 2 -g 8 queuedrunningpass
HW-2 ib_write_bw, every rail queuedrunningpass
HW-3 ib_write_bw --use_cuda, NVMe read and write queuedrunningpass
HW-4 nvbandwidth queuedrunningpass
HW-5 24 h, inference load, power cap queuedrunningpass
acceptance report issued to customer

响应时间，书面写明

我们的运维承诺以书面形式明确写出，而非默示。以下是出现问题时开始计时的时限，以及我们进行任何有风险的操作之前，您会收到的提前通知。

5 分钟资产清单和状态变更对您可见。DDoS 流量清洗生效。
15 分钟确认事件、指派事件指挥官、网络运维团队介入处理。
45 分钟机房工程人员或现场代操作人员着手处理问题。
60 分钟事件未关闭期间，至少每小时提供一次更新。
7 天提供书面复盘报告；高风险维护前提前七天通知。

您的服务器在哪里运行

目前的容量位于加拿大，接下来是特拉华州，芬兰则在开发中，均位于横跨四大洲、共 49 个数据中心的合作伙伴网络之内。我们以城市名称标示各数据中心。

多伦多加拿大运营中 NVIDIA HGX B300 服务器与集群。
蒙特利尔加拿大运营中 RTX PRO 6000 Blackwell 及其他推理服务器，并提供现场工程支持。
特拉华州美国即将上线为需要在美国境内获得算力的客户提供 HGX B300 容量。
赫尔辛基芬兰开发中一个正在开发的存量工业厂房站点，将改建为数据中心，提供未来在欧洲的容量。
合作伙伴网络26 座城市，12 个国家 49 个数据中心北美、欧洲、非洲与澳大利亚，电力至少 313 MW。

需求超过我们能自行部署的规模

我们的需求储备中有数千台 GPU 服务器的需求。投资方、数据中心业主和中介与我们合作，共同满足这些需求。

与 OCT 合作

GPU 投资方与融资方您拥有或融资的服务器，由我们部署、运营并出租，且逐台提供报告。集群代运营
数据中心业主与新兴 GPU 云服务商您提供空间与电力，或提供硬件。我们带来客户、运维与合同。主机托管与运维
经销商与中介规格资料包、商机报备，并为您带来的每笔商机提供指定联系人。经销商与中介

告诉我们您要运行什么。

请提供硬件、服务器数量、合同期与开始日期。您将收到以我们的《交付规格书》为基础的书面方案。

获取报价咨询工程师