Un mundo.Computación conectada.

OCT es una nube GPU bare metal. Alquilamos servidores GPU y clústeres NVIDIA dedicados con contratos de 36 a 60 meses, construidos según una especificación publicada, sometidos a burn-in antes de la entrega y gestionados bajo compromisos operativos por escrito.

Solicitar presupuesto Leer la especificación de entrega

Asignación abierta en Toronto: HGX B300
HBM3e por GPU: 270 GB
Red este-oeste por GPU: 800 Gb/s
Duración del contrato, una única tarifa fija: 36 a 60 meses

Dentro de un clúster de OCT

Un clúster completo para un solo cliente

Nuestro mayor diseño de referencia reúne 288 nodos HGX B300 en un único fabric no bloqueante optimizado por rails, con su propio almacenamiento, nodos de CPU y plano de control. Nada se comparte: sin otros inquilinos, sin hipervisor.

Nodos GPU: 288
GPU NVIDIA B300: 2.304
Carga de TI estimada, aproximadamente: 4,39 MW

Racks con dos vías de alimentación

Servidores HGX B300 refrigerados por aire, ubicados solo en instalaciones que se comprometen a ofrecer alimentación A y B en cada rack, un límite de potencia contractual por rack y la refrigeración necesaria para mantenerlo. Planificamos unos 14 kW para cada nodo GPU.

Por nodo GPU, cifra de planificación: 14 kW
Vías de alimentación independientes por rack: 2
NVMe local por nodo, como mínimo: 9,2 TB

Ocho GPU, un dominio NVLink

Cada servidor alberga ocho GPU Blackwell Ultra con 270 GB de HBM3e cada una, unidas por NVLink de quinta generación a través de NVSwitch, y da a cada GPU su propio enlace de 800 Gb/s con el fabric del clúster.

HBM3e por servidor: 2,1 TB
NVLink por GPU: 1,8 TB/s
Ancho de banda del fabric por GPU: 800 Gb/s

Empiece con 64 nodos. Crezca hasta 288.

Tres tamaños de referencia comparten una misma especificación, de modo que un clúster crece sin necesidad de rediseño. Los clústeres más grandes se diseñan a medida y cada desviación queda numerada en su propuesta.

Cifra	64 nodos	128 nodos	288 nodos
GPU NVIDIA B300	512	1.024	2.304
Almacenamiento útil	512 TB	1.024 TB	2.304 TB
Carga de TI, aproximadamente	0,98 MW	1,95 MW	4,39 MW

Ver los clústeres de referencia

Clientes y socios

Empresas de IA, proveedores de nube GPU, operadores de centros de datos, operadores de telecomunicaciones y fabricantes de hardware con los que trabajamos.

Un solo operador, cuatro formas de trabajar con nosotros

Alquile los servidores, encárguenos la gestión del software que se ejecuta en ellos, aloje su hardware en las instalaciones de nuestros socios o deje que operemos un clúster de su propiedad y le encontremos clientes.

  Radiografía de un servidor HGX refrigerado por aire: ventiladores y unidades de almacenamiento en la parte delantera, la bandeja de ocho GPU en el interior y las tarjetas de red en la parte traseraFansNVMe drivesEight GPUs800 Gb/s per GPU
 
Servidores GPU y clústeresServidores NVIDIA completos y clústeres dedicados con contratos de 36, 48 o 60 meses, desde un único servidor HGX B300 hasta un clúster de 288 nodos con su propio fabric y almacenamiento.
 Explorar servidores GPUClústeres de GPU dedicados 
 Cuatro capas: servidores dedicados, el NVIDIA GPU Operator y el Network Operator, el plano de control de Kubernetes y sus cargas de trabajoYour workloadsKubernetescontrol planeGPU Operator,Network OperatorDedicatedGPU servers
 
Kubernetes gestionadoInstalamos Kubernetes en sus servidores dedicados con el NVIDIA GPU Operator y el Network Operator, y después lo operamos, lo actualizamos y lo monitorizamos. Slurm gestionado si su equipo lo prefiere.
 Cómo funciona Kubernetes gestionado 
 Sección de una sala de colocation: racks en una jaula privada, distribución eléctrica aérea, unidades de refrigeración y un colector de líquidoPower buswayPrivate cageCooling unitsLiquid manifold
 
Colocation y operacionesEspacio y potencia en centros de datos asociados, revendidos por kW en contratos plurianuales, con operaciones 24/7, manos remotas y monitorización para el hardware de su propiedad.
 Ver las dos modalidades de colocation 
 El modelo de operador: el hardware o el capital de un inversor pasa a las operaciones de OCT y de ahí a los clientes, y los informes vuelven en sentido inversoInvestorHardware or capitalOCT operationsDeploy, operate, contract, billCustomersReporting
 
Operaciones para inversores en GPUUsted es propietario de los servidores o los financia. Nosotros los desplegamos y los operamos, buscamos los clientes en nuestra cartera comercial, firmamos los contratos con ellos, les facturamos e informamos de lo que genera cada servidor.
 Cómo operamos el hardware de los inversores 
 

Servidores NVIDIA que desplegamos

Solo servidores completos: sistemas HGX de 8 GPU, racks de 72 GPU y servidores PCIe para inferencia y medios. Cada configuración se confirma en su propuesta.

Asignación abiertaBlackwell Ultra

NVIDIA HGX B300

Ocho GPU Blackwell Ultra con 270 GB de HBM3e cada una y 800 Gb/s de red por GPU, en alquiler como servidores completos o como clústeres dedicados, construidos según nuestra especificación de entrega publicada.

GPU por servidor: 8
Memoria por GPU: 270 GB HBM3e
FP4 por servidor: 108 PFLOPS densos
Red por GPU: 800 Gb/s

Servidores B300 Solicitar presupuesto

NVIDIA HGX B200 Blackwell 180 GB HBM3e por GPU, 8 por servidor, Asignación abierta
NVIDIA GB300 NVL72 Grace Blackwell Ultra 279 GB HBM3e por GPU, 72 por rack, Con reserva previa
NVIDIA Vera Rubin Rubin 288 GB HBM4 por GPU, 8 por servidor, Con reserva previa
NVIDIA RTX PRO 6000 Blackwell Blackwell 96 GB GDDR7 por GPU, 8 por servidor, Asignación abierta
NVIDIA L40S Ada Lovelace 48 GB GDDR6 por GPU, 8 por servidor, Bajo petición
NVIDIA GeForce RTX 5090 Blackwell 32 GB GDDR7 por GPU, 8 por servidor, Bajo petición
NVIDIA GeForce RTX 4090 Ada Lovelace 24 GB GDDR6X por GPU, 8 por servidor, Bajo petición
NVIDIA A100 80GB Ampere 80 GB HBM2e por GPU, 8 por servidor, Bajo petición
NVIDIA RTX A6000 Ampere 48 GB GDDR6 por GPU, 8 por servidor, Bajo petición
NVIDIA RTX 4000 Ada Generation Ada Lovelace 20 GB GDDR6 por GPU, 4 por servidor, Bajo petición
NVIDIA RTX A4000 Ampere 16 GB GDDR6 por GPU, 4 por servidor, Bajo petición

Probado antes de que reciba las llaves

Antes de la entrega, cada clúster supera la validación de hardware de NVIDIA para proveedores de inferencia (cinco pruebas, de HW-1 a HW-5) y usted recibe el informe de aceptación. Por eso no ofrecemos periodos de prueba: el burn-in es la prueba.

HW-1Rendimiento colectivo. Rendimiento de referencia de NCCL con nccl-tests, con operaciones colectivas aceleradas por SHARP donde el fabric las admite.
HW-2Todos los rails de red. Cada rail InfiniBand o RoCE se prueba con ib_write_bw.
HW-3GPUDirect y almacenamiento. Pruebas de humo de GPUDirect RDMA y del almacenamiento, incluidas la lectura y la escritura en NVMe.
HW-4NVLink y NVSwitch. Número de enlaces y ancho de banda de NVLink y NVSwitch, comprobados con nvbandwidth.
HW-5Prueba de carga sostenida de 24 horas. Una prueba de 24 horas con una carga de inferencia representativa y un límite de potencia constante.

burn-in hgx-b300 node 0172, 8 GPUs ilustrativo

HW-1 all_reduce_perf -b 8 -e 16G -f 2 -g 8 queuedrunningpass
HW-2 ib_write_bw, every rail queuedrunningpass
HW-3 ib_write_bw --use_cuda, NVMe read and write queuedrunningpass
HW-4 nvbandwidth queuedrunningpass
HW-5 24 h, inference load, power cap queuedrunningpass
acceptance report issued to customer

Tiempos de respuesta, por escrito

Nuestros compromisos operativos están por escrito, no se sobreentienden. Estos son los plazos que empiezan a correr cuando algo falla y el aviso que recibe antes de que toquemos algo que suponga un riesgo.

5 minCambios de inventario y de estado visibles para usted. Filtrado de DDoS activo.
15 minAcuse de recibo del incidente, responsable de incidentes asignado y operaciones de red movilizadas.
45 minLos ingenieros de la instalación o las manos remotas trabajan en el problema.
60 minUna actualización al menos cada hora mientras un incidente siga abierto.
7 díasUn informe posterior al incidente por escrito y un aviso con siete días de antelación para el mantenimiento de riesgo.

Dónde funcionan sus servidores

Capacidad en Canadá hoy, Delaware a continuación y Finlandia en desarrollo, dentro de una red de socios de 49 centros de datos en cuatro continentes. Identificamos cada centro de datos por su ciudad.

TorontoCanadá En servicio Servidores y clústeres NVIDIA HGX B300.
MontrealCanadá En servicio Servidores RTX PRO 6000 Blackwell y otros servidores de inferencia, con soporte de ingeniería in situ.
DelawareEstados Unidos En puesta en marcha Capacidad HGX B300 para clientes que necesitan su cómputo en Estados Unidos.
HelsinkiFinlandia En desarrollo Un emplazamiento brownfield de centro de datos, en desarrollo para futura capacidad en Europa.
Red de socios26 ciudades, 12 países 49 centros de datos Norteamérica, Europa, África y Australia, con al menos 313 MW de potencia.

Más demanda de la que podemos desplegar por nuestra cuenta

Nuestra cartera comercial reúne solicitudes de miles de servidores GPU. Inversores, propietarios de centros de datos e intermediarios trabajan con nosotros para atenderla.

Asociarse con OCT

Inversores en GPU y prestamistas Desplegamos, operamos y alquilamos los servidores que usted posee o financia. Le informamos sobre cada uno de ellos. Operación de su clúster
Propietarios de centros de datos y nuevos proveedores de nube GPU Aporte espacio y potencia, o bien hardware. Nosotros aportamos clientes, operaciones y contratos. Colocation y operaciones
Revendedores e intermediarios Paquetes de especificaciones, registro de oportunidades y un contacto designado para cada oportunidad que aporte. Revendedores e intermediarios

Díganos qué necesita ejecutar.

Indíquenos el hardware, el número de servidores, la duración del contrato y la fecha de inicio. Recibirá una propuesta por escrito basada en nuestra especificación de entrega.

Solicitar presupuesto Hablar con un ingeniero