Un monde.Une puissance de calcul connectée.

OCT est un cloud GPU bare metal. Nous louons des serveurs et des clusters GPU NVIDIA dédiés, avec un engagement de 36 à 60 mois. Ils sont construits selon une spécification publiée, soumis au déverminage avant la mise à disposition et exploités selon des engagements d'exploitation écrits.

Allocations ouvertes à Toronto
HGX B300
HBM3e par GPU
270 Go
Réseau est-ouest par GPU
800 Gbit/s
Durée d'engagement, un tarif fixe unique
36 à 60 mois

Au cœur d'un cluster OCT

Un cluster entier pour un seul client

Notre plus grande architecture de référence réunit 288 nœuds HGX B300 sur un seul réseau d'interconnexion non bloquant, optimisé par rails, avec son propre stockage, ses nœuds CPU et son plan de contrôle. Rien n'est partagé : aucun autre locataire, aucun hyperviseur.

Nœuds GPU
288
GPU NVIDIA B300
2 304
Charge informatique estimée, environ
4,39 MW

Des baies sur deux voies d'alimentation

Des serveurs HGX B300 refroidis par air, installés uniquement dans des sites qui s'engagent à fournir une alimentation A et B à chaque baie, une limite de puissance contractuelle par baie et le refroidissement nécessaire pour la tenir. Nous prévoyons environ 14 kW par nœud GPU.

Par nœud GPU, valeur prévisionnelle
14 kW
Voies d'alimentation indépendantes par baie
2
NVMe local par nœud, au moins
9,2 To

Huit GPU, un seul domaine NVLink

Chaque serveur accueille huit GPU Blackwell Ultra dotés chacun de 270 Go de HBM3e, reliés par NVLink de cinquième génération via NVSwitch, et offre à chaque GPU sa propre liaison de 800 Gbit/s vers le réseau d'interconnexion du cluster.

HBM3e par serveur
2,1 To
NVLink par GPU
1,8 To/s
Bande passante du réseau d'interconnexion par GPU
800 Gbit/s

Commencez à 64 nœuds. Évoluez jusqu'à 288.

Trois tailles de référence partagent une même spécification : un cluster peut donc s'agrandir sans être repensé. Les clusters plus grands sont conçus sur mesure, et chaque écart est numéroté dans votre proposition.

Indicateur64 nœuds128 nœuds288 nœuds
GPU NVIDIA B3005121 0242 304
Stockage utile512 To1 024 To2 304 To
Charge informatique, environ0,98 MW1,95 MW4,39 MW

Clients et partenaires

Les entreprises d'IA, fournisseurs de cloud GPU, exploitants de centres de données, opérateurs de télécommunications et fabricants de matériel avec qui nous travaillons.

  • Akash Network
  • Vast.ai
  • Viggle AI
  • Dell Technologies
  • AudioShake
  • DDN
  • WEKA
  • Hewlett Packard Enterprise
  • Massed Compute
  • Compute Exchange
  • Zayo
  • Supermicro
  • Cogent
  • eStruxture Data Centers
  • Enovum Data Centers
  • Lenovo
  • CloudRift
  • Cocoon
  • Skyportal
  • Cisco
  • GenAI Works
  • DVEO
  • Computer Modules
  • ASUS
  • WiseDV
  • ISS Intelligent Security Systems
  • Templus
  • GIGABYTE
  • UK Servers
  • Glide
  • Inflect
  • Aivres
  • PodWarden
  • Ignite
  • Dacentec
  • AMAX

Un seul exploitant, quatre façons de travailler avec nous

Louez les serveurs, confiez-nous l'exploitation des logiciels qui y tournent, installez du matériel dans nos centres de données partenaires, ou laissez-nous exploiter un cluster qui vous appartient et le remplir de clients.

Serveurs et clusters GPU

Des serveurs NVIDIA complets et des clusters dédiés, avec des engagements de 36, 48 ou 60 mois, d'un seul serveur HGX B300 à un cluster de 288 nœuds doté de son propre réseau d'interconnexion et de son propre stockage.

Kubernetes géré

Nous installons Kubernetes sur vos serveurs dédiés avec le GPU Operator et le Network Operator de NVIDIA, puis nous l'exploitons, le mettons à niveau et le surveillons. Ou Slurm géré, si votre équipe le préfère.

Colocation et exploitation

De l'espace et de la puissance électrique dans des centres de données partenaires, revendus au kW dans le cadre d'engagements pluriannuels, avec exploitation 24 h/24, 7 j/7, intervention sur site et surveillance pour le matériel qui vous appartient.

Exploitation pour les investisseurs en GPU

Vous possédez ou financez les serveurs. Nous les déployons et les exploitons, trouvons les clients dans notre portefeuille de demandes, concluons les contrats avec eux, les facturons et vous indiquons ce que rapporte chaque serveur.

Les serveurs NVIDIA que nous déployons

Uniquement des serveurs complets : systèmes HGX à 8 GPU, baies de 72 GPU et serveurs PCIe pour l'inférence et les médias. Chaque configuration est confirmée dans votre proposition.

Allocations ouvertesBlackwell Ultra

NVIDIA HGX B300

Huit GPU Blackwell Ultra dotés chacun de 270 Go de HBM3e et de 800 Gbit/s de réseau par GPU, loués en serveurs complets ou en clusters dédiés, construits selon notre spécification de livraison publiée.

GPU par serveur
8
Mémoire par GPU
270 Go HBM3e
FP4 par serveur
108 PFLOPS en dense
Réseau par GPU
800 Gbit/s

Testés avant la remise des clés

Avant la mise à disposition, chaque cluster réussit la validation matérielle de NVIDIA pour les fournisseurs d'inférence, soit cinq tests de HW-1 à HW-5, et vous recevez le rapport de réception. C'est pourquoi nous ne proposons pas d'essais : le déverminage tient lieu de preuve.

  1. HW-1Débit des opérations collectives. Débit NCCL de référence mesuré avec nccl-tests, avec des opérations collectives accélérées par SHARP lorsque le réseau d'interconnexion les prend en charge.
  2. HW-2Chaque rail réseau. Chaque rail InfiniBand ou RoCE est testé avec ib_write_bw.
  3. HW-3GPUDirect et stockage. Tests de fumée GPUDirect RDMA et de stockage, y compris en lecture et en écriture NVMe.
  4. HW-4NVLink et NVSwitch. Nombre de liens NVLink et NVSwitch et bande passante vérifiés avec nvbandwidth.
  5. HW-5Test d'endurance de 24 heures. Un test d'endurance de 24 heures sous une charge d'inférence représentative, avec un plafond de puissance maintenu.
burn-in hgx-b300 node 0172, 8 GPUs à titre d'illustration
  1. HW-1 all_reduce_perf -b 8 -e 16G -f 2 -g 8 queuedrunningpass
  2. HW-2 ib_write_bw, every rail queuedrunningpass
  3. HW-3 ib_write_bw --use_cuda, NVMe read and write queuedrunningpass
  4. HW-4 nvbandwidth queuedrunningpass
  5. HW-5 24 h, inference load, power cap queuedrunningpass
  6. acceptance report issued to customer

Des délais de réponse, par écrit

Nos engagements d'exploitation sont écrits, pas sous-entendus. Voici les chronomètres qui se déclenchent dès qu'un problème survient, et le préavis que vous recevez avant toute intervention à risque.

  1. 5 minInventaire et changements d'état visibles de votre côté. Filtrage anti-DDoS actif.
  2. 15 minAccusé de réception de l'incident, responsable de l'incident désigné, équipe d'exploitation réseau mobilisée.
  3. 45 minL'équipe technique du site ou les techniciens sur site travaillent sur le problème.
  4. 60 minUne mise à jour au moins toutes les heures tant qu'un incident est ouvert.
  5. 7 joursUn rapport post-incident écrit, et un préavis de sept jours avant toute maintenance à risque.

Où fonctionnent vos serveurs

De la capacité au Canada aujourd'hui, puis au Delaware, et en développement en Finlande, au sein d'un réseau de 49 centres de données partenaires sur quatre continents. Nous désignons les centres de données par leur ville.

  • TorontoCanada En service Serveurs et clusters NVIDIA HGX B300.
  • MontréalCanada En service Serveurs RTX PRO 6000 Blackwell et autres serveurs d'inférence, avec assistance technique sur site.
  • DelawareÉtats-Unis En cours de mise en service Capacité HGX B300 pour les clients qui ont besoin que leurs calculs s'exécutent aux États-Unis.
  • HelsinkiFinlande En développement Un site industriel à reconvertir en centre de données, en développement pour de la capacité future en Europe.
  • Réseau de partenaires26 villes, 12 pays 49 centres de données Amérique du Nord, Europe, Afrique et Australie, avec au moins 313 MW de puissance.

Une demande qui dépasse ce que nous pouvons déployer seuls

Notre portefeuille de demandes porte sur des milliers de serveurs GPU. Investisseurs, propriétaires de centres de données et courtiers travaillent avec nous pour y répondre.

Dites-nous ce que vous devez exécuter.

Indiquez-nous le matériel, le nombre de serveurs, la durée d'engagement et la date de début. Vous recevez une proposition écrite fondée sur notre spécification de livraison.