Capabilitate | Infrastructură AI
Platforme GPU pentru antrenare și inferență la scară.
Antrenarea la scară pune presiune simultan pe trei lucruri care rareori sunt planificate împreună: rețeaua de sincronizare a gradienților, densitatea de putere pe rack și traseul termic. Le proiectăm ca un singur lanț, aliniat la arhitecturile de referință ale platformei, cu un traseu de operare clar de la Day 0 la Day 2.
Ce acoperă
- Platforme GPU
- HGX / DGX H100–H200 și clasă Blackwell NVL72, scalare NVLink / NVSwitch
- Rețea de antrenare
- 400G InfiniBand / Spectrum-X Ethernet, optimizată pe rail, RDMA pentru sincronizarea gradienților
- Densitate & putere
- Rack-uri de 40–120 kW cu răcire direct-pe-cip și lanț de alimentare adaptate
- Orchestrare
- Kubernetes + GPU Operator, Slurm, Run:ai — cu partiționare MIG
- Servire & MLOps
- Endpoint-uri de inferență, autoscalare, observabilitate DCGM / Grafana
- Aliniat la RA
- Construit conform NVIDIA Enterprise RA cu traseu de operare Day 0 / 1 / 2
Din practica programelor naționale
Dincolo de platformă: disciplinele care duc o mașină AI de la arhitectura de referință la un serviciu deschis și validat. Aceeași practică stă la baza dosarului nostru de inginerie pentru DEUS 11, un program de supercalcul la scară națională, la Cluj-Napoca.
- Ecosistem dual
- Stack-uri de acceleratoare — proprietar & deschis — planificate în paralel; coduri comerciale rutate, coduri deschise validate pe stack-ul alternativ
- Proiectare partiții
- Antrenare & inferență ca partiții distincte — profiluri hardware & politici de planificare separate pe rol
- Poartă de validare
- Trasee de stocare & I/O dovedite sub antrenare & simulare la scară de producție — înainte de deschiderea partiției
- Modele fundaționale
- Infrastructură de antrenare pentru modele fundaționale europene, sectoriale — cerințe de corpus & checkpointing duse până în fabric
- Economia serviciului
- Economia mașinii proiectată din start — recuperarea costurilor & accesul la piață planificate înainte de go-live