NVIDIA HGX vormt de basis van veel van de krachtigste AI-servers die momenteel in datacenters worden ingeze!

Anders dan NVIDIA DGX, dat als compleet NVIDIA-systeem wordt aangeboden, wordt het NVIDIA HGX-platform door verschillende serverfabrikanten geïntegreerd in hun eigen AI- en HPC-systemen.

Dell Technologies, HPE, Lenovo, Supermicro, Cisco, GIGABYTE en andere fabrikanten bouwen servers rond NVIDIA HGX-platforms zoals HGX H100, HGX H200, HGX B200 en HGX B300.

Deze high-density AI-systemen stellen uitzonderlijk hoge eisen aan de stroomvoorziening in het rack. Het aantal voedingen, de vermogensvraag, aansluitingen, redundantie en gewenste stroomverdeling kunnen bovendien per server en configuratie verschillen.

Schleifenbauer ontwerpt en produceert build-to-order Rack PDUs voor NVIDIA HGX-based servers, ongeacht de serverfabrikant. De PDU wordt afgestemd op het daadwerkelijke servermodel, de power supplies, A/B-redundantie, rackindeling en elektrische infrastructuur van het datacenter.

Wat is NVIDIA HGX?

NVIDIA HGX is een platform voor accelerated computing waarop serverfabrikanten complete AI-systemen kunnen ontwikkelen. HGX combineert meerdere NVIDIA SXM GPU’s met onder andere NVLink- en NVSwitch-technologie voor zeer snelle communicatie tussen GPU’s.

Hierdoor kan dezelfde NVIDIA HGX-technologie voorkomen in servers van verschillende fabrikanten.

Voorbeelden zijn:

Fabrikant	Voorbeelden van HGX-systemen	NVIDIA-platform
Dell Technologies	PowerEdge XE9680	HGX H100 / H200
Dell Technologies	PowerEdge XE9680L, XE9780	HGX B200
HPE	Cray XD670	HGX H100 / H200
HPE	Compute XD690	HGX B300
Lenovo	ThinkSystem SR680a V3	HGX H100 / H200 / B200
Lenovo	ThinkSystem SR780a V3	HGX H100 / H200 / B200
Lenovo	ThinkSystem SR680a V4	HGX B300
Supermicro	Diverse GPU SuperServer-systemen	HGX H100 / H200 / B200 / B300
Cisco	UCS C885A M8	HGX H100 / H200
Cisco	UCS C880A M8	HGX B300
GIGABYTE	G593-, G893-, G894- en G4L4-series	HGX H200 / B200 / B300

Daarnaast zijn er NVIDIA-Certified HGX-systemen van onder andere ASUS, Eviden, Inventec, Pegatron, QCT, Wistron en andere serverfabrikanten.

De exacte beschikbare configuraties veranderen naarmate nieuwe generaties GPU’s en servers worden geïntroduceerd. Daarom kijkt Schleifenbauer bij het configureren van een PDU altijd naar het daadwerkelijke servermodel en de elektrische specificaties daarvan.

Waarom HGX AI-servers andere eisen stellen aan een Rack PDU

Een moderne HGX-server kan een zeer hoge vermogensvraag binnen slechts enkele rack units concentreren. Daarnaast beschikken deze systemen vaak over meerdere high-power, redundante power supplies.

Dat verandert de rol van de Rack PDU.

Bij traditionele IT-infrastructuur wordt de PDU voornamelijk gekozen op basis van de totale rackbelasting en het benodigde aantal outlets. Bij high-density AI-infrastructuur moeten veel meer factoren gezamenlijk worden bekeken:

• maximaal en verwacht vermogen per server;
• aantal power supplies;
• type voedingsaansluiting;
• A/B-feed en redundantie;
• verdeling van de belasting over fasen;
• aantal HGX-systemen per rack;
• beschikbare 3-fase voeding;
• beveiliging per circuit;
• kabelmanagement en beschikbare ruimte;
• input-, branch- en outlet-level monitoring;
• toekomstige uitbreiding van het AI-rack.

Daarom bestaat er niet één universele PDU voor alle NVIDIA HGX-systemen.

De juiste PDU wordt bepaald door de complete server- en rackconfiguratie.

Direct een PDU offerte aanvragen

PDU voor Dell PowerEdge met NVIDIA HGX

Dell Technologies gebruikt NVIDIA HGX onder andere binnen de PowerEdge XE-serie.

De NVIDIA-Certified systemen omvatten bijvoorbeeld de Dell PowerEdge XE9680 met HGX H100 of H200 en de Dell PowerEdge XE9680L en XE9780 met HGX B200.

Bij dergelijke systemen kan Schleifenbauer de Rack PDU configureren op basis van onder andere:

• het exacte PowerEdge-model;
• het aantal en vermogen van de power supplies;
• de benodigde C19/C20-aansluitingen;
• A/B power feeds;
• 3-fase stroomverdeling;
• gewenste redundantie;
• monitoring per input, branch of outlet.

Hierdoor kan de stroomverdeling specifiek worden ontworpen voor een Dell AI-server in plaats van de serverconfiguratie aan te passen aan een standaard PDU.

PDU voor HPE NVIDIA HGX-systemen

Ook HPE biedt verschillende high-density AI-systemen gebaseerd op NVIDIA HGX.

Voorbeelden zijn systemen uit de HPE Cray- en Compute-series met HGX H100, H200, B200 en B300.

Een systeem zoals de HPE Compute XD690 met NVIDIA HGX B300 illustreert hoe groot de vermogensdichtheid van moderne AI-hardware kan worden. Afhankelijk van het systeem kunnen meerdere high-power voedingen nodig zijn om één enkele AI-server redundant van stroom te voorzien.

Schleifenbauer kan hiervoor een PDU-oplossing ontwikkelen die aansluit op de elektrische infrastructuur van het datacenter, het aantal voedingen, de rackindeling en de gewenste A/B-redundantie.

PDU voor Lenovo ThinkSystem met NVIDIA HGX

Lenovo gebruikt NVIDIA HGX binnen verschillende ThinkSystem GPU-servers.

Voorbeelden zijn:

• Lenovo ThinkSystem SR680a V3 met HGX H100, H200 of B200;
• Lenovo ThinkSystem SR780a V3 met HGX H100, H200 of B200;
• Lenovo ThinkSystem SR680a V4 met HGX B300.

Een ThinkSystem SR680a V3 met B200 kan bijvoorbeeld worden uitgevoerd met acht redundante hot-swappable power supplies. Dit laat zien waarom niet alleen het totale vermogen belangrijk is, maar ook het aantal fysieke aansluitingen en de verdeling daarvan over redundante feeds.

Een Schleifenbauer PDU kan specifiek worden geconfigureerd voor deze serverarchitectuur en de beschikbare stroomvoorziening in het rack.

PDU voor Supermicro NVIDIA HGX GPU-servers

Supermicro heeft een uitgebreid portfolio high-density GPU-servers en ondersteunt meerdere generaties NVIDIA HGX.

NVIDIA-Certified configuraties omvatten Supermicro-systemen voor HGX H100, H200, B200 en B300.

Voor AI-datacenters die Supermicro-systemen gebruiken, kan Schleifenbauer de PDU afstemmen op de exacte SuperServer-configuratie, het aantal GPU-nodes per rack en de beschikbare elektrische infrastructuur.

Dit geldt zowel voor individuele AI-servers als voor racks waarin meerdere GPU-systemen gezamenlijk een zeer hoge vermogensdichtheid creëren.

Ook voor Cisco, GIGABYTE en andere HGX-serverfabrikanten

De PDU-oplossing is niet gekoppeld aan één servermerk.

Schleifenbauer kan Rack PDUs configureren voor HGX-based systemen van onder andere:

Dell Technologies, HPE, Lenovo, Supermicro, Cisco, GIGABYTE, ASUS, Eviden, Inventec, Pegatron, QCT en Wistron.

Staat jouw serverfabrikant of model hier niet tussen? Dat betekent niet dat Schleifenbauer hiervoor geen PDU kan leveren.

Aan de hand van de elektrische specificaties van de server en het rack kunnen onze engineers de benodigde PDU-configuratie bepalen.

Van HGX H100 en H200 naar B200 en B300

De ontwikkeling van AI-hardware gaat snel.

HGX H100 en H200 worden inmiddels aangevuld en opgevolgd door Blackwell-platforms zoals HGX B200 en Blackwell Ultra HGX B300. Tegelijkertijd neemt de vermogensdichtheid van AI-infrastructuur verder toe.

Dat betekent dat de stroominfrastructuur niet alleen moet worden ontworpen voor de huidige server, maar ook rekening moet houden met:

• hogere rackvermogens;
• meer high-power aansluitingen;
• hogere belasting per circuit;
• redundante power feeds;
• nauwkeurige energiemonitoring;
• schaalbaarheid naar toekomstige AI-hardware.

Een build-to-order PDU maakt het mogelijk de stroomverdeling af te stemmen op deze specifieke infrastructuur in plaats van te kiezen uit een beperkt aantal standaardmodellen.

32A en 63A 3-fase PDU’s voor high-density AI-racks

Voor high-density AI- en HPC-omgevingen kan Schleifenbauer onder andere 32A en 63A 3-fase Rack PDUs configureren.

Afhankelijk van de toepassing zijn verschillende aansluitingen, beveiligingen, outletconfiguraties en meetmogelijkheden beschikbaar.

De exacte configuratie wordt bepaald aan de hand van onder andere:

Servermodel → aantal power supplies → maximaal vermogen → redundantie → beschikbare rackvoeding → gewenste monitoring.

Hierdoor kan de PDU worden afgestemd op één specifieke HGX-server, meerdere servers in hetzelfde rack of een complete AI-clusterarchitectuur.

A/B-redundantie voor HGX-systemen

Beschikbaarheid is essentieel bij AI-training en HPC.

Wanneer een server over redundante power supplies beschikt, kunnen deze over afzonderlijke A- en B-feeds worden verdeeld. Daardoor kan de infrastructuur zo worden ontworpen dat het uitvallen van één voedingspad niet automatisch betekent dat de volledige server zonder stroom komt te staan.

Schleifenbauer kan PDU-configuraties ontwerpen waarbij rekening wordt gehouden met:

• A- en B-feed;
• PSU-verdeling;
• fasebalancering;
• circuitbelasting;
• redundantie;
• beschikbare capaciteit per PDU.

Bij het ontwerp wordt altijd uitgegaan van de daadwerkelijke server- en datacenterarchitectuur.

Energiemonitoring voor AI- en GPU-infrastructuur

Door de hoge vermogensdichtheid van HGX-systemen wordt inzicht in het energieverbruik steeds belangrijker.

Schleifenbauer PDU 5.0 is beschikbaar als:

• Basic PDU;
• Metered PDU;
• Monitored PDU;
• Switched PDU;
• Managed PDU.

Afhankelijk van de uitvoering kan energie worden gemeten op input-, branch- en outletniveau.

Hiermee kan bijvoorbeeld zichtbaar worden hoeveel vermogen een specifieke AI-server of voedingsgroep daadwerkelijk gebruikt en hoeveel capaciteit binnen het rack beschikbaar blijft.

HGX power monitoring met EnerTree DCEM

Intelligente Schleifenbauer PDU’s kunnen worden gecombineerd met EnerTree DCEM, Schleifenbauers Data Centre Energy Management-platform.

EnerTree maakt rack-level energiedata centraal inzichtelijk en ondersteunt het monitoren en analyseren van de energie-infrastructuur.

Dit is met name interessant voor AI- en HPC-omgevingen waar hoge rackvermogens het belangrijk maken om belasting, capaciteit en energieverbruik nauwkeurig te volgen.

EnerTree ondersteunt open integratie via onder andere REST API, SNMP, Modbus en Redfish.

De software wordt binnen de Schleifenbauer PDU-architectuur aangeboden zonder terugkerende softwarelicentiekosten en kan on-premises worden ingezet.

Build-to-order PDU in plaats van de server aanpassen aan de PDU

Een HGX-server vertegenwoordigt een aanzienlijke investering. De stroomvoorziening moet daarom aansluiten op de serverarchitectuur en niet andersom.

Schleifenbauer produceert Rack PDUs build-to-order in Nederland.

Daarbij kunnen onder andere worden afgestemd:

• 1-fase of 3-fase;
• 16A, 32A of 63A;
• aantal outlets;
• C13-, C19- en IEC Lock CX-aansluitingen;
• kabellengte;
• input connector;
• positie van de voedingskabel;
• beveiligingen;
• verticale 0U- of horizontale montage;
• input-, branch- en outlet-level metering;
• remote switching;
• communicatie en monitoring.

Hierdoor kan de PDU worden afgestemd op zowel de server als de volledige rackarchitectuur.

Welke PDU heb ik nodig voor mijn NVIDIA HGX-server?

Dat hangt af van het exacte systeem.

Een Dell PowerEdge met HGX B200 kan andere power supplies, aansluitingen en vermogenseisen hebben dan een Lenovo ThinkSystem, HPE Compute of Supermicro-server met hetzelfde NVIDIA HGX-platform.

Daarom zijn voor het selecteren van de juiste PDU bij voorkeur de volgende gegevens nodig:

1. serverfabrikant;
2. exact servermodel;
3. NVIDIA HGX-platform of GPU-configuratie;
4. aantal servers per rack;
5. aantal en type power supplies per server;
6. gewenste A/B-redundantie;
7. beschikbare rackvoeding;
8. gewenste energiemonitoring.

Op basis hiervan kan Schleifenbauer de PDU configureren die aansluit op de daadwerkelijke AI-infrastructuur.

Veelgestelde vragen over PDU’s voor NVIDIA HGX

Wat is het verschil tussen NVIDIA DGX en HGX?

NVIDIA DGX is een compleet AI-computingsysteem van NVIDIA. NVIDIA HGX is een accelerated computing-platform dat door verschillende serverfabrikanten wordt geïntegreerd in hun eigen AI-servers. Hierdoor zijn HGX-systemen verkrijgbaar van onder andere Dell Technologies, HPE, Lenovo, Supermicro, Cisco en GIGABYTE.

Welke serverfabrikanten gebruiken NVIDIA HGX?

NVIDIA HGX wordt gebruikt in servers van verschillende fabrikanten. NVIDIA-Certified HGX-systemen zijn onder andere beschikbaar van Dell Technologies, HPE, Lenovo, Supermicro, Cisco, GIGABYTE, ASUS, Eviden, Inventec, Pegatron, QCT en Wistron. Beschikbaarheid verschilt per HGX-generatie.

Welke PDU heb ik nodig voor NVIDIA HGX B200?

Er bestaat niet één universele PDU voor HGX B200. De juiste PDU is afhankelijk van de serverfabrikant, het servermodel, het aantal en type power supplies, de beschikbare netvoeding, A/B-redundantie en het aantal servers per rack. Schleifenbauer kan de PDU specifiek voor deze configuratie samenstellen.

Welke PDU heb ik nodig voor NVIDIA HGX B300?

Ook voor HGX B300 moet naar de complete serverconfiguratie worden gekeken. HGX B300 wordt door verschillende OEM’s geïntegreerd in systemen met verschillende power- en rackarchitecturen. Schleifenbauer configureert de PDU op basis van de elektrische specificaties van het gekozen systeem.

Kan Schleifenbauer een PDU leveren voor Dell PowerEdge HGX-servers?

Ja. Schleifenbauer kan Rack PDUs configureren op basis van de elektrische eisen van Dell PowerEdge AI-servers met NVIDIA HGX, waaronder systemen uit de XE-serie. De uiteindelijke PDU-configuratie wordt bepaald aan de hand van het exacte servermodel en de rackarchitectuur.

Kan Schleifenbauer een PDU leveren voor HPE HGX-systemen?

Ja. PDU’s kunnen worden afgestemd op HPE AI- en HPC-systemen met NVIDIA HGX, rekening houdend met onder andere het aantal power supplies, aansluitingen, rackvermogen, A/B-redundantie en monitoring.

Kan Schleifenbauer een PDU leveren voor Lenovo ThinkSystem HGX?

Ja. Dit geldt onder andere voor Lenovo ThinkSystem-systemen met HGX H100, H200, B200 en B300. De PDU wordt afgestemd op het specifieke ThinkSystem-model en de elektrische infrastructuur.

Kan Schleifenbauer een PDU leveren voor Supermicro HGX-servers?

Ja. Schleifenbauer kan PDU’s configureren voor Supermicro GPU-servers gebaseerd op NVIDIA HGX H100, H200, B200 en B300, afhankelijk van de specificaties van het betreffende servermodel.

Zijn 63A PDU’s geschikt voor AI- en HGX-racks?

63A 3-fase PDU’s kunnen geschikt zijn voor high-density AI- en HPC-racks, maar de juiste capaciteit moet worden bepaald aan de hand van de daadwerkelijke belasting, elektrische infrastructuur, redundantie en het aantal systemen in het rack.

Kan het energieverbruik van HGX-servers worden gemonitord?

Ja. Met een geschikte Schleifenbauer Monitored of Managed PDU kan energieverbruik op verschillende niveaus worden gemeten. Via EnerTree DCEM kan deze informatie centraal worden gemonitord en geanalyseerd.

PDU nodig voor een HGX AI-server?

Of je nu een Dell PowerEdge, HPE, Lenovo ThinkSystem, Supermicro, Cisco, GIGABYTE of een ander NVIDIA HGX-based systeem implementeert: de stroomvoorziening moet passen bij de daadwerkelijke server- en rackconfiguratie.

Stuur ons het merk en model van de server, het aantal systemen per rack en de beschikbare stroomvoorziening. Onze engineers kunnen op basis daarvan een geschikte Rack PDU-configuratie samenstellen.

HGX H100, H200, B200 of B300. Eén server of een complete AI-cluster. De PDU wordt gebouwd rond jouw infrastructuur.