Koliko stane GPU strežnik?

To je prvo vprašanje, ki ga vsi zastavijo. Pošten odgovor je, da fiksne cene ni — in to ni izmikanje, ampak dejansko stanje trga.

Bolj koristno vprašanje je: iz česa je cena sestavljena in kje se proračuni najpogosteje podrejo? Če razumete strukturo stroškov, boste znali oceniti vsako ponudbo, ki jo dobite — tudi tisto, ki je ne dobite od mene.

Zakaj fiksne cene ni

Povpraševanje po grafičnih procesorjih za umetno inteligenco že več let presega ponudbo. To vpliva na celotno dobavno verigo — ne le na GPU-je, ampak tudi na pomnilnik in diske. Praktične posledice:

• Ponudba, stara nekaj mesecev, ni več zanesljiva podlaga za proračun.
• Dobavni roki se spreminjajo in so lahko bistveno daljši, kot pričakujete.
• Isti sistem lahko v dveh četrtletjih stane opazno različno.

Zato je vsak cenik, ki ga najdete na spletu, v najboljšem primeru posnetek preteklega stanja. Če imate rok za projekt, ga načrtujte z rezervo — tako pri ceni kot pri dobavi.

Kaj dejansko določa ceno

Pomnilnik GPU (VRAM) — največji dejavnik

Najpomembnejša postavka in hkrati najtrša omejitev. Model, ki potrebuje več pomnilnika, kot ga ima kartica, na njej ne bo tekel brez kompromisov. Razlika med razredi kartic ni le v ceni — je razlika med tem, ali vaš primer uporabe sploh deluje ali ne.

Število grafičnih procesorjev

Konfiguracije se gibljejo od enega do osmih in več GPU-jev. Vsak dodaten GPU pomeni tudi večje ohišje, močnejše napajanje in zahtevnejše hlajenje — cena ne narašča linearno.

Medsebojna povezava med GPU-ji

Hitra povezava (NVLink) proti standardnemu PCIe. Pri treniranju modelov na več GPU-jih je to razlika, ki jo boste izmerili; pri inferenci pogosto ni pomembna. Plačati zanjo, če je ne potrebujete, je pogosta napaka.

Hlajenje

Zračno hlajenje ima mejo. Pri višjih konfiguracijah je tekočinsko hlajenje pogosto nujno, ne opcijsko — in to ni le postavka na ponudbi, ampak poseg v prostor.

CPU, RAM in diski

Pri GPU obremenitvah niso glavni dejavnik cene, a premalo zmogljiv CPU ali počasni diski lahko postanejo ozko grlo pri pripravi podatkov. Varčevanje tukaj se lahko izniči v zmogljivosti.

Stroški, ki jih ponudba ne vsebuje

Tu se proračuni podrejo najpogosteje. Nobene od teh postavk ne boste našli na ceniku strežnika.

• Električna infrastruktura. Zmogljiv GPU strežnik pri polni obremenitvi porabi toliko, da obstoječa napeljava morda ne zadostuje. Nadgradnja nastane pred prihodom strežnika, ne po njem.
• Prilagoditev prostora za hlajenje. Če konfiguracija zahteva tekočinsko hlajenje, je to inštalacijski projekt, ne dobava opreme.
• Poraba energije skozi življenjsko dobo. Pri sistemu, ki teče stalno, strošek elektrike v treh do petih letih ni obrobna postavka.
• Podpora in garancija. Razlika med osnovno garancijo in podporo z zamenjavo naslednji delovni dan na lokaciji je pri produkcijskem sistemu bistvena.
• Programska oprema. Virtualizacija, orkestracija, morebitne licence za GPU virtualizacijo.

Trije razredi konfiguracij

Namesto cen — kaj v posameznem razredu dejansko dobite. Razredi se med seboj razlikujejo po velikostnem redu, ne po odstotkih.

Vstopni (1–2 GPU). Razvoj, prototipiranje, manjši modeli, inferenca z nizko obremenitvijo. Standardno ohišje, zračno hlajenje, stoji lahko v obstoječi strežniški sobi brez prilagoditev.

Srednji (4 GPU). Najpogostejši razred za prvi resen nakup v podjetju. Treniranje manjših in srednjih modelov, produkcijska inferenca za več uporabnikov. Tu se začnejo resna vprašanja napajanja in hlajenja.

Visoki (8+ GPU). Treniranje velikih modelov, inferenca v velikem obsegu, gruče. Namenska platforma s hitro medsebojno povezavo in pogosto zahtevo po tekočinskem hlajenju. Pri tem razredu infrastruktura okoli strežnika zahteva več načrtovanja kot strežnik sam.

Preden zahtevate ponudbo

Trije podatki, ki bodo vsako ponudbo naredili primerljivo in uporabno:

1. Treniranje ali inferenca? Zahteve so povsem drugačne.
2. Koliko pomnilnika zahteva vaš največji model? To določi razred kartice.
3. Je obremenitev stalna ali občasna? Pri občasni je najem v oblaku lahko cenejši od nakupa.

Če na katero od teh vprašanj še ni jasnega odgovora, je to točka, kjer se posvet izplača — napaka pri tej odločitvi je bistveno dražja od časa, ki ga porabite za pogovor.