Stínová serverovna: pět počítačů pod stolem, o kterých IT neví

V českých laboratořích, studiích a ateliérech běží tisíce grafických karet, které nikdo nespravuje. Nejsou v serverovně. Jsou v běžných počítačích pod stoly, kam se dostaly postupně, kartu po kartě. Vzniká tak zvláštní druh infrastruktury, do které firma investovala statisíce a která nemá zálohu, dohled ani zámek na dveřích.

Začíná to nevinně. Výzkumná skupina nebo studio potřebuje počítat, tak se koupí počítač s pořádnou grafickou kartou. Za půl roku je potřeba počítat víc, tak se koupí druhý. Pak třetí, protože doktorand potřebuje vlastní. Pak čtvrtý, protože ten první už nestíhá, ale vyhodit se nemůže, vždyť funguje.

Po třech letech stojí pod stoly pět beden. Dohromady je v nich víc výpočetního výkonu, než míval celý ústav, a taky víc peněz, než kolik stál poslední služební vůz. A přesto se k té sestavě nikdo nechová jako k majetku. Protože formálně to žádná sestava není. Je to pět kancelářských počítačů.

Co stínová serverovna doopravdy stojí

Ta cena se neobjeví na žádné faktuře, a proto ji nikdo nevidí. Skládá se z položek, které se počítají špatně:

• Ztracené výpočty. Běžný počítač má běžný zdroj. Když v budově vypadne proud, odejde s ním i výpočet, který běžel tři dny. U simulací a renderů to není výjimka, to je pravidelnost.
• Ruční správa. Každá bedna má vlastní systém, vlastní ovladače, vlastní verzi knihoven. Aktualizace znamená pět židlí, ke kterým si někdo musí sednout. Vzdálený přístup obvykle žádný, a když, tak přes soukromé nástroje, o kterých IT oddělení neví, a to je samostatná kapitola.
• Mrtvý výkon. Karty jsou přiřazené k lidem, ne k úlohám. Zatímco jedna bedna týden počítá, tři vedle ní stojí. Kdyby byly karty v jednom stroji, úlohy by se řadily do fronty a výkon by se využil.
• Teplo a hluk v místnosti, kde sedí lidé. Pět beden s výkonnými kartami je topení, které v létě nikdo nechce.

Proč to tak zůstává

Protože náprava vypadá draze. Když se řekne serverovna, každý si představí novou investici za miliony a projekt na rok. Jenže mezi pěti bednami pod stolem a datacentrem existuje mezistupeň, o kterém se málo ví: GPU šasi.

Jedna bedna místo pěti

GPU šasi je server navržený obráceně, než jak o serverech obvykle přemýšlíme. Neprodává procesor, prodává sloty. Konstrukčně je to skříň, která umí uvézt, uchladit a napájet osm dvouslotových grafických karet najednou, s redundantními zdroji, které přežijí výpadek, a se vzdálenou správou, přes kterou stroj obsloužíte z domova, včetně instalace systému.

Podstatná věc: karty do něj nemusíte kupovat. Ty už máte, sedí v těch bednách pod stolem. Konsolidace znamená karty vyndat, přenést do jednoho šasi a z pěti počítačů udělat pracovní stanice bez topení, nebo je vrátit tam, odkud se kdysi vzaly.

Výsledek se nechová jako pět počítačů, ale jako jedno zařízení. Úlohy se plánují, výkon se sdílí, výpadek proudu ustojí redundantní zdroj a správa se dělá z jednoho místa. Pro vedoucího laboratoře to znamená ještě jednu věc, o které se nahlas nemluví: majetek je najednou vidět. Jedna položka v inventáři, ne pět rozpuštěných PC.

Na co se dívat, když o tom začnete uvažovat

• Počet a rozteč slotů. Rozhoduje počet slotů pro dvouslotové karty, ne počet PCI-E konektorů na desce. Karty potřebují prostor a vzduch.
• Napájení s rezervou a v redundanci. Osm karet po 250 W je 2 kW jen na kartách. Zdroje musí uvézt špičku a přežít výpadek jednoho z nich.
• Chlazení tahem zepředu dozadu, s ventilátory vyměnitelnými za provozu. Běžné skříně chladí karty jednotlivě, serverové šasi chladí celý tunel.
• Vzdálená správa (IPMI). To je rozdíl mezi zařízením a bednou. Konzole, napájení i instalace systému na dálku.
• Kompatibilita s kartami, které už máte. Výrobci u GPU šasi uvádějí seznamy podporovaných karet, od datacentrových po běžné RTX. Než cokoli koupíte, ověřte si svoje.
• U starších platforem poměr ceny a úlohy. Pokud výpočet běží na kartách, procesor data hlavně přesouvá. Šasi předchozí generace pak může vyjít na zlomek ceny nového, aniž by to na výsledku bylo znát. Klíčové je nechat si to spočítat na vlastní úloze, ne na papíře.

Kdy to dává smysl a kdy ne

Konsolidace do GPU šasi dává smysl od zhruba tří až čtyř karet výš a tam, kde výpočty běží dlouho a opakovaně. Nedává smysl, pokud každý uživatel potřebuje kartu fyzicky u sebe kvůli interaktivní práci s obrazem na svém monitoru, tam patří karta do pracovní stanice. A pokud už máte přístup k velkému výpočetnímu centru, řešíte spíš frontu než železo.