Danny Weber
Az ADATA TRUSTA AI Scaler GPU VRAM-ot egészít ki RAM-mal és SSD-vel, akár 50% költségcsökkentés. Támogatja a Llama, Qwen, DeepSeek modelleket.
Az ADATA TRUSTA divíziója bemutatta az AI Scaler Extended Memory Solution nevű új MI-infrastruktúra-megoldást. A technológia a grafikus gyorsítók korlátozott videomemóriáját célozza, ami a modern MI-rendszerek egyik legnagyobb kihívása.
A nagy nyelvi modellek futtatásához ma elengedhetetlenek a nagy VRAM-mal rendelkező, drága GPU-k, ami a vállalati MI-telepítés költségeit az egekbe repíti. A TRUSTA ezzel szemben nem csupán a GPU memóriájára támaszkodik, hanem a rendszer RAM-ját és gyors SSD-it is bevonja a modelladatok tárolásába és feldolgozásába.
A rendszer magját az AI Scaler Toolkit adja, egy nyílt forráskódú szoftver- és hardvercsomag, amely elosztja a munkaterhelést a GPU, a DRAM és az SSD-k között. Ennek köszönhetően az MI-modellek rugalmasabban és olcsóbban futtathatók. A vállalat állítása szerint ez bizonyos esetekben akár 50 százalékot meghaladó költségcsökkentést is jelenthet a MI-telepítéseknél.
Az ADATA szerint a megoldás egyetlen GPU-n képes elvégezni olyan feladatokat, amelyekhez korábban több grafikus processzorra volt szükség, mindezt a kibővített rendszermemória támogatásával. Ez kiemelten fontos azoknak a cégeknek, amelyek helyi MI-rendszereket szeretnének kiépíteni anélkül, hogy drága szerverklaszterekbe fektetnének.
A platform olyan ismert modelleket támogat, mint a Llama, Qwen, Mixtral, Mistral, DeepSeek, Gemma és Phi, emellett kompatibilis az ügynökalapú MI-rendszerekkel (például OpenClaw és Hermes Agentic). A fejlesztők kiemelik, hogy a megoldás hardverfüggetlen, és különféle szerverkonfigurációkhoz igazítható.
A TRUSTA emellett bemutatta a TD7P51 ECO PCIe Gen5 vállalati SSD-t is, amely akár 15,36 TB kapacitással is elérhető. A meghajtó több formátumot támogat, és intelligens adatelhelyezési technológiákat alkalmaz a megbízhatóság fokozása érdekében MI-munkaterhelések mellett.
A vállalat szerint az ilyen jellegű megoldások felgyorsíthatják a felhőalapú MI-szolgáltatásokról a helyszíni rendszerekre való áttérést, ahol az adatok feletti kontroll, a biztonság és a költségcsökkentés kiemelt szempontok.
© RusPhotoBank