Danny Weber
Tutustu ADATA TRUSTA:n uuteen AI Scaler Extended Memory -ratkaisuun, joka vähentää tekoälyinfrastruktuurin kustannuksia jopa 50% hyödyntämällä RAM-muistia ja SSD-levyjä.
ADATA on TRUSTA-divisionsa kautta esitellyt uuden tekoälyyn tarkoitetun infrastruktuuriratkaisun, nimeltään AI Scaler Extended Memory Solution. Teknologia ratkaisee yhden nykyaikaisten tekoälyjärjestelmien suurimmista ongelmista: grafiikkakiihdyttimien rajoitetun videomuistin.
Suurten kielimallien ajaminen vaatii nykyään kalliita GPU:ita valtavalla VRAM-muistilla, mikä tekee tekoälyn yrityskäytöstä kohtuuttoman kallista. TRUSTA ottaa erilaisen lähestymistavan hyödyntämällä GPU-muistin lisäksi myös järjestelmän RAM-muistia ja nopeita SSD-levyjä mallidatan tallentamiseen ja käsittelyyn.
Alustan ytimessä on AI Scaler Toolkit, avoimen lähdekoodin ohjelmisto- ja laitteistopaketti, joka tasapainottaa työkuormia GPU:n, DRAM-muistin ja SSD-levyjen välillä. Tämä mahdollistaa tekoälymallien joustavamman ja edullisemman suorittamisen. Yrityksen mukaan tämä vähentää tekoälyn käyttöönoton kustannuksia joissain skenaarioissa yli 50 prosenttia.
ADATA kertoo teknologian kykenevän suorittamaan tehtäviä, jotka aiemmin vaativat useita grafiikkasuorittimia, yhdellä GPU:lla laajennetun järjestelmämuistin ansiosta. Tämä on erityisen tärkeää yrityksille, jotka haluavat perustaa paikallisia tekoälyjärjestelmiä ilman kalliiden palvelinklusterien rakentamista.
Alusta tukee suosittuja malleja, kuten Llama, Qwen, Mixtral, Mistral, DeepSeek, Gemma ja Phi, ja on yhteensopiva agenttipohjaisten tekoälyjärjestelmien, kuten OpenClaw ja Hermes Agentic, kanssa. Kehittäjät korostavat, että ratkaisu ei ole sidottu mihinkään tiettyyn laitteistoon ja se mukautuu erilaisiin palvelinkokoonpanoihin.
Tämän ohella TRUSTA esitteli myös TD7P51 ECO PCIe Gen5 -yritys-SSD:n, joka on saatavana jopa 15,36 Tt:n kapasiteetilla. Levy tukee useita muototekijöitä ja käyttää älykkäitä datan sijoittelutekniikoita parantaakseen luotettavuutta tekoälykuormituksissa.
Yritys uskoo, että tällaiset ratkaisut nopeuttavat siirtymää pilvipohjaisista tekoälypalveluista paikallisiin järjestelmiin, joissa datan hallinta, turvallisuus ja kustannussäästöt ovat keskeisiä prioriteetteja.
© RusPhotoBank