Danny Weber
ADATA a lansat AI Scaler, soluție ce combină GPU, RAM și SSD pentru AI la costuri reduse. Reduce costurile cu peste 50% și suportă modele populare.
ADATA, prin divizia sa TRUSTA, a lansat o nouă soluție de infrastructură pentru inteligența artificială, numită AI Scaler Extended Memory Solution. Tehnologia abordează una dintre cele mai mari provocări ale sistemelor moderne de AI: memoria video limitată a acceleratoarelor grafice.
Rularea modelelor de limbaj mari necesită în prezent GPU-uri scumpe cu VRAM masiv, ceea ce face implementarea AI în companii extrem de costisitoare. TRUSTA adoptă o abordare diferită, folosind nu doar memoria GPU, ci și RAM-ul sistemului și SSD-urile rapide pentru a stoca și procesa datele modelului.
În centrul platformei se află AI Scaler Toolkit, un pachet open-source de software și hardware care echilibrează sarcinile de lucru între GPU, DRAM și SSD-uri. Acest lucru permite rularea modelelor AI mai flexibil și la un cost mai mic. Potrivit companiei, în unele scenarii, aceasta reduce costurile de implementare AI cu peste 50%.
ADATA afirmă că tehnologia poate executa sarcini care anterior necesitau mai multe procesoare grafice pe un singur GPU, sprijinit de memoria extinsă a sistemului. Acest lucru este deosebit de important pentru companiile care doresc să configureze sisteme AI locale fără a construi clustere de servere costisitoare.
Platforma suportă modele populare precum Llama, Qwen, Mixtral, Mistral, DeepSeek, Gemma și Phi și este compatibilă cu sisteme AI bazate pe agenți, cum ar fi OpenClaw și Hermes Agentic. Dezvoltatorii subliniază că soluția nu este legată de un anumit hardware și se poate adapta la diverse configurații de server.
În plus, TRUSTA a introdus și SSD-ul enterprise TD7P51 ECO PCIe Gen5, disponibil în capacități de până la 15,36 TB. Unitatea suportă multiple factori de formă și utilizează tehnologii inteligente de plasare a datelor pentru a spori fiabilitatea în sarcinile de lucru AI.
Compania consideră că astfel de soluții vor ajuta la accelerarea tranziției de la serviciile AI bazate pe cloud la sistemele on-premise, unde controlul datelor, securitatea și economiile de costuri sunt priorități cheie.
© RusPhotoBank