Uzņēmums Bosgame nodemonstrējis, ka mākslīgā intelekta modeli DeepSeek-V3.1 ar 671 miljardu parametru iespējams darbināt lokāli, izmantojot septiņus M5 AI mini datorus, kas apvienoti vienā skaitļošanas klasterī. Šāda pieeja ļauj iegūt ievērojamu skaitļošanas jaudu bez tradicionāla serveru klastera.
Katrs Bosgame M5 AI ir aprīkots ar AMD Ryzen AI Max+ 395 procesoru un līdz 128 GB operatīvās atmiņas. Atsevišķi šāds dators nav spējīgs darbināt tik apjomīgu valodas modeli, taču vairākas ierīces iespējams savienot vienotā sistēmā, pakāpeniski palielinot kopējo veiktspēju.
Mini datori tiek savienoti, izmantojot USB4 Direct Connection tehnoloģiju, kas ļauj tiem darboties kā vienai sistēmai bez tradicionālas centralizētas serveru arhitektūras.
Izmantojot septiņas ierīces, tiek iegūti 896 GB kopējās vienotās atmiņas, no kuriem līdz 672 GB var atvēlēt grafiskajam procesoram (GPU). Tas ir pietiekami, lai lokāli darbinātu ļoti lielus mākslīgā intelekta modeļus, tostarp DeepSeek-V3.1.
Bosgame uzsver, ka šādas sistēmas priekšrocība ir elastīga paplašināšana. Lietotājs var sākt ar vienu mini datoru un vēlāk, pieaugot vajadzībām vai budžetam, pakāpeniski pievienot papildu ierīces, palielinot sistēmas skaitļošanas jaudu.
Ražotājs norāda, ka šāds risinājums izmaksā ievērojami lētāk nekā līdzvērtīgas veiktspējas serveru klasteris, turklāt arī elektroenerģijas patēriņš ir būtiski zemāks.
Kad Bosgame M5 AI nonāca pārdošanā pagājušajā gadā, tā jaudīgākā konfigurācija maksāja aptuveni 1700 ASV dolāru, savukārt pašlaik šīs versijas cena pieaugusi līdz aptuveni 2800 ASV dolāriem.