Kako se sve više tvrtki počinje baviti umjetnom inteligencijom, potrošnja energije AI modela postaje velika briga. Dok su najistaknutiji igrači (Nvidia, Microsoft i OpenAI) pokušali ublažiti problem, jedna tvrtka tvrdi da je došla do rješenja.
Istraživači iz tvrtke BitEnergy AI razvili su tehniku koja bi mogla dramatično smanjiti potrošnju AI energije bez žrtvovanja prevelike točnosti i brzine. Studija tvrdi da bi ta metoda mogla smanjiti potrošnju energije do 95 posto. Tim ovu metodu naziva Množenje linearne složenosti (Linear-Complexity Multiplication) ili skraćeno L-Mul. Računalni proces koristi zbrajanje cjelobrojnih brojeva, što zahtijeva mnogo manje energije i manje koraka od množenja s pomičnim zarezom za zadatke povezane s umjetnom inteligencijom.
Brojevi s pomičnim zarezom intenzivno se koriste u izračunima umjetne inteligencije kada se radi s vrlo velikim ili vrlo malim brojevima. Ovi brojevi su poput znanstvene notacije u binarnom obliku i omogućuju AI sustavima da precizno izvršavaju složene izračune. Međutim, ova preciznost ima svoju cijenu.
Rastuća potražnja za energijom zbog procvata umjetne inteligencije dosegla je zabrinjavajuću razinu, a neki modeli zahtijevaju ogromne količine električne energije. Na primjer, ChatGPT koristi električnu energiju koja je ekvivalentna 18.000 kućanstava (564 megavatsata dnevno). Analitičari Centra za alternativne financije u Cambridgeu procjenjuju da bi industrija umjetne inteligencije mogla trošiti između 85 i 134 teravatsata godišnje do 2027. godine.
L-Mul algoritam rješava ovo prekomjerno rasipanje energije aproksimacijom složenih množenja s pomičnim zarezom s jednostavnijim zbrajanjem cijelih brojeva. Tijekom testiranja, AI modeli zadržali su točnost uz smanjenje potrošnje energije za 95 posto za množenja tenzora i 80 posto za skalarne umnožke.
Minimalno smanjenje performansi
Tehnika L-Mul također pruža proporcionalno poboljšane performanse. Algoritam premašuje trenutne 8-bitne računalne standarde, postižući veću preciznost s manje izračuna na razini bitova. Testovi koji pokrivaju različite zadatke umjetne inteligencije, uključujući obradu prirodnog jezika i računalni vid, pokazali su smanjenje performansi od samo 0,07 posto, što je mali kompromis kada se uračuna u uštedu energije.
Modeli temeljeni na transformatorima, poput GPT-a, mogu imati najviše koristi od L-Mula, budući da se algoritam neprimjetno integrira u mehanizam pažnje, ključnu, ali energetski intenzivnu komponentu ovih sustava. Testovi na popularnim AI modelima, kao što su Llama i Mistral, čak su pokazali poboljšanu točnost kod nekih zadataka. Međutim, postoje dobre i loše vijesti.
Loša vijest je da L-Mul trenutno zahtijeva specijalizirani hardver. Suvremena AI obrada nije optimizirana za iskorištavanje prednosti tehnike. Dobra vijest je da su u izradi planovi za razvoj specijaliziranog hardvera i API-ja za programiranje, čime se otvara put za energetski učinkovitiju umjetnu inteligenciju u razumnom roku. Jedina druga prepreka bile bi tvrtke, posebice Nvidia koja na čelu ima jako bogatog i utjecajnog čovjeka, koje ometaju napore za usvajanje, što je realna mogućnost. Proizvođač GPU-a stekao je reputaciju razvojnog programera hardvera za AI aplikacije. Sumnja se da će se brzo domoći energetski učinkovitijih hardvera kako bi održao udio na tržištu.
