Pratite nas

Pozdrav, koji sadržaj vas zanima?

Tech

Tvrtke se razbacuju AI energijom: Razvijena metoda koja bi mogla smanjiti potrošnju do 95 posto

Foto: Wikimedia Commons

Kako se sve više tvrtki počinje baviti umjetnom inteligencijom, potrošnja energije AI modela postaje velika briga. Dok su najistaknutiji igrači (Nvidia, Microsoft i OpenAI) pokušali ublažiti problem, jedna tvrtka tvrdi da je došla do rješenja.

Istraživači iz tvrtke BitEnergy AI razvili su tehniku koja bi mogla dramatično smanjiti potrošnju AI energije bez žrtvovanja prevelike točnosti i brzine. Studija tvrdi da bi ta metoda mogla smanjiti potrošnju energije do 95 posto. Tim ovu metodu naziva Množenje linearne složenosti (Linear-Complexity Multiplication) ili skraćeno L-Mul. Računalni proces koristi zbrajanje cjelobrojnih brojeva, što zahtijeva mnogo manje energije i manje koraka od množenja s pomičnim zarezom za zadatke povezane s umjetnom inteligencijom.

Brojevi s pomičnim zarezom intenzivno se koriste u izračunima umjetne inteligencije kada se radi s vrlo velikim ili vrlo malim brojevima. Ovi brojevi su poput znanstvene notacije u binarnom obliku i omogućuju AI sustavima da precizno izvršavaju složene izračune. Međutim, ova preciznost ima svoju cijenu.

Rastuća potražnja za energijom zbog procvata umjetne inteligencije dosegla je zabrinjavajuću razinu, a neki modeli zahtijevaju ogromne količine električne energije. Na primjer, ChatGPT koristi električnu energiju koja je ekvivalentna 18.000 kućanstava (564 megavatsata dnevno). Analitičari Centra za alternativne financije u Cambridgeu procjenjuju da bi industrija umjetne inteligencije mogla trošiti između 85 i 134 teravatsata godišnje do 2027. godine.

L-Mul algoritam rješava ovo prekomjerno rasipanje energije aproksimacijom složenih množenja s pomičnim zarezom s jednostavnijim zbrajanjem cijelih brojeva. Tijekom testiranja, AI modeli zadržali su točnost uz smanjenje potrošnje energije za 95 posto za množenja tenzora i 80 posto za skalarne umnožke.

Minimalno smanjenje performansi

Tehnika L-Mul također pruža proporcionalno poboljšane performanse. Algoritam premašuje trenutne 8-bitne računalne standarde, postižući veću preciznost s manje izračuna na razini bitova. Testovi koji pokrivaju različite zadatke umjetne inteligencije, uključujući obradu prirodnog jezika i računalni vid, pokazali su smanjenje performansi od samo 0,07 posto, što je mali kompromis kada se uračuna u uštedu energije.

Modeli temeljeni na transformatorima, poput GPT-a, mogu imati najviše koristi od L-Mula, budući da se algoritam neprimjetno integrira u mehanizam pažnje, ključnu, ali energetski intenzivnu komponentu ovih sustava. Testovi na popularnim AI modelima, kao što su Llama i Mistral, čak su pokazali poboljšanu točnost kod nekih zadataka. Međutim, postoje dobre i loše vijesti.

Loša vijest je da L-Mul trenutno zahtijeva specijalizirani hardver. Suvremena AI obrada nije optimizirana za iskorištavanje prednosti tehnike. Dobra vijest je da su u izradi planovi za razvoj specijaliziranog hardvera i API-ja za programiranje, čime se otvara put za energetski učinkovitiju umjetnu inteligenciju u razumnom roku. Jedina druga prepreka bile bi tvrtke, posebice Nvidia koja na čelu ima jako bogatog i utjecajnog čovjeka, koje ometaju napore za usvajanje, što je realna mogućnost. Proizvođač GPU-a stekao je reputaciju razvojnog programera hardvera za AI aplikacije. Sumnja se da će se brzo domoći energetski učinkovitijih hardvera kako bi održao udio na tržištu.

Ostavi komentar

Možda će vas zanimati

Tech

Što bi se dogodilo ako uronite ruku u posudu tekućeg dušika? Bi li vam se ruka smrzla do ozeblina? Bi li se razbila čim...

Internet

Sigurno ste do sad naletjeli na neke od bizarnosti na koje je Googleovo auto naletjelo pri snimanju, a u ovom videu pogledajte kompilaciju najčudnijih...

Tech

Trebate izračunati postotak od nekog broja, a ne znate kako? Pročitajte ovaj jednostavan članak i naučite kako se računa postotak. Postotci se koriste za...

Tech

1995. godine grupa znanstvenika NASA-e napravila je testove o tome kako pojedine droge utječu na paukovu sposobnost da izgradi mrežu.

Internet

Odmah da vam kažemo – neizbježan kraj dogodio bi se iznenađujuće brzo. Ako je zapremnina prosječnog lijesa 886 litara, a prosječan volumen ljudskog tijela...

Automoto

Tvrtka Laser Power Systems razvila je automobil pogonjen nuklearnom energijom. Napokon je pronađen način koji će vašem automobilu omogućiti vječni rad bez punjenja. No...

Tech

Rudnik dijamanata Mir u Siberu jedna je od najvećih rupa u tlu koju je čovjek napravio. Duboka je 525 metara i široka 1200m. Let...

Tech

Bumerang je jedan od najstarijih letećih objekata koje je ljudska ruka stvorila. Svi znamo da su ih koristili Aboridžini, no malo je poznato je...