Tim Fundamental AI Research (FAIR) u Meti, Facebookovoj mati\u010dnoj tvrtki, predstavio je novi “najsuvremeniji” jezi\u010dni model umjetne inteligencije (AI) pod nazivom Large Language Model Meta AI (LLaMA).<\/p>\n\n\n\n
Model \u0107e biti dostupan istra\u017eiva\u010dima, a o\u010dekuje se da \u0107e pomo\u0107i znanstvenicima i in\u017eenjerima dok istra\u017euju nove upotrebe umjetne inteligencije, najavio je u petak izvr\u0161ni direktor Mark Zuckerberg.<\/p>\n\n\n\n
“Objavljujemo novi vrhunski AI veliki jezi\u010dni model nazvan LLaMA dizajniran da pomogne istra\u017eiva\u010dima da unaprijede svoj rad”, napisao je Zuckerberg u objavi<\/a> na Facebooku.<\/p>\n\n\n\n “LLM-ovi su pokazali puno obe\u0107anja u generiranju teksta, razgovorima, sa\u017eimanju pisanog materijala i kompliciranijim zadacima poput rje\u0161avanja matemati\u010dkih teorema ili predvi\u0111anja strukture proteina.”<\/p>\n\n\n\n Napredak umjetne inteligencije postao je fokus i za velike tehnolo\u0161ke tvrtke i za startupe, s velikim jezi\u010dnim modelima kao \u0161to su Microsoftov Bing AI<\/a>, OpenAI-jev ChatGPT<\/a> i Googleov neobjavljeni Bard AI<\/a> koji poma\u017eu u podupiranju aplikacija.<\/p>\n\n\n\n Me\u0111utim, postoji niz na\u010dina na koje se Metin LLM razlikuje od ovih modela, posebice njegova veli\u010dina i otvorenost prema istra\u017eiva\u010dima, tvrdi Meta.<\/p>\n\n\n\n Prema Meti, veli\u010dine LLaMA-e kretat \u0107e se od 7 milijardi parametara do 65 milijardi parametara.<\/p>\n\n\n\n Unato\u010d \u010dinjenici da su ve\u0107i modeli bili uspje\u0161ni u pro\u0161irenju mogu\u0107nosti tehnologije, njihovo kori\u0161tenje mo\u017ee biti skuplje, \u0161to je faza poznata kao “zaklju\u010divanje”. Chat-GPT 3 iz OpenAI-ja, na primjer, uklju\u010duje 175 milijardi parametara.<\/p>\n\n\n\n “Manje modele obu\u010dene na vi\u0161e tokena \u2014 koji su dijelovi rije\u010di \u2014 lak\u0161e je ponovno uvje\u017ebati i fino podesiti za odre\u0111ene potencijalne slu\u010dajeve upotrebe proizvoda”, objavila je Meta AI na blogu u petak.<\/p>\n\n\n\n “Obu\u010dili smo LLaMA 65B i LLaMA 33B na 1,4 bilijuna tokena. Na\u0161 najmanji model, LLaMA 7B, obu\u010den je na jedan bilijun tokena.”<\/p>\n\n\n\n Za razliku od Googleove LaMDA i OpenAI-jevog ChatGPT-a, \u010diji su temeljni modeli privatni, Meta je tako\u0111er izjavila da \u0107e njihov LLM biti dostupan istra\u017eiva\u010dkoj zajednici AI.<\/p>\n\n\n\n “Za razliku od Chinchille, PaLM-a ili GPT-3, koristimo samo skupove podataka koji su javno dostupni, \u0161to na\u0161 rad \u010dini kompatibilnim s otvorenim kodom i ponovljivim, dok se ve\u0107ina postoje\u0107ih modela oslanja na podatke koji ili nisu javno dostupni ili su nedokumentirani”, tweetao je<\/a> Guillaume Lample, znanstvenik istra\u017eiva\u010d u Facebooku AI.<\/p>\n\n\n\n Poput prethodnih velikih jezi\u010dnih modela, LLaMA generira tekst rekurzivno koriste\u0107i niz rije\u010di kao ulaz i predvi\u0111aju\u0107i sljede\u0107i izraz.<\/p>\n\n\n\n Meta tvrdi da su koristili literaturu iz 20 jezika s najve\u0107im brojem govornika za obuku modela, koncentriraju\u0107i se na jezike temeljene na latinici i \u0107irilici.<\/p>\n\n\n\n Me\u0111utim, Meta nije dala nikakva jamstva da njen jezi\u010dni model ne\u0107e iskusiti halucinacije kao drugi<\/a>. <\/p>\n\n\n\nLLaMA \u0107e imati od 7 do 65 milijardi parametara<\/h2>\n\n\n\n
AI halucinacije – nema garancije<\/h2>\n\n\n\n