Mogu li otvoreni modeli zaista izazvati najveće laboratorije?

Velika decentralizacija inteligencije

Jaz između zatvorenih vlasničkih sistema i javnih modela se smanjuje brže nego što je većina analitičara predviđala. Pre samo godinu dana, konsenzus je bio da će ogromne laboratorije sa milijardama dolara finansiranja zadržati trajnu prednost u sposobnostima. Danas se ta prednost meri mesecima, a ne godinama. Modeli sa otvorenim težinama (open weights) sada rade na nivoima koji pariraju najnaprednijim zatvorenim sistemima u kodiranju, rezonovanju i kreativnom pisanju. Ova promena nije samo tehnička zanimljivost. Ona predstavlja fundamentalnu promenu u tome ko kontroliše budućnost računarstva. Kada developer može da pokrene model visokih performansi na sopstvenom hardveru, dinamika moći se pomera dalje od centralizovanih provajdera. Ovaj trend sugeriše da se era modela „crne kutije“ suočava sa svojim prvim pravim izazovom od strane distribuirane globalne zajednice.

Uspon ovih pristupačnih sistema primorao je na ponovnu procenu onoga što znači biti lider u ovoj oblasti. Više nije dovoljno imati najveći klaster čipova ako je rezultujući model zaključan iza skupog i restriktivnog interfejsa. Developeri glasaju svojim vremenom i računarskom snagom. Oni biraju modele koje mogu da pregledaju, modifikuju i implementiraju bez traženja dozvole. Ovaj pokret dobija na zamahu jer rešava osnovne potrebe za privatnošću i prilagođavanjem koje zatvoreni modeli često ignorišu. Rezultat je konkurentnije okruženje u kojem se fokus pomerio sa puke skale na efikasnost i pristupačnost. Ovo je početak nove ere u kojoj su najsposobniji alati ujedno i najdostupniji.

Tri plemena razvoja

Da biste razumeli kuda ide ova tehnologija, morate pogledati tri različite vrste organizacija koje je grade. Prvo, tu su granične laboratorije (frontier labs). To su giganti poput OpenAI i Google-a. Njihov cilj je da dostignu najviši mogući nivo opšte inteligencije. Oni daju prioritet skali i sirovoj snazi iznad svega ostalog. Za njih se otvorenost često vidi kao rizik po bezbednost ili gubitak konkurentske prednosti. Oni grade masivne, zatvorene ekosisteme koji nude visoke performanse, ali zahtevaju potpunu zavisnost od njihove cloud infrastrukture. Njihovi modeli su zlatni standard za performanse, ali dolaze sa uslovima u vidu politika korišćenja i tekućih troškova.

Drugo, imamo akademske laboratorije. Institucije poput Stanford Institute for Human-Centered AI fokusiraju se na transparentnost i reproduktivnost. Njihov cilj nije da prodaju proizvod, već da razumeju kako ovi sistemi funkcionišu. Oni objavljuju svoja otkrića, skupove podataka i metodologije obuke. Iako njihovi modeli možda ne odgovaraju uvek sirovoj snazi graničnih laboratorija, oni pružaju osnovu za ostatak industrije. Oni postavljaju pitanja koja komercijalne laboratorije možda izbegavaju, kao što je način na koji se formira pristrasnost ili kako učiniti obuku energetski efikasnijom. Njihov rad osigurava da nauka u ovoj oblasti ostane javno dobro, a ne korporativna tajna.

Konačno, tu su laboratorije za proizvode i korporativni zagovornici otvorenih težina. Meta i Mistral spadaju u ovu kategoriju. Oni objavljuju modele javnosti kako bi izgradili ekosistem. Čineći svoje težine dostupnim, oni podstiču hiljade developera da optimizuju svoj kod i grade kompatibilne alate. Ovo je strateški potez za suzbijanje dominacije zatvorenih platformi. Ako svi grade na vašoj arhitekturi, vi postajete industrijski standard. Ovaj pristup premošćuje jaz između čistog istraživanja i komercijalnih proizvoda. On omogućava nivo implementacije koji akademske laboratorije ne mogu da dostignu, uz zadržavanje nivoa slobode koji granične laboratorije ne dozvoljavaju.

Iluzija otvorenosti u modernom softveru

Termin open source se često koristi olako u ovoj industriji, što dovodi do značajne zabune. Pravi open source softver, kako ga definiše Open Source Initiative, zahteva da izvorni kod, uputstva za izgradnju i podaci budu slobodno dostupni. Većina modernih modela ne ispunjava ove kriterijume. Umesto toga, vidimo porast modela sa otvorenim težinama. U ovom podešavanju, kompanija pruža konačan rezultat procesa obuke, ali čuva podatke o obuci i recept u tajnosti. Ovo je ključna razlika. Možete pokrenuti model i videti kako se ponaša, ali ne možete ga lako ponovo stvoriti od nule niti znati tačno koje informacije su mu servirane tokom stvaranja.

Marketinški jezik često dodatno komplikuje ovo korišćenjem termina kao što su permisivne ili licencne zajednice. Ove licence često uključuju klauzule koje ograničavaju način na koji model mogu koristiti veoma velike kompanije ili za specifične zadatke. Iako su ovi modeli mnogo pristupačniji od zatvorenog API-ja, oni nisu uvek besplatni u tradicionalnom smislu. Ovo stvara spektar otvorenosti. Na jednom kraju imate potpuno zatvorene modele kao što je GPT-4. U sredini imate modele sa otvorenim težinama kao što je Llama 3. Na dalekom kraju imate projekte koji objavljuju sve, uključujući podatke. Razumevanje gde se model nalazi na ovom spektru je od vitalnog značaja za svako preduzeće ili developera koji planira dugoročno.

Prednosti ovog polu-otvorenog pristupa su i dalje ogromne. On omogućava lokalni hosting, što je uslov za mnoge industrije sa strogim pravilima o suverenitetu podataka. Takođe omogućava fine-tuning, gde se model obučava na maloj količini specifičnih podataka kako bi postao stručnjak u određenoj oblasti. Ovaj nivo kontrole je nemoguć sa zatvorenim API-jem. Međutim, moramo biti precizni o tome šta je zaista otvoreno. Ako kompanija može da opozove vašu licencu ili ako su podaci o obuci misterija, vi i dalje radite unutar sistema koji je dizajnirao neko drugi. Trenutni trend ide ka većoj transparentnosti, ali još nismo u tački gde su najmoćniji modeli zaista open source.

Lokalna kontrola u eri cloud giganata

Za developera koji radi u okruženju visoke bezbednosti, prelazak na otvorene težine je praktična neophodnost. Zamislite vodećeg inženjera u finansijskoj firmi srednje veličine. U prošlosti, morali bi da šalju osetljive podatke klijenata na server treće strane kako bi dobili prednosti velikog jezičkog modela. Ovo je stvorilo ogroman rizik po privatnost i zavisnost od dostupnosti eksternog provajdera. Danas taj inženjer može da preuzme model visokih performansi i pokrene ga na internom serveru. Oni imaju potpunu kontrolu nad protokom podataka. Mogu modifikovati model da razume specifičan žargon firme i pravila usklađenosti. Ovo nije samo pogodnost. To je fundamentalna promena u tome kako kompanija upravlja svojom najvrednijom imovinom, svojim podacima.

Dan u životu ovog inženjera se značajno promenio. Umesto upravljanja API ključevima i brige o ograničenjima brzine (rate limits), oni provode vreme optimizujući lokalnu inferenciju. Mogu koristiti alat kao što je Hugging Face da pronađu verziju modela koja je komprimovana da stane na njihov raspoloživi hardver. Mogu pokretati testove u 3 ujutru bez brige o ceni svakog generisanog tokena. Ako model napravi grešku, mogu pogledati težine i pokušati da razumeju zašto, ili mogu koristiti fine-tuning da je isprave. Ovaj nivo autonomije bio je nezamisliv za većinu preduzeća pre samo dve godine. To omogućava brži ciklus iteracije i robusniji finalni proizvod.

Ova sloboda se proteže i na individualnog korisnika. Pisac ili istraživač može pokrenuti model na svom laptopu koji nema filter dizajniran od strane komiteta u Silicijumskoj dolini. Oni mogu istraživati ideje i generirati sadržaj bez posrednika koji odlučuje šta je prikladno. Ovo je razlika između iznajmljivanja alata i posedovanja istog. Dok cloud giganti nude ispolirano iskustvo koje je lako za korišćenje, otvoreni ekosistem nudi nešto vrednije: agenciju. Kako hardver postaje moćniji, a modeli efikasniji, broj ljudi koji pokreću ove sisteme lokalno će samo rasti. Ovaj decentralizovani pristup osigurava da prednosti ove tehnologije nisu ograničene samo na one koji mogu priuštiti skupe mesečne pretplate.

Ova promena već menja način na koji se softver gradi i implementira u svakoj industriji.

Preduzeća takođe otkrivaju da su otvoreni modeli zaštita od rizika platforme. Ako zatvoreni provajder promeni svoje cene ili uslove korišćenja, kompanija izgrađena na tom API-ju je u problemu. Korišćenjem otvorenih težina, kompanija može promeniti hardverske provajdere ili premestiti ceo svoj stack na drugi cloud bez gubitka svoje osnovne inteligencije. Ova fleksibilnost pokreće mnogo usvajanja koje vidimo danas. Više nije reč o tome koji model je malo bolji na benchmark-u. Radi se o tome koji model daje poslovanju najviše dugoročne stabilnosti. Nedavna poboljšanja u open source AI ekosistemu učinila su ovo održivom strategijom za kompanije svih veličina.

Visoka cena besplatnih modela

Uprkos uzbuđenju, moramo postaviti teška pitanja o skrivenim troškovima otvorenosti. Pokretanje velikog modela lokalno nije besplatno. Zahteva značajna ulaganja u hardver, posebno high-end GPU-ove sa puno memorije. Za mnoga mala preduzeća, trošak kupovine i održavanja ovog hardvera može premašiti cenu API pretplate tokom nekoliko godina. Tu su i troškovi električne energije i potreba za specijalizovanim talentima za upravljanje implementacijom. Da li jednostavno menjamo pretplatu na softver za račun za hardver i energiju? Ekonomska realnost lokalne AI je kompleksnija nego što naslovi sugerišu.

Имате причу о вештачкој интелигенцији, алат, тренд или питање које мислите да бисмо требали да покријемо? Пошаљите нам своју идеју за чланак — волели бисмо да је чујемо.

Privatnost je još jedna oblast u kojoj je potreban skepticizam. Iako je lokalno pokretanje modela bolje za bezbednost podataka, sami modeli su često obučeni na podacima prikupljenim sa interneta bez pristanka. Da li vas korišćenje otvorenog modela čini saučesnikom u ovoj praksi? Štaviše, ako je model otvoren, otvoren je i za loše aktere. Isti alati koji lekaru omogućavaju da sumira medicinske beleške mogu biti korišćeni od strane hakera za automatizaciju phishing napada. Kako balansirati prednosti demokratizacije sa rizicima zloupotrebe? Laboratorije koje objavljuju svoje težine često tvrde da će zajednica pružiti neophodne bezbednosne provere, ali ovo je tvrdnja koju je teško verifikovati. Moramo razmotriti da li je nedostatak centralizovanog nadzora funkcija ili mana.

Konačno, moramo pogledati održivost otvorenog modela. Obuka ovih sistema košta milione dolara. Ako kompanije poput Meta ili Mistral odluče da više nije u njihovom interesu da objavljuju svoje težine, napredak otvorene zajednice bi mogao da stane. Trenutno imamo koristi od korporativne strategije koja favorizuje otvorenost radi sticanja tržišnog udela. Ako se ta strategija promeni, zajednica bi se ponovo mogla naći godinama iza graničnih laboratorija. Da li je moguće izgraditi zaista nezavisan model visokih performansi bez podrške korporacije vredne više milijardi dolara? Trenutno oslanjanje na korporativnu darežljivost je potencijalna tačka kvara za ceo pokret.

Ispod haube lokalne inferencije

Za naprednog korisnika, pravi posao se dešava u integraciji ovih modela u postojeće radne procese. Jedan od najvećih izazova je zahtev za hardverom. Da biste pokrenuli model sa 70 milijardi parametara, obično vam je potrebno najmanje dva high-end potrošačka GPU-a ili profesionalna kartica sa 48GB VRAM-a. Ovo je dovelo do uspona tehnika kvantizacije. Smanjenjem preciznosti težina modela sa 16-bit na 4-bit ili čak 2-bit, developeri mogu da uklope mnogo veće modele na jeftiniji hardver. Ovaj proces uključuje blagi kompromis u tačnosti, ali za većinu zadataka razlika je zanemarljiva. Alati kao što je Llama.cpp omogućili su pokretanje ovih modela na standardnim CPU-ovima i Mac hardveru, značajno snižavajući barijeru za ulazak.

Još jedan kritičan faktor je API limit. Kada koristite zatvorenog provajdera, često ste ograničeni brojem zahteva koje možete poslati po minutu. Sa lokalnim modelom, vaše jedino ograničenje je brzina vašeg hardvera. Ovo omogućava kompleksne radne procese gde se model poziva stotinama puta u jednom procesu. Na primer, developer može koristiti model za analizu hiljada linija koda ili za generisanje celog sintetičkog skupa podataka za testiranje. Ovi zadaci bi bili preskupi i spori na cloud API-ju. Lokalno skladištenje takođe omogućava korišćenje masivnih kontekstualnih prozora. Možete uneti celu biblioteku dokumenata u model bez brige o ceni ulaznih tokena.

Integracija radnog procesa takođe postaje sofisticiranija. Developeri koriste framework-e koji im omogućavaju da menjaju modele uz pomoć jedne linije koda. To znači da sistem može koristiti mali, brzi model za jednostavne zadatke i veliki, spori model za kompleksno rezonovanje. Ovaj hibridni pristup optimizuje i troškove i performanse. Međutim, i dalje postoje prepreke. Lokalnim modelima često nedostaju ispolirani bezbednosni filteri i opsežna dokumentacija njihovih zatvorenih pandana. Postavljanje robusnog lokalnog okruženja zahteva duboko razumevanje Linux-a, Python-a i GPU drajvera. Za one koji to mogu da savladaju, nagrada je nivo performansi i privatnosti koji nijedan cloud provajder ne može da parira.

Novi standard za javnu tehnologiju

Konkurencija između otvorenih i zatvorenih modela je najvažnija priča u tehnologiji danas. To je bitka oko fundamentalne arhitekture interneta. Ako zatvoreni modeli pobede, budućnost AI će izgledati kao trenutne prodavnice mobilnih aplikacija, sa dva ili tri giganta koji kontrolišu šta je moguće. Ako otvoreni modeli nastave svoju trenutnu putanju, budućnost će više ličiti na sam web, decentralizovanu mrežu gde svako može da gradi i inovira. Nedavni pomak ka otvorenim težinama visokog kvaliteta je snažan znak da je ovo drugo verovatnije. To je ubedljiva vizija sveta u kojem je inteligencija komunalna usluga, a ne luksuz.

Kako ulazimo u 2027, fokus će se verovatno pomeriti sa sirovih performansi modela na ekosistem koji okružuje ove modele. Pobednik neće biti kompanija sa najvišim benchmark rezultatom, već ona koja drugima najviše olakšava izgradnju. Udaljenost između istraživačkog rada i korisnog proizvoda je i dalje velika, ali otvorena zajednica gradi mostove potrebne za prelazak. Ovo je vreme brzih promena, a izbori koje danas naprave developeri i preduzeća definisaće tehnološko okruženje za narednu deceniju. Era zatvorene kutije se završava, a era otvorenih težina tek počinje.

Napomena urednika: Kreirali smo ovaj sajt kao višejezični centar za vesti i vodiče o veštačkoj inteligenciji za ljude koji nisu kompjuterski genijalci, ali ipak žele da razumeju veštačku inteligenciju, koriste je sa više samopouzdanja i prate budućnost koja već stiže.

Пронашли сте грешку или нешто што треба исправити? Јавите нам.