Miksi avoimet mallit merkitsevät, vaikka et lataisi niitä

Nykyaikaisen tietotekniikan näkymätön suojakaide

Avoimet mallit ovat nykymaailman hiljainen infrastruktuuri. Vaikka et koskaan lataisi tiedostoa Hugging Facesta tai pyörittäisi paikallista palvelinta, nämä mallit määrittelevät hinnan, jonka maksat suljetuista palveluista, ja nopeuden, jolla uudet ominaisuudet saapuvat. Ne toimivat kilpailullisena pohjatasona. Ilman niitä kourallinen yrityksiä hallitsisi täydellisesti vuosisadan tärkeintä teknologiaa. Avoimet mallit tarjoavat kyvykkyyden perustason, joka pakottaa suuret pelurit jatkamaan innovointia ja pitämään hinnoittelunsa edes jollain lailla järkevänä. Tämä ei ole vain harrastajien hupia tai tutkijoiden niche-aluetta. Se on perustavanlaatuinen muutos siinä, miten valta jakautuu teknologia-alalla. Kun Llaman kaltainen malli julkaistaan, se asettaa uuden standardin sille, mikä on mahdollista kuluttajalaitteilla. Tämä paine varmistaa, että päivittäin käyttämäsi suljetut mallit pysyvät terävinä ja edullisina. Tämän avoimuuden vivahteiden ymmärtäminen on ensimmäinen askel sen näkemiseen, mihin ala on menossa.

Avoimuuden markkinapuheen purkaminen

Avoimuuden merkityksestä tässä yhteydessä vallitsee paljon hämmennystä. Todellinen open source -ohjelmisto antaa kenen tahansa nähdä koodin, muokata sitä ja levittää sitä. Suurten kielimallien maailmassa tämä määritelmä muuttuu sotkuiseksi. Useimmat mallit, joita kutsutaan avoimeksi lähdekoodiksi, ovat itse asiassa open weight -malleja. Tämä tarkoittaa, että yritys on julkaissut mallin lopulliset koulutetut parametrit, mutta ne eivät ole julkaisseet massiivisia datasettejä, joita käytettiin sen kouluttamiseen, tai erityisiä puhdistusskriptejä, joilla data käsiteltiin. Ilman dataa mallia ei voi todella replikoida tyhjästä. Kädessäsi on vain valmis tuote. Sitten on olemassa sallivat lisenssit. Jotkut yritykset käyttävät omia lisenssejään, jotka näyttävät avoimilta, mutta sisältävät rajoituksia kaupalliseen käyttöön tai erityisiä lausekkeita, jotka estävät kilpailijoita käyttämästä mallia. Esimerkiksi malli saattaa olla ilmainen yksityishenkilöille, mutta vaatii maksullisen lisenssin, jos yritykselläsi on yli 700 miljoonaa kuukausittaista aktiivista käyttäjää. Tämä on kaukana perinteisistä GPL- tai MIT-lisensseistä, joiden varaan internet rakennettiin. Näemme myös markkinointikieltä, joka käyttää sanaa ”avoin” kuvaamaan API-rajapintaa, joka on julkisesti saatavilla mutta täysin yhden yrityksen hallinnassa. Se ei ole lainkaan avointa. Se on vain tuote, jossa on julkinen sisäänkäynti. Aidosti avoimet mallit antavat sinun ladata tiedostot ja ajaa niitä omalla laitteistollasi ilman internet-yhteyttä. Tämä ero on elintärkeä, koska se määrittää, kenen käsissä on lopullinen sammutuskytkin. Jos luotat API-rajapintaan, palveluntarjoaja voi muuttaa sääntöjä tai sulkea palvelun milloin tahansa. Jos painoarvot ovat omalla kovalevylläsi, omistat kyvykkyyden itse.

Miksi valtiot panostavat julkisiin painoarvoihin

Näiden mallien globaalia vaikutusta on vaikea yliarvioida. Monille maille tukeutuminen vain muutamaan yhdysvaltalaiseen yritykseen koko tekoälyinfrastruktuurissaan on merkittävä riski kansalliselle digitaaliselle suvereniteetille. Hallitukset Euroopassa ja Aasiassa katsovat yhä enemmän avoimiin malleihin rakentaakseen omia paikallisia versioitaan tekoälystä. Tämä antaa niille mahdollisuuden varmistaa, että mallit heijastavat niiden kulttuurisia arvoja ja kielellisiä vivahteita, eivätkä vain Piilaakson näkemyksiä. Se pitää myös datan rajojen sisällä, mikä on suuri huoli yksityisyyden ja tietoturvan kannalta. Myös pienet ja keskisuuret yritykset hyötyvät tästä. Ne voivat rakentaa erikoistuneita työkaluja ilman pelkoa siitä, että niiden ydinteknologia viedään alta. Avoimet mallit laskevat myös kynnystä kehittäjille kehittyvillä markkinoilla. Joku Lagosissa tai Jakartassa voi päästä käsiksi samaan huipputeknologiaan kuin joku San Franciscossa, kunhan hänellä on laitteisto sen ajamiseen. Tämä tasoittaa pelikenttää tavalla, johon suljetut API-rajapinnat eivät koskaan pysty. Näiden mallien olemassaolo luo myös valtavan ekosysteemin oheistyökaluja. Kehittäjät luovat tapoja saada mallit toimimaan nopeammin tai käyttämään vähemmän muistia. Tämä yhteisöllinen innovaatio liikkuu paljon nopeammin kuin mikään yksittäinen yritys pystyisi. Se luo palautteen kierteen, jossa avoimet parannukset löytävät lopulta tiensä takaisin niihin suljettuihin malleihin, joita me kaikki käytämme.

Päivä ilman pilveä

Katsotaanpa, miten tämä näkyy ohjelmistokehittäjä Sarahin tyypillisessä päivässä. Sarah työskentelee lääketieteellisessä startupissa, joka käsittelee arkaluonteista potilasdataa. Hänen yrityksensä ei voi käyttää cloud-pohjaista tekoälyä, koska tietomurron riski on liian suuri ja sääntelyesteet liian korkeat. Sen sijaan Sarah käyttää open weight -mallia, joka pyörii suojatulla paikallisella palvelimella. Aamulla hän käyttää mallia apunaan monimutkaisen koodinpätkän refaktoroinnissa. Koska malli on paikallinen, hänen ei tarvitse murehtia siitä, että hänen liikesalaisuuksiaan käytettäisiin kaupallisen tekoälyn tulevan version kouluttamiseen. Myöhemmin hän käyttää mallin hienosäädettyä versiota potilasmuistiinpanojen tiivistämiseen. Tämä kyseinen malli on koulutettu lääketieteellisellä terminologialla, mikä tekee siitä tarkemman hänen tarpeisiinsa kuin yleiskäyttöinen malli. Lounastauolla Sarah lukee AI-alan analyysia käsittelevän blogikirjoituksen paikallisen päättelyn uusimmista trendeistä. Hän tajuaa, että hän voi optimoida työnkulkuaan entisestään. Iltapäivällä hän kokeilee uutta kvantisointitekniikkaa, jonka avulla hän voi ajaa suurempaa mallia nykyisellä laitteistollaan. Tämä on avoimen ekosysteemin kauneus. Hän ei odota, että suuri teknologiayhtiö julkaisee uuden ominaisuuden. Hän voi toteuttaa sen itse yhteisön luomilla työkaluilla. Päivän päätteeksi hän on parantanut tiivistystyökalunsa tarkkuutta viidellätoista prosentilla. Tämä skenaario on yleistymässä monilla aloilla. Asianajotoimistoista luoviin toimistoihin ihmiset huomaavat, että avoimien mallien tarjoama hallinta ja yksityisyys ovat vaivan arvoisia. He rakentavat työkaluja, jotka on räätälöity heidän erityistarpeisiinsa, sen sijaan että yrittäisivät survoa ongelmiaan geneerisen tekoälyavustajan laatikkoon. Tämä muutos näkyy myös koulutussektorilla. Yliopistot käyttävät avoimia malleja opettaakseen opiskelijoille, miten tekoäly toimii konepellin alla. He voivat tarkastella painoarvoja ja kokeilla erilaisia koulutustekniikoita. Tämä luo osaavampaa työvoimaa tulevaisuutta varten. Mahdollisuus ajaa näitä järjestelmiä offline-tilassa tarkoittaa myös sitä, että tutkijat syrjäisillä alueilla voivat jatkaa työtään ilman vakaata internet-yhteyttä.

Ilmaisen ohjelmiston kallis hinta

Vaikka hyödyt ovat selkeät, meidän on esitettävä vaikeita kysymyksiä tämän avoimuuden todellisesta hinnasta. Kuka oikeasti maksaa näiden mallien kouluttamiseen tarvittavasta massiivisesta laskentatehosta? Jos Metan kaltainen yritys kuluttaa satoja miljoonia dollareita mallin kouluttamiseen ja antaa sitten painoarvot ilmaiseksi, mikä on heidän pitkän aikavälin suunnitelmansa? Onko tämä tapa nujertaa pienemmät kilpailijat, joilla ei ole varaa antaa tuotteitaan ilmaiseksi? Meidän on myös pohdittava turvallisuusriskejä. Jos malli on todella avoin, se tarkoittaa, että turva-aidat voidaan poistaa. Tämä voi antaa pahantahtoisille toimijoille mahdollisuuden käyttää teknologiaa haitallisiin tarkoituksiin, kuten deepfake-videoiden luomiseen tai haitallisen koodin generointiin. Miten tasapainotamme avoimen innovaation tarpeen ja yleisen turvallisuuden?

Toinen huolenaihe on laitteiston piilokustannukset. Näiden mallien ajaminen paikallisesti vaatii tehokkaita GPU-prosessoreita, jotka ovat kalliita ja kuluttavat paljon sähköä. Onko avoimien mallien vapaus vain niiden saatavilla, joilla on varaa laitteistoon? Entä data? Jos emme tiedä, mitä dataa näiden mallien kouluttamiseen on käytetty, miten voimme olla varmoja, etteivät ne ole puolueellisia tai loukkaa tekijänoikeuksia? Open Source Initiative on työskennellyt näiden standardien määrittelemiseksi, mutta ala liikkuu nopeammin kuin sääntely. Meidän on myös kysyttävä, käytetäänkö termiä ”avoin” kilpenä sääntelyn välttämiseksi. Väittämällä mallejaan avoimiksi yritykset saattavat yrittää siirtää vastuun mallien käytöstä loppukäyttäjille. Nämä eivät ole helppoja kysymyksiä vastattavaksi, mutta ne ovat välttämättömiä kaikille, jotka yrittävät ymmärtää alan tulevaisuutta.

Paikallisen päättelyn konepellin alla

Niille, jotka haluavat integroida nämä mallit ammatillisiin työnkulkuihinsa, tekniset yksityiskohdat merkitsevät. Yleisin tapa ajaa näitä malleja paikallisesti on erikoistuneiden kehysten kautta. Nämä työkalut käyttävät kvantisointia pienentääkseen mallien kokoa, jolloin ne mahtuvat kuluttaja-GPU:iden VRAM-muistiin. Esimerkiksi malli, joka alun perin vaatii 40 Gt muistia, voidaan pakata 8 gigatavuun laadun kärsimättä merkittävästi. Tämä tehdään muuttamalla painoarvojen tarkkuutta 16 bitistä 4 bittiin tai jopa alemmas. Mitä tulee API-rajapintoihin, monet avoimet mallit ovat saatavilla palveluntarjoajien, kuten Hugging Face tai Together AI, kautta. Nämä palvelut tarjoavat paljon korkeampia käyttörajat kuin suljetut tarjoajat, mikä tekee niistä ihanteellisia suuren volyymin sovelluksiin. Todellinen voima tulee kuitenkin paikallisesta tallennuksesta ja hienosäädöstä. Käyttämällä LoRA-tekniikoita voit kouluttaa mallin omalla datallasi muutamassa tunnissa yhdellä GPU:lla. Tämä luo erittäin erikoistuneen työkalun, joka päihittää paljon suuremmat mallit tietyissä tehtävissä. Sinun on myös otettava huomioon konteksti-ikkuna. Monet avoimet mallit tukevat nykyään 32k tai jopa 128k tokenin konteksti-ikkunoita, mikä mahdollistaa kokonaisten asiakirjojen käsittelyn kerralla. Näiden mallien integrointi olemassa oleviin ohjelmistoihin helpottuu standardoitujen API-rajapintojen ansiosta. Tämä tarkoittaa, että voit usein vaihtaa suljetusta mallista avoimeen vaihtamalla vain yhden koodirivin sovelluksessasi. Odotamme näiden työkalujen tulevan entisestään helpommin lähestyttäviksi tavalliselle kehittäjälle.

• Llama.cpp monialustaiseen CPU- ja GPU-päättelyyn
• Ollama yksinkertaistettuun paikalliseen mallien hallintaan

Lopullinen tuomio valinnanvapaudesta

Valinta avoimien ja suljettujen mallien välillä ei ole joko-tai-kysymys. Useimmat ihmiset käyttävät jatkossakin molempien yhdistelmää. Suljetut mallit yrityksiltä, kuten Meta AI tai muut, tarjoavat mukavuutta, hiottua käyttökokemusta ja huippusuoritustasoa yleisiin tehtäviin. Avoimet mallit tarjoavat hallintaa, yksityisyyttä ja mahdollisuuden erikoistua. Vaikka et koskaan itse lataisi mallia, se, että muut voivat tehdä niin, pitää koko alan rehellisenä. Se varmistaa, että tekoäly pysyy työkaluna kaikille, eikä vain harvojen varjeltuna salaisuutena. Avoimen yhteisön vetämä kilpailu on teknologian maailman voimakkain hyvää tekevä voima tänään. Se pakottaa läpinäkyvyyteen ja demokratisoi pääsyn kaikkien aikojen tehokkaimpiin työkaluihin.

Onko sinulla tekoälytarinaa, -työkalua, -trendiä tai kysymystä, jonka mielestäsi meidän pitäisi käsitellä? Lähetä meille artikkeli-ideasi — kuulisimme sen mielellämme.

Toimittajan huomautus: Loimme tämän sivuston monikieliseksi tekoälyuutisten ja -oppaiden keskukseksi ihmisille, jotka eivät ole tietokonenörttejä, mutta haluavat silti ymmärtää tekoälyä, käyttää sitä luottavaisemmin ja seurata jo saapuvaa tulevaisuutta.

Löysitkö virheen tai jotain korjattavaa? Kerro meille.