Miksi pienet malliparannukset luovat suuria muutoksia
Kilpajuoksu mahdollisimman suuren tekoälymallin rakentamiseksi on törmännyt tuottavuuden vähenemisen seinään. Vaikka otsikot keskittyvät usein valtaviin, biljoonien parametrien järjestelmiin, todellinen kehitys tapahtuu marginaalissa. Pienet parannukset siinä, miten nämä mallit käsittelevät dataa, luovat valtavia muutoksia siihen, mitä ohjelmistot voivat päivittäin tehdä. Olemme siirtymässä ajasta, jolloin raaka skaala oli ainoa merkityksellinen mittari. Nykyään keskitytään siihen, kuinka paljon