Waarom open modellen ertoe doen (ook als je ze niet downloadt)

De onzichtbare vangrail van de moderne computerwereld

Open modellen zijn de stille infrastructuur van de moderne wereld. Zelfs als je nooit een bestand van Hugging Face downloadt of een lokale server draait, bepalen deze modellen de prijs die je betaalt voor commerciële diensten en de snelheid waarmee nieuwe functies verschijnen. Ze fungeren als een competitieve ondergrens. Zonder hen zou een handjevol bedrijven een totaal monopolie hebben op de belangrijkste technologie van deze eeuw. Open modellen bieden een basisniveau aan mogelijkheden dat de grote spelers dwingt om te blijven innoveren en hun prijzen enigszins redelijk te houden. Dit is niet zomaar een hobby voor enthousiastelingen of een niche voor onderzoekers; het is een fundamentele verschuiving in hoe de macht in de tech-industrie is verdeeld. Wanneer een model als Llama uitkomt, zet dat een nieuwe standaard voor wat er mogelijk is op consumentenhardware. Deze druk zorgt ervoor dat de gesloten modellen die je dagelijks gebruikt scherp en betaalbaar blijven. Het begrijpen van de nuances van deze openheid is de eerste stap om te zien waar de sector naartoe gaat.

De marketingtaal van ‘openheid’ ontcijferen

Er is veel verwarring over wat ‘open’ in deze context precies betekent. Bij echte open source software kan iedereen de code inzien, aanpassen en verspreiden. In de wereld van large language models wordt die definitie wat vaag. De meeste modellen die mensen open source noemen, zijn eigenlijk open weight modellen. Dit betekent dat het bedrijf de uiteindelijke getrainde parameters van het model heeft vrijgegeven, maar niet de enorme datasets die zijn gebruikt om het te trainen, of de specifieke scripts om die data te cleansen. Zonder die data kun je het model niet echt vanaf nul reproduceren; je hebt alleen het eindproduct. Dan zijn er nog de permissieve licenties. Sommige bedrijven gebruiken aangepaste licenties die open lijken, maar beperkingen hebben voor commercieel gebruik of clausules die voorkomen dat concurrenten het model gebruiken. Een model kan bijvoorbeeld gratis zijn voor individuen, maar een betaalde licentie vereisen als je bedrijf meer dan 700 miljoen actieve maandelijkse gebruikers heeft. Dat staat ver af van de traditionele GPL- of MIT-licenties waar het internet op gebouwd is. We zien ook marketingtermen waarbij ‘open’ wordt gebruikt om een API te beschrijven die weliswaar publiek toegankelijk is, maar volledig wordt beheerd door één bedrijf. Dat is helemaal niet open; het is gewoon een product met een publieke ingang. Echt open modellen laten je de bestanden downloaden en ze op je eigen hardware draaien zonder internetverbinding. Dit onderscheid is essentieel, omdat het bepaalt wie de uiteindelijke ‘kill switch’ in handen heeft. Als je afhankelijk bent van een API, kan de provider de regels veranderen of de stekker eruit trekken. Als je de weights op je harde schijf hebt staan, ben jij de baas over de technologie.

Waarom landen inzetten op publieke weights

De wereldwijde impact van deze modellen is moeilijk te overschatten. Voor veel landen is het een groot risico voor hun nationale digitale soevereiniteit om voor hun volledige AI-infrastructuur afhankelijk te zijn van een paar Amerikaanse bedrijven. Overheden in Europa en Azië kijken steeds vaker naar open modellen om hun eigen lokale versies van AI te bouwen. Hiermee kunnen ze ervoor zorgen dat de modellen hun culturele waarden en taalkundige nuances weerspiegelen, in plaats van alleen die van Silicon Valley. Bovendien blijft de data zo binnen de landsgrenzen, wat cruciaal is voor privacy en veiligheid. Ook het mkb profiteert hiervan. Ze kunnen gespecialiseerde tools bouwen zonder de angst dat hun kerntechnologie plotseling wordt ingetrokken. Open modellen verlagen daarnaast de drempel voor ontwikkelaars in opkomende markten. Iemand in Lagos of Jakarta heeft toegang tot dezelfde state-of-the-art technologie als iemand in San Francisco, mits ze de hardware hebben om het te draaien. Dit creëert een gelijk speelveld op een manier die commerciële API’s nooit kunnen. Het bestaan van deze modellen zorgt ook voor een gigantisch ecosysteem van secundaire tools. Ontwikkelaars bedenken manieren om modellen sneller te laten draaien of minder geheugen te laten gebruiken. Deze collectieve innovatie gaat veel sneller dan welk individueel bedrijf dan ook. Het creëert een feedbackloop waarbij open verbeteringen uiteindelijk hun weg terugvinden naar de commerciële modellen die we allemaal gebruiken.

Een dag zonder de cloud

Laten we eens kijken hoe dit eruitziet in de praktijk voor Sarah, een softwareontwikkelaar. Sarah werkt voor een medische startup die gevoelige patiëntgegevens verwerkt. Haar bedrijf kan geen AI uit de cloud gebruiken omdat het risico op een datalek te groot is en de regeldruk te hoog. In plaats daarvan gebruikt Sarah een open weight model dat op een beveiligde lokale server draait. ’s Ochtends helpt het model haar bij het refactoren van een complex stuk code. Omdat het model lokaal draait, hoeft ze niet bang te zijn dat haar bedrijfseigen code wordt gebruikt om een toekomstige versie van een commerciële AI te trainen. Later gebruikt ze een fine-tuned versie van het model om patiëntnotities samen te vatten. Dit specifieke model is getraind op medische terminologie, waardoor het voor haar werk nauwkeuriger is dan een algemeen model. Tijdens de lunch leest Sarah een blogpost over AI-industrieanalyses over de nieuwste trends in lokale inference. Ze beseft dat ze haar workflow nog verder kan optimaliseren. ’s Middags experimenteert ze met een nieuwe quantization-techniek waarmee ze een groter model op haar huidige hardware kan draaien. Dat is de schoonheid van het open ecosysteem: ze hoeft niet te wachten tot een techreus een nieuwe functie uitbrengt, ze kan het zelf implementeren met tools uit de community. Aan het eind van de dag heeft ze de nauwkeurigheid van haar samenvattingstool met vijftien procent verbeterd. Dit scenario wordt steeds gewoner in tal van sectoren. Van advocatenkantoren tot creatieve bureaus, mensen ontdekken dat de controle en privacy van open modellen de extra moeite van het instellen waard zijn. Ze bouwen tools die precies passen bij hun behoeften, in plaats van hun problemen in het keurslijf van een generieke AI-assistent te dwingen. Deze verschuiving is ook zichtbaar in het onderwijs. Universiteiten gebruiken open modellen om studenten te leren hoe AI onder de motorkap werkt. Ze kunnen de weights inspecteren en experimenteren met verschillende trainingstechnieken. Dit zorgt voor een beter geïnformeerde beroepsbevolking. En omdat deze systemen offline kunnen draaien, kunnen onderzoekers in afgelegen gebieden hun werk voortzetten zonder stabiel internet.

De hoge prijs van gratis software

Hoewel de voordelen duidelijk zijn, moeten we ook kritische vragen stellen over de echte kosten van deze openheid. Wie betaalt er eigenlijk voor de enorme rekenkracht die nodig is om deze modellen te trainen? Als een bedrijf als Meta honderden miljoenen dollars uitgeeft om een model te trainen en de weights vervolgens weggeeft, wat is dan hun langetermijnplan? Is dit een manier om kleinere concurrenten uit te schakelen die het zich niet kunnen veroorloven hun producten gratis weg te geven? We moeten ook nadenken over de veiligheidsrisico’s. Als een model echt open is, kunnen de veiligheidsmarges worden verwijderd. Dit kan kwaadwillenden de kans geven de technologie te misbruiken voor deepfakes of schadelijke code. Hoe vinden we de balans tussen open innovatie en publieke veiligheid?

Een ander punt is de verborgen prijs van hardware. Het lokaal draaien van deze modellen vereist krachtige GPU’s die duur zijn en veel stroom verbruiken. Is de vrijheid van open modellen alleen weggelegd voor wie de hardware kan betalen? En hoe zit het met de data? Als we niet weten welke data is gebruikt om deze modellen te trainen, hoe weten we dan zeker dat ze niet bevooroordeeld zijn of auteursrechten schenden? Het Open Source Initiative werkt hard aan het definiëren van deze standaarden, maar de industrie gaat sneller dan de regelgeving. We moeten ons ook afvragen of de term ‘open’ niet wordt gebruikt als schild om regulering te ontwijken. Door te claimen dat hun modellen open zijn, proberen bedrijven de verantwoordelijkheid voor het gebruik ervan misschien af te schuiven op de eindgebruiker. Dit zijn geen makkelijke vragen, maar ze zijn essentieel voor iedereen die de toekomst van de sector wil begrijpen.

Onder de motorkap van lokale inference

Voor wie deze modellen in een professionele workflow wil integreren, doen de technische details ertoe. De meest gebruikelijke manier om deze modellen lokaal te draaien is via gespecialiseerde frameworks. Deze tools gebruiken quantization om de omvang van modellen te verkleinen, zodat ze in het VRAM van consumenten-GPU’s passen. Een model dat oorspronkelijk 40GB geheugen vereist, kan bijvoorbeeld worden gecomprimeerd tot 8GB met minimaal kwaliteitsverlies. Dit gebeurt door de precisie van de weights te veranderen van 16-bit naar 4-bit of zelfs lager. Wat API’s betreft, zijn veel open modellen beschikbaar via providers zoals Hugging Face of Together AI. Deze diensten bieden vaak hogere rate limits dan commerciële providers, wat ze ideaal maakt voor toepassingen met veel volume. De echte kracht zit echter in lokale opslag en fine-tuning. Met technieken als LoRA kun je een model in een paar uur op je eigen data trainen op een enkele GPU. Zo creëer je een zeer gespecialiseerde tool die op specifieke taken beter presteert dan veel grotere modellen. Let ook op het context window. Veel open modellen ondersteunen inmiddels context windows van 32k of zelfs 128k tokens, waardoor je hele documenten in één keer kunt verwerken. De integratie van deze modellen in bestaande software wordt steeds makkelijker dankzij gestandaardiseerde API’s. Hierdoor kun je vaak van een gesloten model overstappen naar een open model door slechts één regel code in je applicatie aan te passen. We verwachten dat deze tools in de toekomst nog toegankelijker worden voor de gemiddelde ontwikkelaar.

• Llama.cpp voor cross-platform CPU en GPU inference
• Ollama voor vereenvoudigd lokaal modelbeheer

Het eindoordeel over keuzevrijheid

De keuze tussen open en gesloten modellen is geen zwart-witverhaal. De meeste mensen zullen een mix van beide blijven gebruiken. Gesloten modellen van bedrijven zoals Meta AI of anderen bieden gemak, afwerking en state-of-the-art prestaties voor algemene taken. Open modellen bieden controle, privacy en de mogelijkheid tot specialisatie. Zelfs als je nooit zelf een model downloadt, zorgt het feit dat anderen dat wel kunnen ervoor dat de hele sector eerlijk blijft. Het garandeert dat AI een tool voor iedereen blijft, in plaats van een goedbewaard geheim voor een select groepje. De concurrentie vanuit de open community is momenteel de krachtigste drijfveer voor het goede in de techwereld. Het dwingt tot transparantie en democratiseert de toegang tot de krachtigste tools die ooit zijn gemaakt.

Heeft u een AI-verhaal, tool, trend of vraag die wij volgens u zouden moeten behandelen? Stuur ons uw artikelidee — we horen het graag.

Noot van de redactie: We hebben deze site gemaakt als een meertalige AI-nieuws- en gidsenhub voor mensen die geen computernerds zijn, maar toch kunstmatige intelligentie willen begrijpen, er met meer vertrouwen mee willen omgaan en de toekomst willen volgen die al aanbreekt.

Een fout gevonden of iets dat gecorrigeerd moet worden? Laat het ons weten.