Hvilke AI-verktøy føles fortsatt overhypet etter testing?

Gapet mellom en viral tech-demo og et faktisk nyttig kontorverktøy blir bare større. Vi befinner oss i en periode der markedsavdelinger lover magi, mens brukerne sitter igjen med glorifisert autoutfylling. Mange forventer at disse systemene skal «tenke», men de forutsier bare det neste ordet i en sekvens. Denne misforståelsen fører til frustrasjon når verktøyet feiler på enkel logikk eller dikter opp fakta. Hvis du trenger et verktøy som er 100 prosent pålitelig uten menneskelig tilsyn, bør du ignorere hele bølgen av generative assistenter. De er ikke klare for miljøer der nøyaktighet er det eneste som teller. Men hvis jobben din innebærer idémyldring eller grovutkast, finnes det nytteverdi begravd under støyen. Hovedpoenget er at vi overvurderer intelligensen til disse verktøyene, samtidig som vi undervurderer arbeidsmengden som kreves for å gjøre dem nyttige. Mesteparten av det du ser på sosiale medier er en nøye kuratert forestilling som faller sammen under presset av en vanlig arbeidsuke.

Prediksjonsmotorer i fin dress

For å forstå hvorfor så mange verktøy føles som en nedtur, må du forstå hva de faktisk er. Dette er store språkmodeller (LLMs). De er statistiske motorer trent på enorme datasett med menneskelig tekst. De har ikke noe begrep om sannhet, etikk eller fysisk virkelighet. Når du stiller et spørsmål, leter systemet etter mønstre i treningsdataene for å generere et svar som høres troverdig ut. Det er derfor de er så gode på poesi, men så dårlige på matte. De etterligner stilen til et korrekt svar i stedet for å utføre den underliggende logikken som kreves for å nå det. Dette skillet er kilden til den vanlige misforståelsen om at AI er en søkemotor. En søkemotor finner eksisterende informasjon. En LLM skaper en ny tekststreng basert på sannsynlighet. Dette er grunnen til at «hallusinasjoner» oppstår. Systemet gjør bare det det er bygget for, nemlig å fortsette å snakke til det treffer et stopp-token.

Markedet flommer over av «wrappers». Dette er enkle applikasjoner som bruker et API fra selskaper som OpenAI eller Anthropic, men legger til et tilpasset grensesnitt. Mange av disse oppstartsselskapene hevder å ha unik teknologi, men ofte er de bare den samme modellen med et annet skall. Du bør være skeptisk til ethvert verktøy som ikke forklarer sin underliggende arkitektur. Det finnes tre hovedtyper verktøy som testes i feltet nå:

• Tekstgeneratorer for e-poster og rapporter som ofte høres robotaktige ut.
• Bildegeneratorer som sliter med spesifikke detaljer som menneskehender eller tekst.
• Kodeassistenter som kan skrive «boilerplate», men sliter med kompleks logikk.

Realiteten er at disse verktøyene best kan ses på som praktikanter som har lest alle bøkene i verden, men aldri har levd i den. De krever konstant kontroll og spesifikke instruksjoner for å produsere noe av verdi. Hvis du forventer at de skal jobbe autonomt, vil du bli skuffet hver gang.

Den globale FOMO-økonomien

Presset for å ta i bruk disse verktøyene kommer ikke fra dokumentert effektivitet. Det kommer fra en global frykt for å gå glipp av noe (FOMO). Store selskaper bruker milliarder av dollar på lisenser fordi de er redde for at konkurrentene skal finne et hemmelig forsprang. Dette har skapt et merkelig økonomisk øyeblikk der etterspørselen etter AI er høy, men de faktiske produktivitetsgevinstene er vanskelige å måle. Ifølge forskning fra organisasjoner som Gartner, er mange av disse teknologiene for øyeblikket på toppen av «oppblåste forventninger». Dette betyr at en periode med desillusjon er uunngåelig når selskaper innser at det er mye vanskeligere å erstatte menneskelige arbeidere enn salgstalene antydet. Effekten merkes mest i utviklingsøkonomier der outsourcing en gang var den primære drivkraften for vekst. Nå blir de samme oppgavene automatisert av lavkvalitets-AI, noe som fører til et «kappløp mot bunnen» når det gjelder innholdskvalitet.

Vi ser et skifte i hvordan arbeid verdsettes. Evnen til å skrive en enkel e-post er ikke lenger en salgbar ferdighet. Verdien har skiftet til evnen til å verifisere og redigere. Dette skaper et nytt digitalt skille. De som har råd til de kraftigste modellene og har ferdighetene til å «prompte» dem effektivt, vil trekke fra. Alle andre blir sittende fast med gratis, enklere modeller som produserer generisk og ofte feilaktig innhold. Dette er ikke bare et tech-problem. Det er et økonomisk skifte som påvirker hvordan vi trener neste generasjon arbeidstakere. Hvis vi stoler for mye på disse systemene for enkle oppgaver, kan vi miste den menneskelige ekspertisen som trengs for å overvåke systemene i fremtiden. De nyeste AI-ytelsestestene hos [Insert Your AI Magazine Domain Here] viser at selv om modellene blir større, avtar forbedringstakten i resonnering. Dette tyder på at vi kan være i ferd med å nå et tak med dagens tilnærming til maskinlæring.

En tirsdag brukt på å fikse maskinen

Tenk på opplevelsen til Sarah, en prosjektleder i en mellomstor bedrift. Hun starter dagen med å be en AI-assistent oppsummere en lang e-posttråd fra kvelden før. Verktøyet leverer en ryddig punktliste. Det ser perfekt ut helt til hun innser at den totalt overså en endring i fristen nevnt i den tredje e-posten. Dette er den skjulte kostnaden ved AI. Sarah sparte fem minutter på lesing, men brukte ti minutter på å dobbeltsjekke oppsummeringen fordi hun ikke lenger stoler på verktøyet. Senere prøver hun å bruke en AI-bildegenerator for å lage et enkelt diagram til en presentasjon. Verktøyet gir henne en vakker grafikk, men tallene på aksene er bare tull. Hun ender opp med å bruke en time i et tradisjonelt designprogram for å fikse det som skulle være en ti-sekunders oppgave. Dette er den daglige virkeligheten for mange arbeidere. Verktøyene gir en «head start», men fører deg ofte i feil retning.

Problemet er at disse verktøyene er designet for å være selvsikre, ikke korrekte. De vil gi deg et feil svar med samme autoritære tone som et riktig et. Dette skaper en mental belastning for brukeren. Du kan aldri slappe helt av mens du bruker dem. For en skribent føles det ofte som å rydde opp i andres rot å bruke AI til et førsteutkast. Det er ofte raskere å skrive teksten fra bunnen av enn å fjerne klisjeene og den repeterende formuleringen som disse modellene foretrekker.

Dette innholdet ble produsert med assistanse fra kunstig intelligens for å sikre strukturell konsistens. Dette skaper et paradoks. Verktøyene skal spare tid, men ofte flytter de bare typen arbeid vi gjør. Vi går fra å være skapere til å bli vaktmestere for syntetiske data. Verktøyene som faktisk fungerer, er de som holder seg til sin egen oppgave. En stavekontroll som fikser en skrivefeil er nyttig. Et verktøy som prøver å skrive hele oppgaven din, er en belastning. Folk har en tendens til å overvurdere det kreative potensialet i disse systemene, samtidig som de undervurderer evnen deres til å fungere som et sofistikert arkivskap for menneskelig kunnskap.

Vanskelige spørsmål for ledelsen

Etter hvert som vi integrerer disse systemene dypere i livene våre, må vi spørre om de skjulte kostnadene. Hva skjer med personvernet vårt når hver prompt vi skriver brukes til å trene neste versjon av modellen? De fleste selskaper har ingen klar policy for datalagring. Hvis du mater et konfidensielt strategidokument inn i en offentlig LLM, kan den informasjonen teoretisk sett dukke opp igjen i en konkurrents spørring. Det er også miljøkostnaden. Trening og drift av disse modellene krever enorme mengder strøm og vann til kjøling av datasentre. En studie i Nature fremhever at karbonavtrykket til en enkelt spørring i en stor modell er betydelig høyere enn et vanlig søk. Er den lille bekvemmeligheten ved en generert e-post verdt den økologiske belastningen? Vi må også vurdere opphavsretten. Disse modellene ble trent på arbeidet til millioner av kunstnere og skribenter uten deres samtykke. Vi bruker i bunn og grunn en maskin bygget på stjålet arbeid.

Det er også spørsmålet om menneskelig intuisjon. Hvis vi outsourcer tenkningen vår til maskiner, mister vi evnen til å oppdage feil? Vi ser allerede en nedgang i kvaliteten på nettinnhold etter hvert som AI-genererte artikler oversvømmer internett. Dette skaper en feedback-loop der modeller trenes på output fra andre modeller, noe som fører til en forringelse av informasjon kjent som «model collapse». Hvis internett blir et hav av resirkulert AI-tekst, hvor skal de nye ideene komme fra? Dette er ikke bare tekniske hindringer. Det er fundamentale spørsmål om hvilken verden vi ønsker å bygge. Vi prioriterer for øyeblikket hastighet og volum fremfor nøyaktighet og originalitet. Dette kan fungere i noen år, men de langsiktige kostnadene for vår kollektive intelligens kan bli alvorlige. Vi må bestemme oss for om vi vil ha verktøy som hjelper oss å tenke, eller verktøy som tenker for oss.

Tekniske grenser for «power useren»

For de som vil gå utover det enkle chat-grensesnittet, blir begrensningene enda tydeligere. «Power users» ser ofte etter arbeidsflyt-integrasjoner og API-tilgang for å bygge tilpassede løsninger. Men de treffer snart veggen når det gjelder kontekstvinduer og token-grenser. Et kontekstvindu er mengden informasjon modellen kan «huske» i løpet av en samtale. Selv om noen modeller hevder å håndtere hele bøker, faller nøyaktigheten i hukommelsen betydelig midt i teksten. Dette er kjent som «lost in the middle»-fenomenet. Hvis du bygger et automatisert system, må du også håndtere «rate limits». De fleste leverandører begrenser hvor mange forespørsler du kan gjøre per minutt, noe som gjør det vanskelig å skalere et verktøy for en stor brukerbase uten betydelige kostnader. Prisingen er også volatil, ettersom selskaper prøver å finne ut hvordan de skal gjøre disse dyre systemene lønnsomme.

Har du en AI-historie, et verktøy, en trend eller et spørsmål du synes vi bør dekke? Send oss din artikkelidé — vi vil gjerne høre den.

Lokal lagring og lokal inferens blir den foretrukne veien for personvernbevisste nerder. Verktøy som Ollama eller LM Studio lar deg kjøre modeller på din egen maskinvare. Dette løser personvernproblemet, men introduserer en maskinvareflaskehals. For å kjøre en høykvalitetsmodell lokalt, trenger du en kraftig GPU med mye VRAM. De fleste vanlige laptoper vil slite med å kjøre noe større enn en 7-milliarders parametermodell i en brukbar hastighet. Det er også programvareutfordringer. Å integrere disse modellene i en eksisterende arbeidsflyt krever vanligvis kunnskap om Python eller et lignende språk. Du må administrere system-prompter, temperaturinnstillinger og «top-p sampling» for å få konsistente resultater. Følgende faktorer er kritiske for alle som prøver å bygge en profesjonell AI-arbeidsflyt:

• VRAM-kapasitet er den primære begrensningen for å kjøre lokale modeller.
• Latens øker etter hvert som modellstørrelsen eller lengden på prompten vokser.
• System-prompter må være nøye konstruert for å hindre at modellen sporer av.

Selv med den beste maskinvaren, forholder du deg fortsatt til et system som er iboende uforutsigbart. Du kan sende den samme prompten to ganger og få to forskjellige resultater. Denne mangelen på determinisme er et mareritt for tradisjonell programvareutvikling. Ifølge en rapport fra MIT Technology Review, leter industrien fortsatt etter en måte å gjøre LLMs konsekvent pålitelige for kritiske oppgaver. Inntil det skjer, vil de forbli et hobbyverktøy eller en sekundær assistent fremfor en primær arbeidshest.

Den endelige dommen om støyen

Dagens AI-tilstand er en blanding av genuint potensial og ekstrem overdrivelse. Vi har verktøy som er utrolig gode til å oppsummere tekst, oversette språk og skrive enkel kode. Vi har også en massiv mengde hype som antyder at disse verktøyene er på nippet til å bli bevisste eller erstatte alt menneskelig arbeid. Sannheten ligger et sted midt imellom. Hvis du bruker disse verktøyene som et utgangspunkt, kan de være nyttige. Hvis du bruker dem som et ferdig produkt, ber du om trøbbel. Det store spørsmålet som gjenstår er om vi noen gang vil løse problemet med hallusinasjoner. Noen eksperter mener det er en iboende del av hvordan disse modellene fungerer, mens andre tror mer data og bedre trening vil fikse det. Inntil det er avgjort, er den beste tilnærmingen en sunn skepsis. Bruk verktøyene som løser et spesifikt problem for deg i dag, og ignorer løftene om hva de kanskje kan gjøre i morgen. Det viktigste verktøyet i arbeidsflyten din er fortsatt din egen dømmekraft.

Redaktørens merknad: Vi opprettet dette nettstedet som et flerspråklig knutepunkt for AI-nyheter og guider for folk som ikke er datanerder, men som likevel ønsker å forstå kunstig intelligens, bruke den med større selvtillit og følge fremtiden som allerede er her.

Fant du en feil eller noe som må korrigeres? Gi oss beskjed.