AI-filosofi for folk som hater filosofi

Det praktiske valget

De fleste behandler filosofien bak kunstig intelligens som en debatt om hvorvidt roboter har sjeler. Dette er en feil som kaster bort tid og skjuler de virkelige risikoene. I næringslivet handler filosofien om denne teknologien egentlig om ansvar, nøyaktighet og kostnaden ved menneskelig arbeidskraft. Det handler om hvem som har ansvaret når en modell gjør en feil som koster et selskap millioner av dollar. Det handler om hvorvidt en kreativ arbeider eier stilen de har brukt tiår på å perfeksjonere. Vi beveger oss bort fra æraen der vi lurte på om maskiner kan tenke. Vi er nå i æraen der vi bestemmer hvor mye vi stoler på at de handler på våre vegne. Det nylige skiftet i bransjen har gått fra chat-boter som forteller vitser til agenter som kan bestille flyreiser og skrive kode. Denne endringen tvinger oss til å konfrontere mekanikken i tillit fremfor mysteriet om bevissthet. Hvis du hater filosofi, se på det som en serie kontraktsforhandlinger. Du setter vilkårene for en ny type ansatt som aldri sover, men som ofte hallusinerer. Målet er å bygge et rammeverk der fordelene med hastighet ikke overgår risikoen for total systemsvikt.

Maskinlogikkens mekanikk

For å forstå dagens situasjon i bransjen, må du ignorere markedsføringsbegrepene. En large language model er ikke en hjerne. Det er et massivt statistisk kart over menneskelig språk. Når du skriver inn en prompt, tenker ikke systemet på spørsmålet ditt. Det beregner hvilket ord som mest sannsynlig følger det forrige basert på billioner av eksempler. Dette er grunnen til at systemene er så gode på poesi, men så dårlige på grunnleggende matematikk. De forstår mønstrene i hvordan folk snakker om tall, men de forstår ikke logikken i selve tallene. Dette skillet er avgjørende for alle som bruker disse verktøyene i en forretningssammenheng. Hvis du behandler resultatet som en faktabasert oversikt, bruker du verktøyet feil. Det er en kreativ synthesizer, ikke en database. Forvirringen kommer ofte fra hvor godt disse modellene etterligner menneskelig empati. De kan høres vennlige, frustrerte eller hjelpsomme ut, men dette er bare språklige speil. De reflekterer tonen i dataene de ble trent på.

Skiftet vi har sett nylig innebærer en bevegelse mot å forankre disse modellene i virkelige data. I stedet for å la en modell gjette et svar, kobler selskaper dem nå til sine egne interne filer. Dette reduserer sjansen for at modellen dikter opp ting. Det endrer også innsatsen i samtalen. Vi spør ikke lenger hva modellen vet. Vi spør hvordan modellen får tilgang til det vi vet. Dette er et skifte fra generativ kunst til funksjonell nytteverdi. Filosofien her er enkel. Det er forskjellen mellom en historieforteller og en arkivar. De fleste brukere vil ha arkivaren, men teknologien ble bygget for å være historiefortelleren. Å forene disse to identitetene er den primære utfordringen for utviklere i dag. Du må bestemme om du vil ha et verktøy som er kreativt eller et verktøy som er nøyaktig, fordi det for øyeblikket er vanskelig å få begge deler på maksimalt nivå samtidig.

Globale innsatser og nasjonale interesser

Effekten av disse valgene er ikke begrenset til individuelle kontorer. Regjeringer behandler nå utviklingen av disse modellene som et spørsmål om nasjonal sikkerhet. I USA fokuserer presidentordrer på sikkerheten til de kraftigste systemene. I Europa har AI Act skapt et juridisk rammeverk som kategoriserer systemer etter risiko. Dette skaper en situasjon der filosofien til en utvikler i California kan påvirke lovligheten av et produkt i Berlin. Vi ser en fragmentert verden der ulike regioner har svært forskjellige ideer om hva en maskin skal ha lov til å gjøre. Noen nasjoner ser på teknologien som en måte å øke den økonomiske produksjonen for enhver pris. Andre ser på den som en trussel mot den sosiale strukturen og arbeidsmarkedet. Dette skaper et separat sett med regler for hvert marked, noe som gjør det vanskeligere for små selskaper å konkurrere med gigantene som har råd til store juridiske team.

Den globale forsyningskjeden for denne teknologien er også et punkt for spenning. Maskinvaren som kreves for å kjøre disse modellene er konsentrert på få hender. Dette skaper en ny type maktbalanse mellom landene som designer brikkene, landene som produserer dem, og landene som leverer dataene. For den gjennomsnittlige brukeren betyr dette at verktøyene du er avhengig av kan bli gjenstand for handelskriger eller eksportkontroller. Filosofien bak AI er nå knyttet til filosofien om suverenitet. Hvis et land er avhengig av en utenlandsk modell for sitt helsevesen eller rettssystem, mister det en grad av kontroll over sin egen infrastruktur. Dette er grunnen til at vi ser et press for lokale modeller og suverene skyer. Målet er å sikre at logikken som styrer en nasjon ikke eies av et selskap på den andre siden av planeten. Dette er den praktiske siden av debatten som ofte går tapt i snakk om science fiction-scenarioer.

En morgen med syntetisk intelligens

Tenk på en typisk dag for en markedsføringsleder ved navn Sarah. Hun starter morgenen med å be en assistent om å oppsummere tre dusin e-poster. Assistenten gjør dette på sekunder, men Sarah må sjekke om den gikk glipp av en viktig detalj om et budsjettkutt. Senere bruker hun et generativt verktøy for å lage bilder til en ny kampanje. Hun bruker en time på å finjustere prompten fordi maskinen stadig gir menneskene i bildene seks fingre. På ettermiddagen bruker hun en kodeassistent for å fikse en feil på selskapets nettside, selv om hun ikke vet hvordan hun skal kode. Hun er i bunn og grunn dirigent for et digitalt orkester. Hun gjør ikke det manuelle arbeidet, men hun er ansvarlig for den endelige fremføringen. Dette er den nye virkeligheten på jobb. Det handler mer om redigering og verifisering enn om skapelse fra bunnen av. Sarah er mer produktiv, men hun er også mer sliten. Den mentale belastningen ved å hele tiden sjekke en maskin for feil er annerledes enn belastningen ved å gjøre arbeidet selv

Insentivene for Sarahs selskap har også endret seg. De ansetter ikke lenger skribenter på nybegynnernivå. De ansetter én seniorredaktør som bruker tre forskjellige modeller for å produsere samme mengde innhold. Dette sparer penger på kort sikt, men det skaper et langsiktig problem. Hvor skal neste generasjon seniorredaktører komme fra hvis ingen gjør arbeidet på nybegynnernivå? Dette er en konsekvens av dagens effektivitetslogikk. Vi optimaliserer for nåtiden mens vi potensielt uthuler fremtiden. Innsatsen for skapere er enda høyere. Musikere og illustratører opplever at arbeidet deres brukes til å trene modellene som nå konkurrerer med dem om jobber. Dette er ikke bare en endring i markedet. Det er en endring i verdien vi legger på menneskelig innsats. Vi må spørre om vi verdsetter resultatet mer enn prosessen, og hva som skjer med kulturen vår når prosessen er skjult inne i en svart boks.

• Bedriftsledere må bestemme om de verdsetter hastighet fremfor original tenkning.
• Ansatte må lære å revidere maskinutdata som en primær ferdighet.
• Lovgivere må balansere behovet for innovasjon med beskyttelse av arbeidsstyrken.
• Skapere må finne måter å bevise at arbeidet deres er menneskelig for å opprettholde verdien.
• Pedagoger må revurdere hvordan de gir karakterer til studenter når svarene er et klikk unna.

De skjulte kostnadene ved automatisering

Vi snakker ofte om fordelene med denne teknologien uten å nevne regningen. Den første kostnaden er personvern. For å gjøre disse modellene mer nyttige, må vi gi dem mer data. Vi blir oppfordret til å mate våre personlige timeplaner, våre private notater og våre forretningshemmeligheter inn i disse systemene for å få bedre resultater. Men hvor havner disse dataene? De fleste selskaper hevder at de ikke bruker kundedata for å trene modellene sine, men internettets historie antyder at retningslinjer kan endres. Når dataene dine først er inne i systemet, er det nesten umulig å få dem ut. Dette er en permanent byttehandel av personvern mot bekvemmelighet. Vi ser også en massiv økning i energiforbruket. Trening av en enkelt stor modell krever nok strøm til å drive tusenvis av hjem i et år. Etter hvert som vi beveger oss mot mer komplekse systemer, vil miljøkostnaden bare øke. Vi må spørre om evnen til å generere et morsomt bilde av en katt er verdt karbonavtrykket det genererer.

Det er også kostnaden ved sannhet. Etter hvert som det blir lettere å generere realistisk tekst og bilder, synker verdien av bevis. Hvis alt kan forfalskes, kan ingenting bevises. Dette påvirker allerede våre politiske systemer og våre domstoler. Vi går inn i en periode der standardantakelsen er at det vi ser på en skjerm er en løgn. Dette skaper et høyt nivå av sosial friksjon. Det gjør det vanskeligere å bli enige om grunnleggende fakta. Filosofien bak AI her handler om erosjonen av en delt virkelighet. Hvis alle ser på en versjon av verden som har blitt filtrert og endret av en algoritme, mister vi evnen til å kommunisere effektivt på tvers av disse skillelinjene. Vi bytter bort et stabilt sosialt fundament mot en mer personlig og underholdende opplevelse. Dette er et valg vi tar hver gang vi bruker disse verktøyene uten å stille spørsmål ved kilden eller hensikten deres.

Har du en AI-historie, et verktøy, en trend eller et spørsmål du synes vi bør dekke? Send oss din artikkelidé — vi vil gjerne høre den.

Tekniske begrensninger og lokale systemer

For superbrukerne handler samtalen om mer enn bare etikk. Det handler om grensene for maskinvaren og programvaren. En av de største hindringene er kontekstvinduet. Dette er mengden informasjon en modell kan holde i sitt aktive minne om gangen. Selv om disse vinduene vokser, er de fortsatt begrenset. Hvis du mater en modell med en bok på tusen sider, vil den etter hvert begynne å glemme begynnelsen når den når slutten. Dette fører til inkonsekvenser i lange prosjekter. Det er også problemet med API-grenser og forsinkelse (latency). Hvis virksomheten din er avhengig av en tredjepartsmodell, er du prisgitt deres oppetid og prissetting. En plutselig endring i deres tjenestevilkår kan ødelegge hele arbeidsflyten din. Dette er grunnen til at mange avanserte brukere beveger seg mot lokal lagring og lokal utførelse. De kjører mindre modeller på sin egen maskinvare for å opprettholde kontroll og hastighet.

Integrering av arbeidsflyt er den neste store utfordringen. Det er ikke nok å ha en chat-boks på en nettside. Den virkelige verdien kommer fra å koble disse modellene til eksisterende verktøy som regneark, databaser og prosjektstyringsprogramvare. Dette krever en dyp forståelse av hvordan man strukturerer data slik at modellen kan forstå dem. Vi ser fremveksten av RAG, eller Retrieval-Augmented Generation. Dette er en metode der modellen slår opp spesifikk informasjon fra en pålitelig kilde før den svarer. Det er en måte å bygge bro mellom den statistiske naturen til modellen og de faktiske behovene til brukeren. Dette legger imidlertid til et lag med kompleksitet til systemet. Du må administrere søkemotoren, databasen og modellen samtidig. Det er en løsning med høyt vedlikehold som krever et spesifikt sett med ferdigheter for å administrere effektivt.

• Kvantisering lar store modeller kjøre på maskinvare for forbrukere ved å redusere presisjonen til vektene.
• Finjustering blir mindre populært ettersom RAG gir bedre faktisk nøyaktighet med mindre innsats.
• Tokenisering forblir en skjult kostnad som kan gjøre visse språk dyrere å behandle enn andre.
• Lokal utførelse er den eneste måten å sikre 100 prosent personvern for sensitive bedriftsdata.
• Modelldestillering skaper mindre, raskere versjoner av gigantiske modeller for mobil bruk.

Den praktiske veien videre

Filosofien bak AI er ikke en distraksjon fra arbeidet. Det er selve arbeidet. Hver gang du velger en modell, tar du et valg om hvilken type logikk du vil skal dominere livet ditt. Du bestemmer hvilke risikoer som er akseptable og hvilke kostnader som er for høye. Teknologien endrer seg raskt, men de menneskelige behovene forblir de samme. Vi vil ha verktøy som gjør oss bedre, ikke verktøy som erstatter oss. Vi vil ha systemer som er transparente, ikke systemer som opererer i mørket. Forvirringen rundt dette emnet er ofte tilsiktet. Det er lettere for selskaper å selge en magisk boks enn det er å selge et komplekst statistisk verktøy. Ved å fjerne alt det overflødige og fokusere på insentivene, kan du se teknologien for det den egentlig er. Det er en kraftfull, mangelfull og dypt menneskelig skapelse. Den reflekterer våre beste ideer og våre verste vaner. Målet er å bruke den med åpne øyne, og forstå avveiningene du gjør i hver interaksjon. Du kan finne mer om de nyeste trendene innen maskinlæring for å ligge i forkant av disse skiftene. For dypere innsikt i etikken bak disse systemene, gir ressurser som Stanford Institute for Human-Centered AI og MIT Technology Review utmerkede data. Du kan også følge de juridiske endringene i teknologiseksjonen til New York Times.

Redaktørens merknad: Vi opprettet dette nettstedet som et flerspråklig knutepunkt for AI-nyheter og guider for folk som ikke er datanerder, men som likevel ønsker å forstå kunstig intelligens, bruke den med større selvtillit og følge fremtiden som allerede er her.