I et friskt innlegg i Aftenposten 5. november mener professor Jill Walker Rettberg at nok er nok: Stopp bruken av kunstig intelligens til kunnskapsarbeid!
Jeg tror hun tar feil.
Man kunne like gjerne sluttet seg til miljøkampens krav om at alle må slutte med kjøtt. Sympatisk nok det, men helt på jordet. Vi skal nettopp ta kunstig intelligens i bruk, men søke å gjøre det på egne premisser. Maskinstormingen fører ikke fram.
Jeg tror det er tre typer feilslutninger som ligger til grunn, men med like kilder. Man gjør det nivåmistak som kanskje kunne kalles atomisme. De store språkmodellene og deres sosio-økonomiske konsekvenser forstås på lavere aggregatnivå enn deres faktiske virkemåte og innvirkning. Teknifisering av kunnskapsarbeidet startet med Internett og masseutdanning.
Term- og begrepsplan
Det første først: Det er en seiglivet misforståelse at generativ KI bare «gjetter neste ord» som Walker Rettberg har som sin teoretisk bunnplanke. Denne forestillingen er utviklet av pedagogiske hensyn for å bidra til en mer lettfattelig forklaring, men tilslører nå mer enn den avklarer.
Bak den tilsynelatende enkle funksjonen av prediksjon ligger et komplekst samspill mellom statistikk, semantikk og representasjon. Når språkmodeller som ChatGPT eller Claude formulerer et svar, trekker de ikke bare et sannsynlig ord opp fra hatten. De aktiverer et mangedimensjonalt felt av begrepsmessige relasjoner – et vektorrom.
Her kan vi bruke Arne Næss sitt kjente eksempel fra klassikeren Noen elementære logiske emner (1947) for å skjelne mellom ting, term og begrep:
Jeg tenker på ‘blyant’ når jeg skriver “blyant” med denne blyanten.
DIsse distinksjonene kan hjelpe til å skjelne mellom det å operere med statistiske sammenhenger mellom tegn på termplanet og de store språkmodellene som bygger og bruker representasjonsvektorer på begrepsplanet.
På begrepsplan finner vi i dette eksempelet representasjoner av det “blyantske” som hard og bløtere blystift, tømmerblyant, rødblyanten (og den blå), blyantspisser … , – men også tegne, skissere, kladde og penal. Forskjellen ligger i ulike nivåer av struktur og generalisering i hvordan modellene modellerer språk og mening. Begrepsplanet i store språkmodeller må forstås som en framvoksende egenskap (emergent property). Den kan ikke reduseres til hver underliggende representasjon av tegnsett (tokens). Kvantitet slår over i ny kvalitet.
Begrepsplanmodellen ble popularisert av Geoffrey Hinton da han bygget tilbakemelding (back propagation) i opptrening av (små) språkmodeller i 1984 og publiserte resultatet to år seinere. Se gjerne en oversiktlig presentasjon av ham, kolleger som Fei Fei Li og Yann LeCun, og flere andre av de 7 som nettopp fikk Queen Elisabeth Price for Engineering for sitt samlede arbeid med maskinlæring [05.11.25 YouTube]. Hinton har tidligere fått Nobel-prisen.
Språkmodellens «kunnskap» ligger da ikke i de enkelttall som tilordnes hvert token i modellen, men i geometriske mønstre av mange sammenhenger. Hver term, hvert uttrykk og hver språklig forbindelse er kodet som posisjoner i et rom med mange hundre dimensjoner. Disse posisjonene organiseres slik at meningsnære begreper ligger tett, mens fjerne begreper ligger lengre fra hverandre geometrisk sett. Et annet vanlig eksempel er å se for seg relasjoner mellom “konge” og “mann” eller “dronning” og “kvinne”. Men siden “mann” og “kvinne” er koblet og likeså “konge” og “dronning”, får vi rikere sammenhenger. Slike representasjoner på begrepsplan speiler strukturene i all tekst som uttrykkes i Internettet.
Når modellen produserer tekst, beveger den seg gjennom dette rommet på måter som gjenspeiler logiske, kulturelle og pragmatiske forbindelser mellom termer, men også de begrepene som termene navngir. Det er derfor språkmaskinen kan tolke, sammenlikne og omskrive tekster med forbløffende resultat. Dette gjelder også multimodalt der tekst er å forstå som alle typer uttrykk i skrift, bilde, lyd og video. De store språkmodellene oversetter kunnskap, ikke kun tekst, og opererer på et nivå som minner mer om menneskelig representasjon. Det er som at flyene flyr, men ikke som fuglen. Det sitter jo heller ikke en bitte liten bibliotekar inne i hodet på folk som skriver og ordner ord og ordforbindelser på bitte små kartotekkort.
Det betyr ikke at de store språkmodellene tenker, analyserer, forstår eller er intelligente i menneskelig forstand. Men det betyr at de effektivt kan oversette, sammenfatte og forkorte tekster eller sammenlikne innhold på tvers av mange tekststykker. Men resultatene må vurderes og redigeres i ettertid. Dette er fortsatt et fersk forskningsfelt som har vært i sving i 70 år mot fysikkens 400.
Oversette, sammenfatte og sammenlikne
Oversette, sammenfatte og sammenlikne er sentrale funksjoner i kunnskaps-økonomien generelt og i akademia spesielt. De utføres i masseomfang hver dag.
Jeg har ikke her tatt opp hvordan store språkmodeller besvarer andre typer spørsmål, forsøk på å føre samtaler o.l. selv om det også gjøres med hell under bestemte vilkår. Da må spørsmålet være godt stilt, i et språk og på et område der språkmodellen er godt trent.
På alle disse brukesområdene oppstår det feil som synes å variere fra det neglisjerbare og opp til 30% av tekstmengden. Tilbakemeldingene må derfor kontrolleres for faktualitet, – altså at svaret er saklig sett korrekt. Minst like viktig er å korrigere for svakheter i språkføringens rytmikk og tone, og om svarmeldingen kan treffe målgruppene på virksomme måter. Det redaksjonelle etterarbeidet må sjekke ut slikt og fjerne de eventuelle inntrykk av papp og papegøyespråk.
La oss si at man ber et LLM søke gjennom 10 eller 100 artikler om et nærmere bestemt emne for å framvise de viktigste dimensjonene i stoffet med korte sammendrag om hver av dem. La oss si at vi kan identifisere at 5% av dette er mulige feil som må korrigeres. Det skal godt gjøres å hyre en assistent som leverer på dette nivået, – på ett minutt. La gå at man må bearbeide og analysere teksten videre. Men stilt opp mot alternativene blir dette i praksis en voldsom kraft. Dette er sterkt undervurdert av Walker Rettberg. Omfang og konsekvens er empiriske spørsmål. Det kan ikke avledes av den kombinasjon av feilaktig forståelse av språkmodellens virkemåte og anekdoter hun tar opp i sin kronikk. Generativ KI tar ikke over, men forandrer kunnskapsarbeidet.
Problemet bunner i massepublisering av fagtekst under markedsvilkår, ikke teknologiene for det i og for seg. Å “skylde på KI” er feilspor. Den kulturelt sett “høye” delen av kunnskapsarbeidet er blitt massefenomen. KI bidrar klart til det fra 2020. Men vi må se hele Internett-perioden som startet 1990 for å finne kilden. Legg til den ekstreme veksten i det globale utdannings- og forskningssystemet.
Fellesbidrag på egen kjøl.
For det tredje: Den teoretisk feilaktige kritikken av store språkmodeller er tilsynelatende koblet til en individualistisk forestilling om kunnskapsarbeidet selv. Vi må se systemiske konsekvenser. Det gjelder et overindividuelt plan. Kunnskapsproduksjon er da ikke noe som autonome skjønnånder driver med uavhengig av marked, teknologi, statsmakt, dvs uberørt av kapitalistisk logikk. KI er blitt et forretningsområde og arena for geopolitisk engasjement og konkurranse. Her må det regnes konkret, handles lokalt og tenkes globalt.
La oss si at alternativet er nedlegging av studier og avskjedigelser på flere UH-institusjoner. Da kan man kanskje komme bedre ut med en mer utviklingspreget bane. Jeg antar f.eks. at faktorberegningen for forelesnings-timene nå vil gå noe ned som følge av tekstteknologiene. Det kan skje formelt, men har allerede skjedd reelt: Jeg har så dårlig tid. Det er behov for større fleksibilitet i utvikling, kontekstualisering og refaktorisering av læringsressurser enn det vi er vant til. Vi kan nå demonstrere at KI kan bidra til dette.
Da bør det samtidig stilles motkrav om gode rammer for etter- og videre-utdanning, utviklingsarbeid og praksis-relasjoner for akademisk personale så vi unngår de brå kastene. Det bør være mange som kan høste gevinstene. Det må utvikles store språkmodeller for norsk og nordiske språk som kjøres på regional infrastruktur utenfor IT-oligopolenes kontroll.
Linjestriden blir tydeligere og Walker Rettbergs innlegg bidrar til det. Bra!
Stopp verden – jeg vil av?
Framfor å stoppe bruken av generativ KI for kunnskapsarbeid via Internett, på Microsoft-systemer og på mobiltelefonen bør akademikere svinge seg i sadelen og gripe tømmene til de villstyrlige hestene. Alternativet er marginalisering.
Men kanskje man kan melde seg ut ved Universitetet i Bergen?