Erstatte eller forsterke?

To grunnleggende modi karakteriserer hvordan kunstig intelligens virker inn på kunnskapsarbeid. De er ikke gjensidig utelukkende, men de har ulik logikk, ulike konsekvenser og reiser ulike spørsmål.

[bg_collapse view="button-orange" color="#4a4949" expand_text="Kollaborativt" collapse_text="Lukk" ]

To grunnleggende modi preger hvordan kunstig intelligens virker inn på kunnskapsarbeid. De er ikke gjensidig utelukkende, men bygger på ulike forståelser av hva teknologi skal gjøre med menneskelig arbeid.

Douglas Engelbarts prosjekt var ikke først og fremst å gjøre enkeltmennesket mer effektivt. Han ville forsterke (augmentere) menneskelig intellekt: øke menneskers og gruppers evne til å forstå komplekse problemer, utvikle ideer, organisere informasjon og samarbeide. I arbeidet med NLS (oN-Line System) kombinerte han tekstbehandling, hypertekst, dokumenthåndtering, kommunikasjon og nettverk. Datamaskinen skulle inngå i en kollektiv kognitiv infrastruktur, der mennesker kunne bygge videre på hverandres arbeid.

Dette hang sammen med Engelbarts idé om bootstrapping. Forskerne ved Augmentation Research Center (ARC) skulle bruke systemet til å forbedre sitt eget arbeid og samtidig utvikle stadig bedre verktøy. Gruppen var dermed både utvikler, bruker og studieobjekt for teknologien.

Et forskningssystem som var vanskelig å finansiere

Denne modellen var organisatorisk krevende. Engelbart arbeidet samtidig med menneske–maskin-interaksjon, programvare, maskinvare, hypertekst, nettverk, organisasjon og arbeidsprosesser. Han forsøkte ikke bare å utvikle én teknologi, men å endre selve systemet for kunnskapsarbeid.

Paradokset var at ARC først fikk støtte nettopp fordi enkelte finansieringsmiljøer, særlig ARPA, var villige til å tenke langsiktig og eksperimentelt. Laboratoriet vokste til rundt 40–45 personer og ble et omfattende forskningsmiljø.

Problemet oppstod da finansieringsregimet endret seg. ARC var avhengig av kontinuitet og en permanent infrastruktur der mennesker, teknologi og arbeidsformer kunne utvikles sammen. Finansieringssystemet ønsket derimot avgrensede prosjekter, tydelige leveranser og målbar fremdrift. Samtidig hadde SRI problemer med å plassere ARC økonomisk. Forsøk på å tjene penger på NLS-tjenester ga uforutsigbare inntekter.

SRI ønsket derfor etter hvert å skille mellom en mindre forskningsenhet og en kommersiell applikasjons- og tjenesteenhet. For Engelbart var dette mer enn en administrativ omorganisering. Forskning, utvikling, bruk og anvendelse var deler av samme læringssystem. Da finansieringen falt bort rundt 1975–77, ble ARC splittet, Engelbart mistet lederrollen og virksomheten ble senere overført til Tymshare.

Engelbarts problem var dermed ikke først og fremst at han var dårlig til å skaffe penger. Problemet var at et laboratorium organisert for kontinuerlig, kollektiv læring passet dårlig inn i et finansieringssystem basert på avgrensede prosjekter og tydelige leveranser.

Fra augmentering til rasjonalisering

Her blir Engelbart interessant for dagens KI-debatt. Generativ KI kan i prinsippet videreføre hans idé. Språkmodeller kan hjelpe mennesker med å formulere, sammenligne, analysere, kode og reorganisere informasjon. Teknologien kan dermed øke menneskelig og kollektiv kapasitet.

Men den økonomiske innføringen av KI følger ofte en annen logikk. Gevinsten måles gjerne i redusert tidsbruk, bemanning og kostnad per produsert enhet.

Spørsmålet blir da ikke først og fremst:

• Hvordan kan KI gjøre kunnskapsarbeidere kollektivt bedre?

men:

• Hvor mange kunnskapsarbeidere kan vi klare oss uten?

Det er en fundamental forskyvning. Engelbart så menneskelig kapasitet som verdien teknologien skulle øke. Rasjonaliseringslogikken ser arbeidskostnaden som størrelsen som skal reduseres.

Risikoen for kollektiv avlæring

Forskjellen blir tydelig dersom KI gjør det mulig å redusere ti kunnskapsarbeidere til fem. På kort sikt kan dette se ut som en effektivisering på 50 prosent. Men de fem som forsvinner, representerer ikke bare arbeidskraft. De representerer erfaring, ulike perspektiver, kvalitetssikring, uformell opplæring, organisatorisk hukommelse og evnen til å oppdage problemer som ingen enkeltperson har formulert.

Det var nettopp denne kumulative og distribuerte intelligensen Engelbart forsøkte å styrke. Dersom KI brukes til å redusere antallet mennesker som deltar i kunnskapsproduksjonen, kan organisasjonen samtidig svekke den sosiale infrastrukturen som gjør kunnskapen robust. Den kortsiktige effektiviseringen kan dermed redusere den langsiktige evnen til å lære og skape ny kunnskap.

Dette gjelder også utdanning. KI kan brukes til at studenter får mer tid til problemforståelse, diskusjon, argumentasjon og revisjon. Men dersom teknologien først og fremst brukes til å eliminere de krevende delene av læringsprosessen, kan studenten ende med et bedre produkt og mindre erfaring med det intellektuelle arbeidet som produktet bygger på.

Engelbarts perspektiv gjør derfor spørsmålet «Hvor god tekst kan KI produsere?» mindre interessant enn spørsmålet:

Hvilke menneskelige kapasiteter utvikles eller avvikles når KI produserer teksten?

To utviklingsbaner

Dagens KI representerer dermed et veiskille mellom to former for augmentering. Den ene øker menneskelig kapasitet: mennesker beholdes som aktive produsenter, samarbeid styrkes og teknologi brukes til læring og kunnskapsutvikling. Den andre bruker augmentering som substitusjon: produksjonen individualiseres, mennesker flyttes mot kontroll og godkjenning, og gevinsten tas ut gjennom redusert arbeidsinnsats.

KI kan selvfølgelig gjøre begge deler samtidig. Spørsmålet er derfor ikke om teknologien i seg selv er augmenterende eller erstattende, men hvilken organisering av menneske–maskin-samarbeid institusjonene bygger rundt den.

Engelbart ville sannsynligvis ha flyttet oppmerksomheten fra «Hva kan KI gjøre?» til «Hvilket menneske–maskin-system bygger vi når KI blir en permanent del av arbeidet?». Dersom man bare automatiserer eksisterende prosesser, får man først og fremst effektivisering. Dersom man reorganiserer arbeidet slik at mennesker og KI kan utvikle hverandres kapasiteter, nærmer man seg Engelbarts visjon.

Det er derfor et paradoks at teknologien er generativ, mens institusjonene som tar den i bruk ofte ikke er det. De er organisert rundt budsjetter, stillingshjemler, produktivitet, gjennomstrømning og kortsiktig avkastning. Da blir arbeidsbesparelsen den mest synlige gevinsten.

Den grunnleggende konflikten i KI-utviklingen kan derfor formuleres slik:

Vi står mellom en substitusjonsøkonomi som realiserer KI gjennom reduksjon av menneskelig arbeid, og en augmenteringsøkonomi som realiserer KI gjennom utvikling av kollektiv menneskelig kapasitet.

Engelbarts betydning ligger i at han viser hva som kan gå tapt dersom vi velger den første modellen. Det handler ikke bare om arbeidsplasser, men om den kollektive infrastrukturen for å lære, oppdage, korrigere og skape ny kunnskap.

Det virkelig radikale ved Engelbarts prosjekt var derfor ikke musen. Det var forestillingen om at datamaskinen kunne inngå i en sosial og dokumentarisk infrastruktur som gjorde grupper av mennesker mer intelligente sammen.

 Teknologien er generativ, men institusjonene som tar den i bruk er ofte ikke generative. De er organisert rundt budsjetter, stillingshjemler, produktivitetstall, gjennomstrømning og kortsiktig avkastning. Da blir den mest umiddelbart synlige gevinsten ved KI nettopp arbeidsbesparelsen.

Engelbarts erfaring med ARC viser imidlertid at det kan være en feilslutning. Et system som skal produsere mer intelligens, kan ikke nødvendigvis organiseres etter samme økonomiske logikk som et system som skal produsere mer output med færre mennesker.

En mulig hovedtese

Den grunnleggende konflikten i KI-utviklingen er ikke mellom menneske og maskin, men mellom to økonomier for menneske–maskin-samarbeid: en substitusjonsøkonomi som realiserer KI gjennom reduksjon av menneskelig arbeid, og en augmenteringsøkonomi som realiserer KI gjennom utvikling av kollektiv menneskelig kapasitet.

Det interessante hos Engelbart er at han gir oss et begrep om hva vi risikerer å miste dersom vi velger den første modellen. Det er ikke bare arbeidsplasser. Det kan være den kollektive infrastrukturen for å lære, oppdage, korrigere og skape ny kunnskap.

Og det er nettopp derfor Engelbart er mer relevant for KI-debatten enn den ofte gjentatte historien om at han «oppfant musen». Det virkelig radikale prosjektet hans var ikke pekeenheten. Det var forestillingen om at datamaskinen kunne inngå i en sosial og dokumentarisk infrastruktur som gjorde grupper av mennesker mer intelligente sammen.

[/bg_collapse]

Erstatning

Erstatningslogikken handler om at KI overtar oppgaver som tidligere krevde menneskelig kognisjon. Det skjer ikke nødvendigvis dramatisk, men ofte gradvis og nesten umerkelig.

Vanlige eksempler er oppsummering av tekster, oversettelse, koding av kategorier i kvalitative data, litteratursøk og første utkast til rapporter. Disse oppgavene har til felles at de er velstrukturerte, det vil si at det finnes et relativt klart kriterium for hva som er et godt resultat. KI er særlig effektiv her.

Det mer ubehagelige spørsmålet er hva som skjer med den kunnskapen som bygges opp gjennom å utføre slike oppgaver. Hvis stipendiater og studenter ikke skriver et første utkast selv, mister de kanskje den kognitive erfaringen av å kjempe med materialet – det Bereiter og Scardamalia kalte knowledge transforming i motsetning til knowledge telling. Erstatningen kan med andre ord være reell på oppgavenivå, men skape et underskudd på kompetansenivå.

I et institusjonelt perspektiv kan erstatning også ramme stillinger og funksjoner: rollen som medisinsk kodar, juridisk assistent, mellomnivå-analytiker. Ikke nødvendigvis gjennom at folk sies opp, men ved at rekrutteringen stopper opp og volumet av slike stillinger krymper.

Kjernespenningen i erstatningslogikken er at det som elimineres som rutine gjerne er det som historisk har fungert som inngangsport til dypere faglig forståelse. Det er ikke opplagt at vi kan beholde den dype kompetansen uten det grunnarbeidet som tradisjonelt forutgikk den.

Forsterkning

Forsterkning er noe fundamentalt annet  KI øker kapasiteten og kvaliteten på det menneskelige kunnskapsarbeidet uten å erstatte den kognitive kjernen. Mennesket forblir i førersetet mens verktøyet utvider rekkevidde og presisjon.

Dette er analogt med andre kognitive proteser somskrift, kalkulator og søkemotor, men med høyere gradæ av responsivitet og generativitet. En forsker som bruker KI til å gå raskere gjennom hypoteser, en dosent som genererer varierte eksempler på et konsept for ulike studentgrupper, en sensorkommisjon som bruker KI til å strukturere vurderingskriterier: Dette er forsterkning når den faglige vurderingen fortsatt ligger hos den menneskelige utøver.

Det sentrale her er at forsterkning forutsetter at brukeren allerede besitter den kompetansen som trengs for å vurdere KI-resultatene. En erfaren jurist kan bruke KI til å gjennomgå kontrakter fordi hun vet hva hun ser etter. En student uten juridisk grunnkompetanse som gjør det samme, er ikke blitt faglig sterkere. Hun er er blitt avhengig.

Dette skaper et paradoks som er særlig relevant i utdanning. Forsterkning er bare reell for dem som allerede kan noe. For den som ennå holder på å lære, kan den samme bruken av KI snarere bli en form for kognitiv hvilerampe. Det tas en snarvei rundt den læringsprosessen som faktisk skulle bygge kompetanse.

De to modi er forbundet gjennom et felles spørsmål om hva som teller som kunnskap og hvem som er kunnskapsbærer.

• Erstatning problematiserer det institutjonelle og yrkesmessige.
• Forsterkning problematiserer det epistemiske og pedagogiske.

Begge utfordrer den tradisjonelle forestillingen om at kunnskap sitter i personen – fordi begge modi, på ulikt vis, flytter deler av den kognitive byrden ut av hodet og inn i systemet.

Innslagspunkter

Her er en subjektivt preget vurdering av innslagspunkter for KI i undervisnings- og FoU-jobbene.

• Undervisning: KI berører forberedelser og vurdering, men mindre av gjennomføring. Netto reduserer det forberedelsesbyrden uten å endre kjernen..
  • Tydelig: Utkast til forelesningsnotater og lysark, omformulering og nivåtilpasning, publisering av digitale ressurser, lage oppgaver, eksempler og quizer, oppsummere pensum, utkast til emne- og læringsutbytte-beskrivelser, støtte til evaluering av og tilbakemelding på studentoppgaver i store kull.
  • Begrenset: Endelig sensur og karaktersetting (ansvar og skjønn ligger hos sensor), relasjonell veiledning.  Undervisnings-situasjonen i auditorium/klasserom og i praksisperioder.
• FoU: De tidkrevende, mer mekaniske delene og lite på intellektuell kjerne, – problemstilling, argumentasjon, fortolkning.
  • Tydelig: Litteraturkartlegging med kildekontroll, språkvask, koding og statistisk analyse, strukturering av manus og søknader, oppsummering av store tekstmengder. Prosjektplanlegging og administrasjon.
  • Begrenset: Vitenskapelige originalitet og abduksjon, tolkning av funn, og fagfellevurdering der habilitet og konfidensialitet gjelder. Tidsbesparelsen spises delvis opp av verifikasjon.
• Administrasjon. Referat, standard korrespondanse, rapporter fra eksisterende materiale, utkast til kronikker og populærvitenskap. Lite skjønn, regelbasert og gjenbruk.

Den ubehagelige sannheten (!) i denne analysen er at det ikke er fabrikkarbeiderne som har størst grunn til å frykte KI. Det gjelder de kognitive, ikke-rutinepregede, informasjonsbaserte oppgavene som kjennetegner kunnskapsarbeid i byene, som å gjøre undersøkelser,  programmere, lage presentasjoner, forberede analyser og drive markedsføring.