Hvis kunstig intelligens er et redskab i velfærdssamfundet - hvad er så opgaven?
Af Morten Sodemann
Hvis kunstig intelligens kan gøre det for os er det så en opgave? Hvis vi lader kunstig intelligens tale med borgere og patienter er det så en samtale? Hvis kirurgen lader en robot skrive notatet om operationen er det så en korrekt gengivelse af proceduren? Hvem skriver vi egentlig til hvis robotten skriver for os?
Kunstig intelligens (KI) skal rulles ud i stor skala til sagsbehandlere og plejepersonale i det offentlige. Kunstig intelligens anvendes i forvejen af læger til at skrive notater og stille diagnoser. PhD-studerende anvender i stor stil kunstig intelligens til deres forskning, men de færreste ved, hvad de laver.
Men hvis KI skal gøre det tankemæssige arbejde for os, hvad er der så tilbage? Hvad er egentlig det problem vi tror kunstig intelligens kan løse? Er det bedst at vi som ansatte ikke tænker og føler? Det er i hvert fald nemmere at være kedelig, kold og kynisk når man er robot end når man er ansat i hjemmeplejen.
Når vi skriver eller dokumenterer, så reflekterer vi. Vi organiserer kaos og tankemylder. Vi strukturerer den faglige analyse. Vi forbinder vores faglige vurdering med andre kolleger og vi efterlader et varigt spor af vores analyse i os selv og på papiret. Når vi skriver så samler vi et plot, et problem ud af mange problemer. Den psykiske og fysiske kontekst er med til at prioritere pointer i den analyse vi fremlægger. Planen, handlinger, behandlinger og rådgivning er en syntese mellem den relation man havde med borgeren eller patienten og så den måde man udøvede sin faglighed på. Dokumentationen er en afspejling af den tankeproces hvor man har set, hørt og tænkt: præmisserne, situationen og mulighederne tydeliggøres for én selv og andre når man skriver. Når man skriver tænker man over hvad man så og hørte og hvordan man bedst formulerer det med alt det verbale og non-verbale information der var i samtalen. Når vi skriver er det en særlig mental tilstand hvor vi kombinerer informationerne og vores viden på en ny unik måde – vi laver mentale spring mellem forskellige ideer og begreber. Vi sætter ord på følelser og vi omskriver de følelser, analogier og metaforer, der kan komme som billeder på nethinden når vi præsenteres for en patientfortælling eller en borger der har brug for hjælp.
Når vi skriver, henter vi viden fra hukommelsen: fakta, lovgivning, erfaringer, ordforråd og produktive skematiske tankesæt. Det er en aktiv proces der foregår i arbejdshukommelsen der strukturerer mens vi skriver. Hjernen oversætter det abstrakte, vage fornemmelser og uklar logik til klare sætninger og overvejelser som andre kan sætte sig ind i. Det er en bevidst og ubevidst proces hvor sætningsopbygning, sprogbrug og analysestil konstant reproduceres, forfines og fornyes.
Det er kreativt at skrive. Det er klogt at skrive. Hvis vi ikke gør, bliver alle vores oplevelser med patienter og borgere til rudimentære forsimplede master-fortællinger skrevet efter forudsigelige skabeloner og med standard plots. Hvis vi ikke selv skriver så ender vi med at både vi selv og patienter/borgere bliver arketyper. Efter 6 måneder med kunstig intelligens der skriver for os er vi så kloge at vi kan undvære hovedet fordi vi har lært at tale systemsprog. Hvis vi ikke har et plot der passer til patienten i systemet, så er det fordi patienten ikke har brug for os. Hvis borgerens behov ikke er defineret i systemet, så er det fordi borgeren ikke har brug for det. Vi finder hurtigt ud af at det er lettest for os som ansatte at følge maskinen og lære dens sprog.
Kunstig intelligens har ikke mere empati end en stol og ikke mere kontekstforståelse end en kampesten. KI svækker intuition, kritisk tænkning, kreativitet og empati. KI skaber en ufarlig, neutral og virkelighedsfjern menneskeforståelse. KI udfordrer os ikke og tvinger os aldrig ud af boksen. KI fjerner vores evner til at tænke dybt, til at overskue komplekse sammenhænge og fragmenterer vores opmærksomhed. KI bilder os ind at vi er nyskabende, lynhurtige tænkere der konstant eksperimenterer med vores faglighed. Vi tror mere og mere på at vi er originale dybe personligheder.
Vi ender med ikke at kunne klare selv små tankemæssige belastninger, vi bliver passive og mentalt dovne for vi tror vi tænker og oplever at vi husker, men det er en hukommelse der går på krykker. Vores menneske- og verdensforståelse bliver mere og mere overfladisk.
Det kan godt være at kunstig intelligens frigør tid, men har vi lyst til at være mere sammen med os selv i den tomme hylsterudgave som kommer ud af at overlade alt det der gør mennesker til mennesker til konform statistik og algoritmer? Tror du virkelig at patienter og borgere gider tale med en sygeplejerske, sagsbehandler eller hjemmehjælper der mere og mere opfører sig som en dårligt programmeret doven bureaukratisk støvsugerobot, der knap magter selv de mindste nullermænd?
David Kahnemann fik Nobelprisen for at beskrive hvordan vi har hurtige intuitive energibesparende og langsomme reflekterende energikrævende tankebaner. Et nyt studie foreslår at der med kunstig intelligens har udviklet sig et tredie tankemønster der er automatiseret og kunstigt og som kan undertrykke vores normale tankemåder. De finder at der er mennesker der har en overdreven tro på kunstig intelligens og som har en forkærlighed for lette løsninger som langsomt overlader tankevirksomhed til at være interaktion med AI. De overleverer deres bevidsthed til en kunstig verden, men opfatter den som en klog samtale de har med diverse chatbots.
Tyske forskere udførte sproganalyse på 360.000 akademiske taler på youtube og 771.000 akademiske podcasts. De kunne vise at samtidig med chatbotternes fremkomst var der en pludselig stigning i akademikernes anvendelser af det samme sprog som chatbots anvender i videnskabelig sammenhæng, bl.a. karakteristiske begreber som: granskning, omfatte, skiftende, omhyggelig. Det er ikke forskerne der bestemmer sproget og de videnskabelige begreber. De overlader det til store sprogmodeller at styre videnskabelige superlativer.
Sandheden er at vi ikke skal frygte robotter og kunstig intelligens, men derimod hvad de gør ved os mentalt og hvordan de ændrer vores sprog. KI skal komplementere os, ikke standardisere os. Vi skal ikke være et simpelt omstillingsbord for viden og tænkning. Vi skal selv skrive og tænke. Vi er jo stadig de socialt klogeste lidt endnu, er vi ikke?