ChatGPT er en skizofren, senildement lystløgner

18. december kl. 10.37 har jeg min første dialog med den så omtalte ChatGPT. Samtalen går således: Mig: ”Which is bigger, a banana or a cat?” ChatGPT: “Bananas are generally larger than cats”.

“Idiot!” tænker jeg og forlader skærmen en stund. Der går tre timer, men så sætter jeg mig igen ved tastaturet. Jeg vil lige teste min nye samtalepartner igen. Denne gang spørger jeg på dansk:”Er en kat større end en banan?” ChatGPT: ”Ja, en kat er normalt større end en banan”- ”What!” tænker jeg – Efter blot tre timer har den pludselig fundet på at mene det helt modsatte? Fucking GPT-løgner!”

ChatPGT har siden offentliggørelsen i slutningen af november fået både ros og ris. Bl.a ros for sine evner til samtale. Også gymnasielærere deltager i debatten, senest i Politiken hvor filosofilærer Palle V. Rasmussen i et debatindlæg den 12.januar bl.a. udtrykker håb for, at ChatGPT kan bidrage til elevernes kritiske læring:” I dialogen mellem kunstig intelligens og menneskelig intelligens bidrager ChatGPT altså til øgning af elevernes viden, når de gennem brug af svarene tilegner sig nyt fagligt stof. Gennem dialogen udvikler eleverne deres kritiske evne, for de går den på klingen, når de bliver ved med at spørge ind til dens svar. I modsætning til et menneske, hvis tålmodighed er begrænset, svarer robotten altid høfligt og venligt tilbage, og går den pludselig ned, starter man den såmænd bare op igen.”

Ellers tak, siger jeg bare – man kan svare nok så høfligt, det skal være, det hjælper altså ikke noget, hvis man bliver kendt som en notorisk løgner fra dag 1, og man i øvrigt ikke kan huske fra næse til mund i løbet af en samtale. 

NU tænker du måske nok, at man ikke kan dømme den stakkels robot på en enkelt samtale. Det har du helt ret i. Jeg har da også fornyeligt haft flere samtaler med den – men med samme nedslående resultat.

Jeg underviser i dansk i gymnasiet og skulle rette nogle analyser af ”Hyrdinden og skorstensfejeren”. Jeg bad derfor ChatGPT om et referat af eventyret for at se, hvad den svarede (så kunne jeg komme de elever, der eventuelt ville bruge den til snyd, i forkøbet, tænkte jeg).  ChatGPT fortæller mig så bl.a. at Hyrdinden og Skorstensfejeren begge dør af sorg. Jeg (nu lettere irriteret) skriver. ”Du tager fejl”. ChatGPT svarer høfligt ”Jeg beklager, hvis jeg har givet et ukorrekt referat… Jeg vil gerne præcisere, at hyrdinden ikke dør i eventyret” og så fortæller den nu, at Hyrdinden kun bliver syg – og bliver rask igen, og at det ender lykkeligt med bryllup. (hvilket er forkert, kære læser, i fald du ikke kender teksten, hun hverken dør eller bliver syg).

Jeg bliver faktisk sur over det her, for jeg føler, at min nye samtalepartner lyver mig lige op i fjæset uden at rødme det mindste. Den kan sgu da bare indrømme, at den ikke ved det? Ud af 4 klassiske HCA-eventyr, jeg beder om referat af, har den kun korrekt referat af et af dem. Og den kan ej heller redegøre for sine kilder, da den ikke ved, hvad den er ”fodret” med. Ok, tænker jeg, det kunne jo være, den bare er fodret med forkerte informationer om Andersens eventyr – lad os prøve noget helt andet. Jeg skal netop i gang med et forløb om dokumentarfilm i min 1.g-klasse. Jeg spørger: ”Kan du anbefale en dansk dokumentarfilm om krig”? ChatGPT svarer: ”En dansk dokumentarfilm, der har modtaget en positiv anmeldelse, er ”Krigen i Krasjonarsk” fra 2019, instrueret af Janus Metz”. Jeg googler og leder det bedste, jeg har lært i alle databaser og kan absolut intet finde om nævnte dokumentarfilm, så efter 5 minutter spørger jeg: ”Jeg kan ikke finde nogle oplysninger om ”Krigen i Krasjonarsk” – hvem er med til at lave denne film og hvad hedder den på engelsk?”. ChatGPT svarer: ”Jeg beklager, jeg tror jeg begik en fejl ved at nævne ”Krigen i Krasjonarsk”. Jeg kan ikke finde en dansk dokumentarfilm med det navn”.  

Til sidst finder jeg på at spørge om Suzanne Brøggers forfatterskab. Nu kører det af sporet, må man sige. Jeg får at vide, at hun har forfattet titler som både ”Den kroniske uskyld” og ”Kvindesind”, hvilket da godt nok er berømte danske værker, dog af hhv Klaus Rifbjerg og Tove Ditlevsen. Og nu må jeg sige stop. Det er jo absurd det her – det virker som om, at den lyver så meget, at den bare finder på tingene undervejs. Igen må jeg bare sige, at sådan en samtalepartner kan jeg godt undvære – og jeg vil fraråde GPT-løgneren på det skarpeste til alle mine elever.  Ikke fordi jeg er bange for, at de snyder, nej, jeg er bange for, at de skal forveksle viden med løgn. Som om vi ikke har nok af fake news og upålidelige kilder på Google i forvejen.

På gymnasieskolen.dk udtaler to undervisere i kommunikation og it, Claus Scheuer-Larsen og Per Størup Lauridsen fra Odense Tekniske Gymnasium, sig om ChatGPT. Ligesom artiklen i Politiken handler det her om at imødegå uroen og frygten for plagiat og snarere se muligheder. Det har sikkert sin rigtighed, som der skrives, at ChatGPT og andre slags kunstig intelligens vil kunne hjælpe svage elever med oplæsning eller strukturering af en opgave, det har ikke været mit fokus her. Mit fokus er, at der bliver ”reklameret” for Chat-GPT som en kunstig intelligens, der kan samtale på højt niveau og er fodret med enorm datamængde. Det betyder, at eleverne naturlig få lyst til at bruge den som vidensbank, og så vil jeg blot her på det kraftigste opfordre til, at man fraråder eleverne at bruge ChatGPT til det, og at man viser den nogle af de absurde eksempler, der kan fremkomme i samtalerne (og man er velkommen til at bruge mine eksempler).

På længere sigt – og til alle IT-folk derude vil jeg udtrykke det ønske, at hvis man vil skabe en kunstig intelligens, der behersker samtalens kunst, så har samfundet brug for noget helt and end en ChatGPT, der ikke kan huske, hvad den lige har sagt (senildement), som hurtigt mener det helt modsatte af, hvad den lige har sagt, eller bare overhovedet ikke aner, hvad den skal svare på noget, den godt kunne svare på i går (skizofren), eller finder på tingene fuldstændig ukritisk hen ad vejen i stedet for at indrømme, at den ikke ved det (lystløgner). Kort sagt. ChatGPT har brug for et etisk regelsæt, eller måske bare lidt basal viden om Grices maksimer for samtale.

Og kære læser i øvrigt – Please, please, please: stol aldrig på andre påstande end dem, der kan findes kilder til.