AI i studievejledning: En kritisk analyse af Alex Ahrendtsens forslag

I Storbritannien implementerede man i 2020 en algoritme til at forudsige elevers eksamenskarakterer under COVID-19-pandemien. Resultatet blev en national skandale, da systemet systematisk undervurderede elever fra udsatte områder. Tusindvis af unge mistede deres studieplads, indtil offentlig vrede tvang regeringen til at trække algoritmen tilbage. Dette er blot ét eksempel på, hvordan automatiserede beslutningssystemer i uddannelsessektoren kan få alvorlige konsekvenser.

Med denne erfaring in mente bør vi være særligt opmærksomme, når Dansk Folkepartis undervisningsordfører, Alex Ahrendtsen, i Gymnasieskolen foreslår at implementere AI i studievejledningen på den nye epx-uddannelse. Ahrendtsen udtaler, at “kunstig intelligens kan være et godt supplement til studievejledningen”, idet han sammenligner med hjemmesider som fx Uddannelsesguiden. Han tilføjer, at AI “måske også kan give studievejledere mere tid til at tale med eleverne”.

Disse udtalelser efterlader flere ubesvarede spørgsmål: Taler vi om simple søgeværktøjer med AI-forbedringer – eller om avancerede systemer med personaliserede anbefalinger til uddannelsesvalg? De manglende detaljer gør det vanskeligt at vurdere forslagets reelle implikationer.

Samtidig antyder Ahrendtsens egne udtalelser, at økonomiske overvejelser spiller en væsentlig rolle: “Regeringen er jo ikke med på at få flere vejledere på uddannelserne – det koster jo penge.” Han fortsætter: “Der var så meget andet, der var vigtigere for os i forhandlingerne, og derfor ville jeg ikke gå ned ad den vej. Derfor fremlagde jeg idéen om AI som et supplement.”

Denne kobling mellem AI-forslaget og økonomiske hensyn rejser spørgsmålet, om teknologien primært ses som en spareøvelse frem for en gennemtænkt pædagogisk løsning. Det er næppe tilfældigt, at Ahrendtsen ønsker AI-vejledning indført på den nye epx-uddannelse, der først åbner i 2030. Dette skaber en situation, hvor forsøget ikke kan sammenlignes med eksisterende praksis og erfaringer. Skal danske unge være forsøgskaniner for uprøvet teknologi? Og handler det i virkeligheden om at skabe en model, der senere kan udbredes til hele uddannelsessystemet – med besparelser som det egentlige succeskriterium?

EU’s AI-forordning sætter klare rammer
Uanset hvilken konkret AI-løsning Ahrendtsen forestiller sig, er det afgørende, at man forholder sig til EU’s AI-forordning. Forordningen kategoriserer tydeligt AI-systemer, der anvendes til at vurdere eller vejlede om uddannelsesvalg som højrisikosystemer.

Sådanne AI-systemer stilles der en række konkrete krav til:

• Gennemsigtighed: Systemet skal kunne forklare sine anbefalinger i et forståeligt sprog. Elever har ret til at vide, hvorfor systemet når frem til bestemte anbefalinger.
• Datakvalitet og -repræsentation: De data, som AI trænes på, skal være fri for bias.
  Som Kåre Blinkenberg fra Gymnasieskolernes Lærerforening (GL) påpeger i artiklen: “Vi ved, at sprogmodeller også kan give meget stereotype svar. Det kan være et problem, når vi i forvejen døjer med meget forskellige uddannelsesvalg mellem drenge og piger”.
• Menneskelig overvågning: AI-systemer må ikke stå alene i vejledningen. Der skal være kvalificerede menneskelige vejledere, som kan validere og om nødvendigt tilsidesætte systemets anbefalinger.

At kategorisere en AI-løsning som et “supplement” fritager ikke systemet fra disse krav, hvis det giver anbefalinger om uddannelsesvalg.

Det personlige element i vejledning
Selv den mest avancerede teknologi kan ikke erstatte det personlige element i vejledning. Som Kåre Blinkenberg udtrykker det: “Vejledning handler om relationer mellem mennesker. Det handler om elevens motivation, intentioner og drømme, og det kan vi ikke udlicitere til en maskine.”

Lotte Klein fra Ungdomsuddannelsernes Vejlederforening fremhæver ligeledes behovet for “at sikre en professionaliseret vejledning til eleverne på uddannelserne”.

Unge med komplekse baggrunde, diagnoser eller almindelig usikkerhed om uddannelsesvalg har særligt brug for den empatiske dimension i vejledningen – at blive set, hørt og mødt som et menneske. En AI-baseret løsning kan ikke opfange nuancerne i kropssprog, tonefald eller de usagte bekymringer, der ofte ligger bag et uddannelsesvalg.

To realistiske veje frem
Efter vores vurdering findes der to realistiske måder at anvende AI i studievejledning på.

Hvis der blot er tale om en forbedret version af Uddannelsesguiden, så bør man kalde det, hvad det er, nemlig et informationsværktøj – ikke et AI-vejledningssystem. Det kan være værdifuldt, men det er ikke revolutionerende og vil næppe frigøre tid for vejledere.

Men hvis Ahrendtsen faktisk forestiller sig et system, der skal give personaliserede anbefalinger til uddannelse, så må han forholde sig til AI-forordningens krav til højrisikosystemer. Det indebærer omfattende datasikkerhed, menneskelig overvågning, gennemsigtighed i algoritmerne, regelmæssige audits og en massiv finansiering.

I begge tilfælde bliver vi nødt til at insistere på, at kvalificerede, menneskelige vejledere forbliver centrale i processen. AI kan være et supplement, ja, men ikke en billig erstatning.

Konklusion: Behov for præcisering og dybere forståelse
Ahrendtsens forslag om AI i studievejledningen på epx er symbolsk for en bredere tendens i den politiske debat, der anser AI som en magisk løsning på komplekse problemer. Men EU’s AI-forordning har med god grund placeret uddannelsesvejledning i højrisikokategorien.

I forordningen står der tydeligt: “AI-systemer, der anvendes inden for uddannelse eller erhvervsuddannelse, navnlig til at bestemme adgang eller optagelse… kan de være særligt indgribende og krænke retten til uddannelse samt retten til ikke at blive forskelsbehandlet og gøre historiske forskelsbehandlingsmønstre permanente.” (Kilde: Den Europæiske Unions Tidende).

Denne rammesætning bør være udgangspunktet for enhver seriøs diskussion om AI i uddannelse. Den skal ikke ses som en hindring for innovation, men som et grundlag for ansvarlig implementering af ny teknologi på et område, der har afgørende betydning for unges fremtid.