Generativ kunstig intelligens i gymnasiet?

Forsøger her at få nogle tanker udtryky i et offentligt forum omkring generativ articificial intelligence (herefter forkortet GenAI). Til dels fordi jeg forsøger at finde min egen holdning, og så kan det måske hjælpe at forsøge at udtrykke den. Og for at få at få lidt feedback på nogle af mine tanker og ideer.

I ca. 1½ år har der været en vedvarende hype omkring særligt en bestemt form for GenAI - de store LLM'er, som ChatGPT, Gemini og Claude m.fl. er eksempler på. Derudover findes der også en række billede, lyd og video-generatorer. Og værktøjerne findes både i gratis-versioner og betalte versioner. Versioner man kan tilgå i sin browser og versioner man kan downloade og bruge lokalt på egen computer. De fleste kender nok OpenAI's ChatGPT eller Microsoft's anvendelse af ChatGPT i Bing eller CoPilot.

Skal vi "lege" med det i gymnasiet? Og hvordan skal vi eventuelt gøre det?

Der er (måske) tre typer/måder GenAI fra et elevperspektiv kan indgå i undervisningen:

Værktøj til variation: GenAI kan bruges til at bearbejde stof på en anderledes måde end de værktøjer vi ellers har til rådighed - både analog og digitalt. Det gælder fx ift. rollespil, visualisering, scenarieopbygning, quiz mv. Så fx i stedet for at der produceres et egentlig rollespil kan man lade GenAI agerer forskellige roller, som eleverne skal interagere med. Man kan bruge billedgeneratorer til at visualisere læst lektie eller en konkret historisk kilde mv.

AI-tutor til faglig tilegnelse: GenAI kan bruges som en “ekstra” lærer - en tutor. Dette kan både gøres i de generelle "åbne" værktøjer (ChatGPT, Gemini, Claude mv.) vha. designet prompts og mere afgrænsede og skræddersyet "lukket" chatbots (fx KhanMigo og de chatbots forlag, herunder Systime og Praxis, arbejder på). Her er der primært fokus på elevens arbejde med konkret lektielæsning eller arbejde med fagligt stof. Og altså ikke tutor ift. fx opgaveskrivning, som beskrives nedenfor.

Værktøj til produktivitet: GenAI kan bruges til at være en assistent i forbindelse med produktioner. Fx kan det være et værktøj, der giver feedback på skriftligt materiale; værktøj der hjælper med at opstille en disposition; værktøj der kan hjælpe med at skrive udkast til et skriftligt produkt. Det kan igen både være generelle chatbots og skræddersyet modeller.

Muligheder og begrænsninger

Intet er kun godt eller skidt. Men kan bruges på en god eller dårlig måde, og kan få gode eller dårlige konsekvenser. Hvordan forholder det sig med GenAI i undervisningen? Hvilke mulige positive og negative effekter kan man forestille sig ved brugen af GenAI i undervisningen? Jeg skal måske her også lige lave en reklamation om at jeg er umiddelbart hælder til det lidt skeptiske perspektiv. Men her er nogle af de muligheder og begrænsninger jeg kan se ved at bruge GenAI i skolen:

Mulighederne eller gevinsterne kunne fx være:

Kan være et værktøj til variation og kreativitet - kan ganske enkelt være sjovt at bruge og hjælpe med at gøre undervisningen/materialet mere vedkommende.

Kan være den ekstra støtte for elever - ift. at træne faglig viden, til at “åbne” en tekst, til at komme over en skriveblokering mv.

Kan være et kraftfuldt værktøj i elevers faglige udvikling - ved at eleverne kan bruge GenAI til at lave faglig sparring med, til at teste og træne faglig viden og faglige kompetencer.

Begrænsninger eller tabene kunne fx være følgende:

Det er ikke et vidensarkiv - det er en approksimeringsmaskine, der generer output. Og reelt forholder den sig ikke til om det den laver er rigtigt eller ej (det der oftest betegnes som hallucinering; nogle kalder det at den fejlapproksimere).

Et “utrænet øje” kan have svært ved at forholde sig til sprogmodellens output og mulige fejlapproksimeringer. Fx hvis man ikke har den nødvendige domæneviden.

Sprogmodellerne har bias - det data den er trænet på vil have bias, og derfor vil outputtet også indeholde bias. Nogle mere problematiske end andre.

Begrænset træningsmateriale på dansk tekst og på dansk fagligt materiale. Approksimeringen af viden om danske forhold er derfor mere usikker.

Kan være hæmmende for elevers faglige udvikling - ved at eleverne “outsourcer” deres faglige proces til GenAI (skriveprocessen, læseprocessen, tænkeprocessen, analyseprocessen mv.).

Det er meget muligt at forskellige elever vil placere sig forskelligt, hvis man skulle putte fx GenAI's betydning for elevers faglige udvikling op på en skala, hvor yderpunkterne er hhv. at "GenAI er hæmmende" og "GenAI er løftende". Det vil formentlig også handle meget om den enkeltes elevs interesse i og motivation for læring. En del af diskussionen om GenAI i undervisningen går på, at brugen af værktøjet vil kunne ændre elevernes (og lærernes) fokus fra produkt hen over i et fokus på proces. Men det kan også argumenteres for, at GenAI kan øge fokusset på produkt fremfor proces, da det muligvis blive lettere at få færdiggjort produktet med mindre arbejde ("work smarter not harder" ...). Så integrationen af GenAI vil formentlig have forskellig effekt på den enkelte elev og elevens relationen til undervisning og læring.

Der kan også være forskel på om vi taler om de generelle "åbne" GenAI-værktøjer eller om vi taler om afgrænset og designet "lukket" chatbots som fungerer som AI-tutorer til et bestemt fag og/eller til noget bestemt undervisningsmateriale. Og som fungere mere som vejleder og ikke bare giver resultaterne.

Fremtidig udvikling

Men hvordan vil GenAI-integrationen egentlig udforme sig?

Personligt kan jeg forestille et par scenarier for den fremtidige udvikling af brugen af den nuværende teknologi - disse store sprogmodeller, som er trænet på en større mængde menneskeskabt tekst/billede/video-data og potentielt noget syntetisk (GenAI-skabt) data.

Nedenfor har jeg forsøgt at skitsere nogle forskellige mulige udfaldsrum. Oversigten er højst sandsynligt ikke udtømmende og det er formentligt muligt at se nogle af tendenserne samtidigt.

Den teknologiske udvikling:

teknologien udvikler sig fortsat og bliver bedre til at skrive varieret tekst med endnu mindre grad af fejlapproksimering. Tilnærmer sig 100 % træfsikkerhed.

teknologien udvikler sig fortsat med inddragelse af flere "kompetencer", tilføjelser af multimodalitet, bedre evne til at estimere følelser hos brugeren og evne til at udtrykke sig empatisk.

teknologien stagnerer fordi modellerne løber tør for god data at træne på og/eller omkostninger stiger uforholdsmæssigt meget. Det betyder at evnen til at skrive varieret og at mindske fejlapproksimeringer ikke forbedres.

teknologien svækkes fordi modellerne i højere grad begynder at bygge på træning fra GenAI-generet materiale. Hvilket medvirker til negativ feedback-mekanisme, hvor modellerne bliver trænet på mere og mere ensformigt materiale. Og/eller det bliver for dyrt at vedligeholde modellerne ift. omkostningerne ved forbruget af modellerne.

Udviklingen i integrationen af GenAI

Vi beholder den variation af forskellige AI-platforme vi pt. kan interagere med, hvilket betyder vi i høj grad besøger særligt (web)applikationer for at interagere med GenAI (der er her lidt geografisk variation - i udvalgte lande har Microsoft's CoPilot fået relativ stor udbredelse. Det er begrænset i DK lige nu).

GenAI bliver integreret i alle de forskellige platforme/applikationer vi alligevel bruger i forvejen (SoMe som fx SnapChat, produktivitets-applikationer som fx Word, Adobe-programmer, Canvas osv.). Integrationen bliver i produktivitets-applikationer domænespecifikke, hvilket vil sige at Word-integrationen primært vil hjælpe med at skrive og redigere tekst, Adobe Premiere-integrationen primært vil hjælpe med at redigere videoer osv. Og promptingen bliver relativ simpel.

GenAI bliver integreret i virksomheder og det offentliges eksisterende IT-systemer. Der vil muligvis være et prompt-interface, men i højere grad vil brugeren formentlig møde en UI, hvor en programmør har gjort interaktionen med en indbygget GenAI så gnidningsfrit som muligt. Så man fx i sundhedssystemet automatisk får udarbejdet en rapport på baggrund af fx en blodprøve eller anden form for test og man bare skal krydse af blandt nogle valgmuligheder.

Pointen er at præsentere, at dette kan gå i mange retninger fremadrettet - både i forhold til den teknologiske udvikling og i forhold til hvordan vi potentielt vil møde GenAI.

Konsekvenser for uddannelsessystemet

Så hvordan skal man eventuelt integrere GenAI i skolen? Vil det blive mere virkelighedsnært at inddrage GenAI i grundskolen og gymnasiet, hvis intregrationen af GenAI, i høj grad, bliver som i sidstnævnte tilfælde eller hvis GenAI som værktøj bliver svækket eller ikke forbedres? Hvor meget prompting er nødvendigt i fremtidens arbejdsmarked og hvor lang tid tager det at lære at prompte (Ethan Mollick foreslår træning á 10-20 timer)? Er det den samme type prompting man eventuelt skal lave i forskellige systemer, i forskellige erhverv?

Da søgemaskinerne (primært Google) blev gode og centrale værktøjer fra ca. slut-00erne prøvede man med eksamensformer, hvor der var adgang til nettet. Mange af dem er blevet rullet tilbage - inden al hypen omkring GenAI. Vil man komme til at gentage den proces?

Noget af det handler selvfølgelig også omkring hvad det er man mener skolen er for? Og der er ofte en "slåskamp" mellem fokus på henholdsvis kompetencer og (fag)faglig viden ("paratviden"). Hvad skal vi teste - kompetencerne eller den faglige viden? Er det evnen til at applicere en analysemetode eller evnen til at sætte det analyseret ind i en faglig kontekst. Måske er der plads til begge ting. Når vi så også trækker søgemaskiner og eventuelt GenAI ind i billedet, kan der potentielt også blive en "slåskamp" omkring balancen mellem fagspecifikke kompetencer, faglig viden og generelle kompetencer. Skal sidstnævnte testes i alle fag - eller kommer de måske bedre til udtryk i nogle af de større projekter uddannelserne også har? Vil et øget fokus på GenAI ske på bekostning af træning af faglig viden og faglige kompetencer - eller vil GenAI bare have en positiv neteffekt på den faglige viden og faglige kompetencer?

Min personlige tanke - lige nu - er at det er for tidligt at tage for store beslutninger i forhold til hvordan GenAI eventuelt skal integreres i gymnasieskolen. Der er for mange ubekendte. Unesco udgav sidste en rapport omkring eventuel brug af GenAI og udarbejde følgende decision tree (her i dansk udgave ved Ove Christensen).

Oversat til dansk af Ove Christensen (2023) fra Unesco-rapporten "ChatGPT and artificial intelligence in higher education: quick start guide" (2023)

Dette grundlæggende billede har efter min mening stadig ikke ændret sig. Det kan selvfølgelig give nogle udfordringer i de fag eller øvelser, hvor eleverne bliver bedt om at være kreativ. Fordi "så må man jo godt". Og det må de måske også godt? Et af hovedargumenterne for at GenAI skal integreres i undervisningen er at værktøjet er der - at de har det til rådighed. Men det er måske bare en årsag til at overveje om det skal bruges og ikke et endeligt argument for at det skal bruges. Studienet og Studieportalen - der indeholder allerede vurderet besvarelser og i tilfælde udførlige vejledninger til hvordan man kan besvare opgaver - er der jo også (de skal måske også tilpasse sig den nuværende situation for at vedblive at være relevant), men der er ikke så mange lærere, der aktivt inddrager de platforme i undervisningen. Heller ikke for at vise hvordan man bruger dem rigtigt eller forkert. GenAI er selvfølgelig en anden situation. Men løsningen ift. at kopiere fra sidemakkeren og plagiere fra hjemmesider eller tidligere opgaver er netop også at forklare eleverne hvorfor det er en dårlig idé, hvad formålet er med øvelsen.

I forhold til snyd tænker jeg netop at man med fordel kan "slå koldt vand i blodet" fordi GenAI i store træk ikke har ændret forholdene så meget i hvordan snyd har fungeret inden november 2022. Og ligesom man som lærer - forhåbentlig - har gjort før, må man betone fokus på proces og læring samt nødvendigheden og betydningen af et vist vidensniveau. Og det sker nok bedst, i store træk, uden en GenAI.

I forlængelse af ovennævnte flowchart er det primært som værktøj til variation, hvor man fagligt etisk kan inddrage GenAI i undervisningen. Hvor rammerne er at det ikke behøves at være rigtigt 1:1, som fx i rollespil. Eller i visualisering af et digt mv.