Det er der flere gode grunde til. Først og fremmest ved vi jo ikke, om vi kan regne med det, chatbotten fortæller os. Taler den sandt? Og hvorfor siger den det, den siger? Hvilken position taler den fra –hvilke interesser ligger bag de svar, den giver os?

Den type spørgsmål må vi forholde os til, når vi bruger den kunstige intelligens. Præcis som vi allerede gør, når vi hører en politiker udtale sig eller en forsker – eller når vi læser en avisartikel eller en bog.

Men med teknologien – og særligt den kunstige intelligens – bliver det mere nødvendigt end nogensinde at kunne vurdere information kritisk, mener Cathrine Hasse, der er professor i fremtidsteknologi og læring på DPU, Aarhus Universitet.

Elever er for ukritiske

Alt det her er noget, vores børn og unge skal lære allerede i grundskolen, mener Jeppe Bundsgaard, der er professor i danskfagets didaktik ved DPU, Aarhus Universitet.

Ligesom Cathrine Hasse er han optaget af, hvordan teknologien ændrer præmisserne for, hvad der er vigtigt at lære. Han står bag den danske del af den internationale IEA-undersøgelse ICILS (International Computer and Information Literacy Study), som er en international undersøgelse af elevernes computer- og informationskompetencer i 8. klasse.

Undersøgelsen måler, hvor gode eleverne er til at bruge teknologi, søge information og forholde sig kritisk til den information, de finder.

”Danske elever er nogle af de bedste i verden til det. Men når du så kigger på, hvad de kan, så tænker jeg: Det er slet ikke nok! Der er fx en opgave, hvor eleverne skal forholde sig til en virksomheds webside, hvor en professor siger: ’Den her pille er god for dig at tage.’ Skal man tro på det? Ja, tænker de allerfleste elever. Det er jo en professor, der siger det. De er alt for ukritiske,” siger Jeppe Bundsgaard og lader forstå, at der slet ikke er nok undervisning i kommunikationskritik i den danske folkeskole.

Kan du brugsvurdere teknologien?

Det væsentligste for skoleelever i dag er ifølge Jeppe Bundsgaard at forholde sig til store spørgsmål som fx: Hvad er det for et samfund, vi lever i? Hvordan er livet som menneske i det samfund? Hvad er det for nogle udfordringer, man har som borger i et digitaliseret samfund?

”Som borger er du nødt til at være god til at deltage i demokratiske processer. Som forbruger skal du være bevidst om, at du er del af et kapitalistisk system. Og så er der det, der handler om, hvordan du agerer på de sociale medier. Forstår du, at du giver dine data væk til tech-industrien? At de tjener penge på at sælge dine fremtidige handlinger til andre virksomheder?” spørger Jeppe Bundsgaard, der mener, at eleverne skal lære at ’brugsvurdere teknologien’. Det vil sige, at hver enkelt elev skal lære at vurdere, hvad teknologien bruger data til.

Han uddyber:

 ”Eleverne skal lære at tage stilling til, hvor meget de hver især vil lade sig manipulere. Og så skal de indse, at de store techfirmaer sælger deres data. Og at data er grundlaget for at kunne manipulere dem selv og andre ved at forudsige, hvordan de vil handle. Det er dér, vi skal have samtalen hen.”

Og den samtale, mener han, skal foregå på lærerværelserne, på læreruddannelserne, blandt politikerne og ikke mindst på læremiddelforlagene.

”Vi er nødt til at erkende, at det er en stor opgave at gøre eleverne modstandsdygtige over for teknologiens manipulation. Vi er i mange år gået ukritisk til teknologien, også i skolen, hvor der er blevet købt stort ind af digitalt udstyr. Men hverken elever eller lærere forstod rigtig at bruge det. Nu ser vi pludselig den omvendte tendens, hvor mange, herunder en række politikere, vil have skærmene ud af skolen,” siger han og problematiserer det noget forenklede sort/hvid-syn på teknologien.

For den kategoriske skærmmodstand løser ingen problemer i hans optik.

Han siger:

”Børn og unge skal gøre sig erfaringer med teknologien – og lige nu er det kunstig intelligens i form af ChatGPT. Og skolen kan med fordel være den trygge læringsarena, hvor de lærer at bruge den teknologi. Men det kræver, at lærerne er klædt på til at undervise i det.”

Har du talt med din chatbot i dag?

Også Cathrine Hasse mener, at både de sociale medier og den kunstige intelligens kræver, at vi tager kildekritik mere alvorligt. Og her advokerer hun igen for, at teknologien skal bruges dialogisk – og ikke som en automat, man trækker svar i.

”Hvis du bruger chatbotten dialogisk, så kan du faktisk løfte dig rent læringsmæssigt. Her handler det i høj grad om at være bevidst om, hvad du ved, og hvad du ikke ved, og hvornår du fx har brug for andre kilder,” understreger hun.

For at illustrere pointen bringer hun et tænkt eksempel i spil, som kunne finde sted i udskolingen:  

”Lad os sige, at man som elev i 9. klasse skal skrive en stil om solsorte. Man vælger at bruge ChatGPT og indtaster: ’Skriv en stil om solsorte på 800 ord’. Det kan den jo. Og din stil vil nok blive godkendt, for chatbotten er ret god til den her form for vidensproduktion. Men hvis du skal bruge den smart, skal du selv have noget viden om solsorte, så du kan stille nogle gode spørgsmål og få gode svar – og så skal du selvfølgelig tjekke kilder,” siger hun og tilføjer:

”Og jeg mener faktisk, at vi skal bruge den kunstige intelligens i undervisnings- og eksamenssammenhæng. Vi skal ikke vurdere elever på, om de kan skrive en stil om solsorte, men om de kan stille gode spørgsmål.” 

Selv er hun er ved at starte et forskningsprojekt op. Det handler om generativ kunstig intelligens i undervisningen på universitetet. Sammen med sin forskergruppe skal hun undersøge potentialerne i ChatGPT i en universitetskontekst.

Hun uddyber:

”Tidligere havde universitetsstuderende tykke kompendier med tekster, og så forventede man som underviser, at de studerende ville læse teksterne fra ende til anden. Men vi er alle sprunget over, hvor gærdet var lavest, og mange kompendietekster bliver aldrig åbnet. Spørgsmålet, som vi vil undersøge med det her projekt, er: Kan man bruge ChatGPT til at læse med og så få den til at forklare essensen af teksterne? ”

Forskerne vil undersøge, hvilken forskel det gør, om studerende læser eller ikke læser tekster til undervisning. Og hvilken forskel det gør, om de læser med chatGPT.

Hun understreger endnu en gang, at det ikke er ligegyldigt, hvilke spørgsmål man stiller til chatbotten:

”Det handler om at lære på baggrund af en dialog med chatten. Det, den formidler, er dens syntetisering af mange flere tekster, end man som studerende selv ville kunne læse til sit projekt eller inden en forelæsning. Men man skal forholde sig til den information, den kommer med. Og man skal vurdere og analysere svarene og gå i dialog med chatbotten i den videre undersøgelse.”

Kunstig intelligens kan fremme ulighed

I dialogen med chatbotten er det vigtigt at være bevidst om, at man ikke kan vide alt. Man skal med andre ord kende rammen for sin viden – og dermed også dens begrænsninger.

Hun arbejder med begrebet sokratisk uvidenhed.

”Kritisk sans starter med en sokratisk uvidenhed – altså en erkendelse af, at der en noget, man ikke ved, men som man vil undersøge nærmere”, siger hun og fortsætter:

”Rigtig mange mennesker efterspørger ikke den viden, de egentlig har brug for for at blive klogere på et fænomen. I stedet færdes de i ekkokamre af begrænset og nogle gange falsk viden. Vi kender det fra konspirationsfora på de sociale medier. På samme måde kan chatbotten misbruges, hvis man kun stiller den spørgsmål, som bekræfter ens verdensbillede frem for at udfordre det.”

Det kan blive et kæmpe demokratisk problem i fremtiden. Og i det ligger også en ulighedsdiskussion, for teknologien – særligt den kunstige intelligens – kan nemt ende med at synliggøre og skabe ulighed.

Uligheden handler ikke om, hvorvidt man kan udvikle en app eller kan programmere, det handler om kulturelle ressourcer, understreger Cathrine Hasse. Hvad har du af ballast og forudsætninger for at kunne navigere i en informationstung verden, hvor du kritisk skal vurdere og skille sandheder fra usandheder – særligt hvis du bruger kunstig intelligens, er aktiv på de sociale medier eller blot søger information på internettet?

”Jo mere viden om emnet man har, jo bedre spørgsmål kan man stille chatbotten, og jo bedre kan man bruge den. Men for folk, der ikke har den viden, er teknologien kun med til at sætte dem bagud. Ulighed i det digitale samfund opstår, når mennesker lukker sig om deres egen verden og ikke formår at bryde det mønster, fordi de ikke har de kulturelle ressourcer til at spørge ind til det, de ikke forstår,” siger Cathrine Hasse.

Derfor skal man vide noget om det emne, man ønsker at blive klogere på, inden man bruger chatGPT’en. Ellers kan man ikke vurdere kvalitet og validitet, lyder hendes argument.

Robotterne tager vores jobs – men nye opstår

Og det er nok især de mennesker, der frygter, at robotterne overtager deres jobs og skubber dem ud af arbejdsmarkedet før tid. Også selvom vi ifølge Cathrine Hasse ikke skal konkurrere med teknologien, men samarbejde med den.

Men med den kunstige intelligens’ indtog er den frygt også nået vidensarbejdere som journalister, kommunikatører, programmører og ingeniører. ChatGPT’en kan fx snildt skrive en journalistisk nyhedsartikel, klare jobbet for en kundeservicemedarbejder og løse de ligninger, matematikere og ingeniører har brugt år på at knække.

Allerede i dag kan du bede chatbotten lave hjemmesider, programmere og udvikle software. Så med det in mente er der så ikke en reel fare for, at den kunstige intelligens sender os alle på for tidlig pension?

Den frygt deler Cathrine Hasse ikke. Hun er af den opfattelse, at hvis vi lærer at mestre den kunstige intelligens, så overflødiggør den måske nogle jobs, men den overflødiggør ikke mennesker. For den skaber samtidig nye jobs eller giver nyt indhold til de eksisterende.

”Der er noget, der peger på, at noget af ingeniørarbejdet kan overtages af teknologien – det med at udregne algoritmer fx. Men der skal jo være nogle dygtige folk, der kan eftertjekke resultaterne,” siger hun.

Livslang læring får comeback

I EU har man sat færdigheder på programmet og udnævnt 2023 til European Year of Skills, som cementerer, at nu skal der altså gøres noget ved manglen på kvalificeret arbejdskraft i unionen.

For Ulrik Brandi er det positivt, at ideen om livslang læring hermed lader til at få en renæssance efter at have været glemt i 10-15-år. Men han mener, at det er væsentligt at koble livslang læring sammen med digitaliseringen.

”Inden vi får set os om, er kunstig intelligens ikke kun noget, gymnasieelever og studerende bruger til at skrive opgaver med, men en teknologi, som også lagermedarbejderen og tømreren skal forholde sig til og i et vist omfang også lære at bruge, så det giver mening i netop deres fag og kontekst.”

Der skal derfor efteruddannelse til, som blandt andet sætter spot på digitale færdigheder i erhvervslivet og produktionsbranchen. Det er ikke sikkert, at AMU og andre formelle uddannelsesinstitutioner er løsningen; Ulrik Brandi mener, at læringen i højere grad skal foregå på arbejdspladserne, som også bliver mere og mere digitale i disse år.

”Virksomhederne har et ansvar for at få alle medarbejdere med på digitaliseringen. Det kan fx ske ved løbende at tilbyde efteruddannelsesprogrammer internt i virksomhederne. På den måde sikrer de sig også, at der er en direkte linje fra det, der læres, til den kontekst, hvor den nye viden skal sættes i spil.”

Viden får ny status

Spørgsmålet er, om det løser det grundlæggende ulighedsproblem, som teknologien skaber. Ifølge Cathrine Hasse bunder den digitale ulighed nemlig ikke i, hvorvidt man kan installere en app – eller udvikle den for den sags skyld.

”I fremtiden vil det at kunne bruge teknologien klogt, ikke mindst kunstig intelligens, blive et spørgsmål om ens kulturelle ressourcer. Altså forstår du din egen og andres position og begrænsninger, når det kommer til viden, og kan du gennemskue, hvad der er sand viden, og hvad der er vrøvl eller decideret falske oplysninger?”

Løsningen er: Mere uddannelse, mere læring og mere viden. Ikke mindre, fastslår Cathrine Hasse:

”Der er blevet set ned på viden de senere år. Men jeg tror, at viden vil få en ny status i fremtiden. Det vigtigste bliver at lære folk at tænke. Hele formålet med vores uddannelsessystem skal være at lære mennesker at tænke,” siger hun og spår derfor humanister en lys fremtid, netop fordi de humanistiske fag vægter analyse og kritisk tænkning og uddanner sine studerende i netop det.

Vi skal blive så gode til at tænke, at vi kan gennemskue, at der bag ved den kunstige intelligens er indlejret en række reproducerede fordomme og særlige verdenssyn. Det illustrerer de svar, vi indledningsvis fik fra chatbotten på spørgsmålet ’ Hvad er vigtigt at lære i fremtidens digitale samfund?’

Svarene er ifølge Cathrine Hasses ikke kun ideologiske, men tjener også techgiganternes interesser. Netop derfor skal vi altid være på vagt, når vi anvender og arbejder med teknologier. Kunstig intelligens kan både gøre os klogere og dummere. Derfor er det fuldstændig afgørende, hvordan vi bruger teknologien, understreger hun:

”Vi lever heldigvis i et smørhul i verden, hvor vi ikke behøver at være så bange. Men i Kina, Mexico og Saudi Arabien bruger de den her teknologi til at manipulere deres befolkninger og til at overvåge systemkritikere. Så på verdensplan er det yderst presserende, at mennesker får en bredere forståelse af, hvad det vil sige at interagere med den her form for teknologi.”