Med den stadige utviklingen av kunstig intelligens, ser Studentdemokratiet i Sørøst-Norge (SDSN) det som realistisk at denne teknologien er her for å bli, spesielt i høyere utdanning. I henhold til ansatte og forelesere, er det et betydelig behov for både forståelse og opplæring av kunstig intelligens. For å kunne benytte seg av et slikt verktøy på en ansvarlig måte, er det nødvendig å ha en grunnleggende forståelse på hva som ligger bak denne teknologien.
I januar 2024 etablerte SDSN en arbeidsgruppe for kunstig intelligens, med formålet om å utvikle relevant politikk på området. Gruppen har arbeidet med ulike problemstillinger knyttet til KI, som er spesielt relevante for studenter og ansatte ved USN, og resten av UH-sektoren. Som en del av arbeidet ble det i tillegg gjennomført en spørreundersøkelse blant studentene underveis, som sammen med arbeidsgruppens prosesser har dannet grunnlaget for dette dokumentet.
Begrepsavklaring
Videre følger relevante begrepsavklaringer.
Akademia: Akademia er et fellesbegrep som gjerne brukes i forbindelse med høyere undervisningsinstitusjoner og forskning1.
Chatbot: En form for programvare som er utviklet for å kunne samhandle med mennesker gjennom både muntlig og skriftlig språk. I tillegg tar disse chatbotene for seg en rekke oppgaver og spørsmål, basert på informasjon den har tilgjengelig og kommandoer brukeren legger inn2. Avanserte chatboter, som ChatGPT, kan være basert på kunstig intelligens.
Deepfake: Et resultat av at innovativ teknologi, som kunstig intelligens, brukes for å manipulere og endre på, bilder, video- og lydmateriale. Konsekvensene kan ramme enkeltindivider, grupper, bedrifter og andre sektorer i samfunnet. Det kan føre til utbredt tvil i samfunnet om hva som er sant3.
Filterbobler: Et begrep som viser til en systematisk, individuelt tilpasset avgrensing av informasjon og opplevelser på internett som kan føre til ensretting og stagnasjon hos enkeltbrukere eller grupper4. Denne avgrensningen er basert på brukerens egen oppførsel på internett gjennom klikk, søk, liker-klikk og delinger i søkemotorer, sosiale medier og andre nettsteder. En slik ensretting over tid kan lede brukere inn i ekkokamre.
Generativ kunstig intelligens: Generativ kunstig intelligens er teknikker innen maskinlæring der målet er å etterligne et datamateriale5. De kan generere bilder, tekst, video, lyd og annet datamateriale som ikke finnes fra før.
Kunstig intelligens: Kunstig intelligens, forkortet KI, omhandler avanserte og teknologiske systemer som utfører oppgaver hvor det normalt sett kreves menneskelig intelligens og forståelse6.
Sannsynlighetsovervektprinsippet: Sannsynlighetsovervektprinsippet er et prinsipp om at det må være større sannsynlighet for at noe har skjedd enn at det ikke har skjedd for at man skal kunne legge hendelsen til grunn i en vurdering. Det må med andre ord være over 50 % sannsynlig at en hendelse har skjedd, før man kan gå videre med hendelsen som utgangspunkt. Prinsippet er ikke universelt, og enkelte saker krever en større grad av sannsynlighet for at hendelsen kan legges til grunn7.
Kompetanse og KI som verktøy
Det er viktig at studenter får kjennskap til hvordan KI kan brukes som et verktøy på en ansvarlig måte, all tid dette kan være en viktig ressurs i akademia. Kunstig intelligens må ikke bare ses på som et hinder, men også som et mulig verktøy i utdanningene. Chatboter basert på kunstig intelligens kan for eksempel brukes som en sparringspartner i en læringsprosess, for å korrekturlese tekst, gi tilbakemeldinger, forklare teorier og pensum samt bidra til utvikling av problemstillinger. I denne sammenhengen kan KI være et kreativt verktøy som kan bistå studentene i deres læring. Det er viktig å poengtere at det er studentene selv som er ansvarlige for eget arbeid, også når de benytter seg av KI. Likevel skal det være tydelige retningslinjer fra USN om bruken av KI, slik at studenter får trygge rammer i en vurderingsprosess og er klare over eventuelle konsekvenser dersom bruken av KI ikke er forsvarlig eller i tråd med eksisterende regelverk.
I USNs strategi, “Strategi 2022-2026", står det at de skal ha profesjonsrettede, arbeidslivsorienterte og samfunnsrelevante utdanninger. For å oppnå dette, er det essensielt å sikre at studentene utvikler kompetanse på dette feltet, et felt i vil møte i arbeidslivet.
Studentdemokratiet i Sørøst-Norge mener at:
- Universitetet i Sørøst-Norge bør revidere relevante strategiplaner og inkludere kunstig intelligens i disse.
Opplæring og Retningslinjer
En forutsetning for å kunne anvende kunstig intelligens er å være kritisk til det genererte innholdet som blir produsert og presentert til brukeren av tjenesten. Det eksisterer allerede et kunnskapsgap i studentmassen, både om hvordan KI kan brukes og hva det er. Opplæring vil utjevne dett gapet, og sikre at alle studenter har mulighet til å bruke KI. Studentene må derfor gjennom sine utdanninger få en forståelse for hva kunstig intelligens er, og ikke minst opplæring i bruk av dette verktøyet.
Ved å tilby opplæring i KI for ansatte og studenter vil USN kunne sikre en felles forståelse av hva KI er, hvordan det fungerer, og hvordan man kan bruke det som et verktøy i skrive- og læringsprosesser. En slik opplæring kan tilbys som del av forelesning, gjennom arrangementer eller annen kursing. På denne måten kan man sikre at KI blir en ressurs, samtidig som det vil kunne bidra med videreutvikling av KI-feltet ved USN. Det bør etableres en digital ressurs om bruk av KI som er lett tilgjengelig for studentene og kan fungere som et dekkende læringsopplegg for å sikre grunnkompetanse om kunstig intelligens.
USN må utvikle og implementere retningslinjer om bruk av kunstig intelligens, samtidig som man ivaretar grunnleggende akademiske verdier som kritisk tenkning og redelig bruk av kilder. Det er viktig med tydelige og forståelige rammer, slik at studentene kan være sikre på hva som regnes som rett bruk av slike verktøy. I tillegg vil retningslinjer føre til en felles forståelse av godkjent bruk hos studenter og ansatte, som vil være spesielt viktig i en vurderingssituasjon.
Studentdemokratiet i Sørøst-Norge mener at:
- Det skal gjennomføres opplæringen i forsvarlig bruk av kunstig intelligens gjennom digitale ressurser eller tilbys gjennom forelesning, arrangementer eller kurs.
- Universitetet i Sørøst-Norge skal sikre at studentene får en grunnleggende forståelse og innføring i hvordan ulike verktøy basert på kunstig intelligens er bygget opp og fungerer.
- Universitetet i Sørøst-Norge skal implementere retningslinjer for bruken av kunstig intelligens.
Studenters læringsutbytte og bruk av KI
Kunstig intelligens har potensiale til å være en verdifull støttespiller i studieløpet og studentens kunnskapsutvikling, forutsatt at det brukes på riktig måte. For studenter er det viktig å kunne bruke KI på en måte som styrker læringsprosessen, uten å erstatte viktigheten av læring i samspill med medstudenter og ansatt. Videre mener SDSN det er viktig at studentene bevisstgjøres om hvordan KI-verktøy er bygget opp og hvilke konsekvenser bruken av dette kan medføre. Det er viktig at studentene forstår at KI skal brukes som et verktøy og ikke en oppgaveløser. Ved rett bruk kan KI være med på å fremme læring som bidrar til økt forståelse innenfor ulike fagområder.
Studiebarometeret 2023 viser at studentene allerede bruker chatboter som supplement til å forstå pensum. Ved å bruke chatboter får studentene mulighet til å bygge på det kunnskapsgrunnlaget de har fra før, ettersom det kreves et visst kunnskapsnivå for å kunne utarbeide god data. Dette kan bidra til økt fagforståelse og en styrket læringsprosess tilpasset den enkelte studenten.
Studentdemokratiet i Sørøst-Norge mener at:
- Universitetet i Sørøst-Norge skal arbeide for at studenter sikres kompetanse i bruk av KI som et verktøy i studiehverdagen og kommende arbeidsliv.
- KI skal anerkjennes som et verktøy studenter kan benytte seg av i ulike læringsprosesser.
KI og Fusk
I takt med utviklingen av kunstig intelligens har det blitt et økt fokus på hvordan dette påvirker utdanningssektoren og andre deler av samfunnet. Nyere og stadig forbedrede KI-verktøy kan gjøre det enklere for studenter å omgå tradisjonelle deteksjonsverktøy. Dette kan gjøre det vanskelig for universitetet å opprettholde akademiske standarder. Det er i dag flere deteksjonsverktøy på nett, der verktøyenes nøyaktighet varierer i stor grad. SDSN stiller seg kritiske til at slike upresise verktøy brukes til å fange opp ‘uærlig’ bruk av KI i oppgaver. På grunn av variasjon i nøyaktighet er det viktig at slike verktøy ikke alene brukes som grunnlag for at studenter felles for fusk i sensurprosessen.
Kildehenvisning blir i dag brukt som det største beviset i fuskesaker som involverer chatboter, ettersom slike verktøy har en tendens til å finne opp kilder eller referere på feil måte. Det er viktig å ha med i betraktningen at det er menneskelig å gjøre feil. Slurvefeil er en reell feil som kan gjøres ved oppgaveskriving. Når det kommer til kunstig intelligens og fusk er det derfor relevant å påpeke at slike menneskelige feil kan bli oppfattet som uærlig bruk av kunstig intelligens.
Integritet, ærlighet og rettferdighet står sentralt i studentenes akademiske arbeid. Det er viktig at ingen studenter blir urettmessig anklaget eller straffet for bruk av kunstig intelligens når dette er brukt som verktøy. Det skal være en tydelig forståelse for hva som er fusk og hva som er riktig bruk av KI. Sannsynlighetsovervektprinsippet skal veie tungt i alle fuskesaker, og det er viktig at dette prinsippet legges til grunn også i fuskesaker som gjelder bruk av KI som ikke faller under USNs retningslinjer.
Studentdemokratiet i Sørøst-Norge mener at:
- Deteksjonsverktøy må slette tekster studenter laster opp i systemet, slik at studentenes arbeid ikke blir lagret og potensielt flagget som plagiat ved innlevering.
- Universitet i Sørøst-Norge skal utarbeide materiell om hva som regnes som rett og gal bruk av verktøy basert på kunstig intelligens.
- Deteksjonsverktøy ved Universitetet i Sørøst-Norge skal ha høy grad av nøyaktighet før disse kan brukes.
- Sannsynlighetsovervektprinsippet skal veie tungt i alle fuskesaker, også når det kommer til bruk av KI.
Forskning
Kunstig intelligens vil i fremtiden være en betydelig ressurs innenfor forskning, spesielt innenfor kvantitative metoder. KI-verktøy er svært gode på mønstergjenkjenning, som er sentralt i forskning innenfor en rekke fagfelt. Statistiske analyser, signalanalyse og -tolkning, kvantitative innholdsanalyser, medisinsk bildediagnostikk og stordataanalyser er bare noen spesifikke felt der kunstig intelligens kan og vil være en svært nyttig ressurs.
Forskningsetiske implikasjoner og metodologiske utfordringer
I mange tilfeller blir dataen som legges inn i chatbotene lagret av eierselskapene, og blir videre brukt til å forbedre nåværende chatboter eller til å utvikle nye KI-systemer. Studenters akademiske arbeid kan inneholde sensitive person- og helseopplysninger, bedriftsopplysninger og andre sensitive opplysninger. En ansvarlig holdning til konfidensialitet og personvern er grunnleggende verdier i forskning og akademia. Dette er en forutsetning for å opprettholde og styrke USNs integritet, i tillegg til samfunnets tillit til institusjonen og sektoren som helhet. Det er dessverre for få studenter og ansatte som har tilstrekkelig kunnskap om hvordan verktøy basert på KI kommer frem til sluttproduktet som genereres. Dette er metodologisk problematisk, både med tanke på transparens, validitet og repliserbarhet. Det må jobbes for bedre kunnskap om hvordan KI-verktøy er bygget opp og fungerer, slik at brukere har en forståelse for prosessen dersom de benytter seg av dette til forskning.
Studentdemokratiet i Sørøst-Norge mener at:
- Det er viktig at Universitetet i Sørøst-Norge er bevisst forskningsetiske implikasjoner og metodologiske utfordringer ved bruken av kunstig intelligens, og utforsker dette videre.
Kunstig intelligens ved USN og i akademia
Dagens samfunn preges i økende grad av problematikk knyttet til deepfakes, falske nyheter, mis- og desinformasjon, filterbobler og tekster med skjulte insentiver, stigmatisering og forenklinger. Kompetanse til å håndtere denne typen problematikk vil være en viktig egenskap studenter må tilegne seg i løpet av sine utdanningsløp. Ettersom kunstig intelligens stadig blir mer integrert i samfunnet og næringslivet, er det viktig å utforske de etiske, juridiske og sosiale implikasjonene av teknologien. USN har en sentral funksjon som kompetanse- og kunnskapsutvikler i sine regioner. Dette inkluderer utvikling og formidling av klare retningslinjer og tydelige standarder for ansvarlig bruk av kunstig intelligens. Derfor mener SDSN det er viktig at alle fagfelt ved USN utvikler kunnskap om kunstig intelligens og dens faglige og samfunnsmessige implikasjoner. Videre vil formidling av kunnskapen være med på å styrke kunnskapsgrunnlaget i arbeids-, nærings- og samfunnsliv regionalt, nasjonalt og internasjonalt. USN har allerede eksperter på fagfeltet som formidler aktivt om kunstig intelligens i våre regioner, og SDSN mener at dette arbeidet må opprettholdes og styrkes.
Studentdemokratiet i Sørøst-Norge mener at:
- Universitetet i Sørøst-Norge må sikre studentmedvirkning i arbeidet med utvikling og implementering av KI ved USN.
- Fagfeltene ved Universitetet i Sørøst-Norge må utvikle kunnskap om bruken av kunstig intelligens innenfor sine respektive områder.
- Universitetet i Sørøst-Norge må som samfunnsaktør ta ansvar for utvikling og formidling av kunnskap om kunstig intelligens.