Juridiska och etiska aspekter
Parallellt med att göra överväganden kring användning av generativ AI ur pedagogiska perspektiv är det också helt avgörande att förhålla sig till juridiska och etiska aspekter.
Personuppgifter, känsliga uppgifter och sekretess
Om man använder tjänster eller verktyg som inte har upphandlats av Göteborgs universitet behöver man säkerställa att de inte används på ett sätt som riskerar att bryta mot någon lagstiftning, till exempel Dataskyddsförordningen eller Offentlighets- och sekretesslagen. Sannolikheten är mycket stor att data överförs till länder utanför EU och det är då inte tillåtet att mata in exempelvis personuppgifter i dem. Man får heller inte mata in känsliga uppgifter eller uppgifter som omfattas av sekretess. Som lärare behöver man därför vara mycket försiktig med hur man använder dessa tjänster och säkerställa att det inte görs på ett sätt som bryter mot någon lagstiftning. Ett grundläggande förhållningssätt behöver vara att det endast är data som skulle kunna publiceras helt öppet som matas in i tjänsten. I nuläget gäller detta även Microsoft Bing Chat.
Studenters användning av generativ AI. Likvärdighet i tillgång till teknologier och delning av data.
Om man som lärare planerar att låta studenter använda generativ AI i undervisningsaktiviteter eller vid examination är det viktigt att säkerställa likvärdig tillgång till verktygen. I de situationer där Göteborgs universitet inte erbjuder tillgång till dem kan studenter inte förväntas att kunna använda dem. Det finns också andra etiska överväganden som behöver göras, framför allt om man kan kräva att studenter använder tjänster som innebär delning av data eller personuppgifter. Med utgångspunkt i detta blir det tydligt att det finns svårigheter att utveckla upplägg som på ett hållbart sätt inkluderar studenters användning av generativ AI.
Medvetenhet om bias och begränsningar
Den data som används för att träna generativ AI påverkar i sin tur utfallet när man använder tjänster för att generera material. Om man tittar specifikt på språkmodellen GPT har tidigare modeller i huvudsak tränats på engelska texter som härstammar från västerländska kulturer (vilken data som använts för att träna GPT4 är inte offentliggjort). Förutom att modellen har tränats för att tolka och generera språk har det med tiden också blivit tydligt att den har ”färgats” av underliggande kultur och därmed också reproducerar den när den genererar text. Vid användning av generativ AI är det därför nödvändigt att vara medveten om att det som genereras kan vara färgat av den träningsdata som använts för modellen. Frågor kring bias i träningsdata, reproduktion av kultur och fördomar etc, behöver också lyftas tillsammans med studenterna så att de får möjlighet att utveckla ett ansvarsfullt och medvetet förhållningssätt till generativ AI. Tyvärr är transparensen kring träningsdata, algoritmer etc i princip obefintlig, så det kan vara en utmaning att arbeta med dessa frågor.
Ekonomiska aspekter
I de fall där universitetet inte har upphandlat en tjänst eller ett verktyg kan det vara aktuellt att göra överväganden kring ekonomiska aspekter innan man börjar använda tjänsten eller verktyget. Vid användning av gratistjänster för generativ AI kan man behöva "betala" med den data som matas in i systemet och/eller resultaten som genereras. Dessa kan sedan till exempel komma att användas för att utveckla befintliga eller nya tjänster eller i marknadsföringssyfte. Det kan därför vara aktuellt att göra överväganden kring om man kan acceptera det.