Machine Learning Ethics Workshop

Jeg udviklede en kortbaseret designworkshop, der giver eleverne mulighed for at reflektere over etiske dilemmaer ved hjælp af et ML-specifikt sæt kortbunker til design af ML-applikationer. Workshoppen sætter etiske refleksioner i centrum for designaktiviteterne og diskuterer teknologi-nære etiske spørgsmål med eleverne baseret på deres egne design af ML-systemer. Workshoppen blev udviklet gennem en iterativ proces, der involverede fire gymnasieklasser med elever i alderen 16-20 år.

PapirbaseretMachine Learning
Machine Learning Ethics Workshop thumbnail

Tre kortsæt og en tavle til at beskrive et ML-system anvendes af eleverne i workshoppen. De tre kortsæt består af henholdsvis 14 datakort, 9 etik-kort og 26 personkort, farvekodede for at angive, hvilket sæt de tilhører. Data-sættet bruges til at analysere en kontekst for mulige datakilder, så deltagerne får indblik i, hvordan data kan findes overalt, og for at give eksempler på forskellige typer data og datakilder. Hvert kort beskriver en kategori af datakilder (fx sundhedsdata, nyheder, brugerplaceringer) og giver et par eksempler på specifikke datakilder inden for kategorien (fx puls, breaking news, tid på et sted) for at hjælpe deltagerne med at forstå kategorien.

Et billede af de kort, der bruges som en del af workshoppen

Person-sættet bruges til at analysere den kontekst, hvor applikationen skal implementeres, med fokus på mennesker; hvert kort beskriver en potentiel interessent (fx en kollega, et søskende, en lærer osv.). Deltagerne bruger dette kortsæt til at identificere, hvem applikationen kan påvirke, og hvordan disse personer kan inkluderes i overvejelserne omkring designet af applikationen. Etik-sættet anvendes til at reflektere over de etiske implikationer ved at implementere et ML-system i en kontekst og opfordrer deltagerne til at overveje etiske ML-spørgsmål (fx forklarbarhed, privatliv, ansvarlighed). Hvert kort stiller deltagerne et eller to spørgsmål for at hjælpe med at indramme en diskussion om spørgsmålet i forhold til deres design og etik, fx "Hvad sker der, hvis dit system træffer en dårlig beslutning? Hvem er ansvarlig?"

Fra workshoppen erfarede jeg, at det at støtte eleverne i at designe meningsfulde ML-systemer bidrog til at kvalificere deres etiske refleksioner. Elevernes designprocesser gav dem mulighed for at engagere sig i de etiske dilemmaer og knytte disse til teknologiens egenskaber og deres designbeslutninger. Jeg foreslår at se teknologi-nære diskussioner om etik som et mål i designprocesser og prototyping som et middel til at forankre disse diskussioner i elevernes egne designbeslutninger. Jeg bidrager med et workshopformat og designartefakter, der muliggør dette.

Back to Projects