Dataetik i brug og udvikling af algoritmer

Datadrevne systemer kan gå fra at være helt simple til meget komplekse. Det er vigtigt, at der kan gives en forklaring på, hvorfor systemet træffer en bestemt beslutning. Forklaringen skal kunne gives, både hvis personer gør indsigelser, og også som del af en dataetisk forretningsstrategi. I kan fx udvælge de mest gængse processer i jeres datadrevne system og beskrive dem i jeres FAQ eller privatlivspolitik på jeres hjemmeside. Det er vigtigt, at sproget er klart og forståeligt – også for ikke-tekniske interessenter. Forklarlighed er ikke ensbetydende med fuld transparens omkring algoritmer, da der blandt andet også er forretningsmæssige hensyn, men man skal kunne forklare, hvilke faktorer der ligger bag et resultat i systemet.

Datadrevne systemer har evnen til at foretage automatiserede beslutninger langt hurtigere end et menneske. På trods af denne fordel er det vigtigt, at systemet ikke kontinuerligt foretager beslutninger uden opsyn, men at det gennemgås periodisk af en medarbejder. I kan også sørge for, at systemet blot giver anbefalinger, hvorefter en medarbejder træffer den endelige beslutning. Dette kaldes også ‘human-in-the-loop' og sikrer, at der hele tiden er kontrol med det datadrevne system. 

Som led i jeres opsyn med det datadrevne system bør I føre en log over, hvornår systemets anbefalinger underkendes af en bruger. På den måde kan I bruge indsigterne til at justere og optimere systemet, så det opererer mere præcist og effektivt.  I får også en bedre indsigt i systemets processer, hvilket i sidste ende leder til større gennemsigtighed og forklarlighed. 

Jeres datadrevne system bør operere så præcist og relevant som muligt for målet med netop jeres system. Nogle systemer er mere indgribende end andre, og derfor skal der også opsættes forskellige tærskler afhængigt af, hvilket område systemet opererer indenfor. Hvis I arbejder med prædiktive modeller baseret på kunders indkøbsvaner, kan der opsættes mindre præcise tærskler, end hvis I fx arbejder med røntgenbilleder. Derfor bør I rutinemæssigt gennemgå systemets tærskler for at sikre jer, at systemet opererer så præcist og optimalt som muligt. 

For at give jer selv det bedste overblik over systemet er det vigtigt, at I dokumenterer den metode, I bruger til at oplære jeres datadrevne system. Det gælder både i forhold til systemets opbygning, hvor I sandsynligvis allerede fører tilsyn og dokumentation, men også i forhold til hvilken data der er brugt til at træne jeres system. Dokumentationen giver desuden mulighed for bedre at forklare systemets beslutningsprocesser til interessenter og bidrager dermed til et mere gennemsigtigt og forståeligt system.

For at sikre at systemet ikke leverer forskellige anbefalinger på baggrund af samme faktorer i inputdata, bør I rutinemæssigt føre opsyn med systemets output. Dette sikrer et mere konsistent system og giver større tillid til brugen af systemet fra interessenter og brugere. 

Inden I designer jeres datadrevne system, bør I overveje, om der er risiko for, at nogle grupper forfordeles og derved stilles dårligere end andre, fx på baggrund af køn, etnicitet, alder mm. I så fald bør I gentænke systemet og overveje, hvordan det kan designes, så det ikke krænker bestemte befolkningsgrupper. 

Inden I sætter et datadrevent systemet i produktion, bør I udarbejde processer for test af uforudsete bias og andre faktorer i systemet. Det samme bør I gøre for den data, der er brugt til træning af systemet. Hvis ikke I udarbejder disse processer, kan det lede til skævvredne output og i sidste ende gøre systemet ubrugeligt for jeres virksomhed. 

Ved etableringen af jeres system bør I indføre en mekanisme, som jeres brugere kan anvende til at rapportere potentiel bias. Det gør det nemmere for brugerne at kommunikere fejl, og I kan hurtigere reagere og rette systemet til. 

For at sikre at systemet og dets data er så mangfoldigt og velovervejet som muligt, kan I med fordel inddrage domænespecialister eller eksperter. Det kan fx være én med særlig viden om den målgruppe, som jeres system og data berører. Det giver et bredere perspektiv og kan være med til at udpege områder, hvor der skal tages særlige hensyn.

Hvis jeres system leverer unøjagtige forudsigelser, bør I have dokumenterede processer for, hvad I gør, hvis uheldet er ude. På den måde kan I hurtigere reagere og rette op på unøjagtighederne. I kan endda i værste tilfælde indføre en mekanisme, som lukker for systemet, indtil der er rettet op på systemets unøjagtighed.

Hvis jeres system opererer med potentiel eller allerede identificeret bias, er det en god idé at have en plan for, hvordan det skal håndteres eksternt. Det kan gøres via oplysning på jeres hjemmeside, via e-mail eller andre af jeres kommunikationskanaler. At indrømme fejl skaber tillid og er en af grundstenene i dataetik.