28. oktober 2020

Forskere om design af jobcenter-algoritmer: At få et job er ikke altid det rigtige mål

Teknologi

Algoritmer, der vurderer borgeres risiko for at gå ledige, afprøves i øjeblikket i en række danske kommuner. Men at få et job er ikke det eneste relevante mål for en ledig og dermed heller ikke for algoritmen, lyder konklusionen i et nyt studie fra Københavns Universitet.

Foto af en robotarm, der løfter en mand over en kasse
Foto: Getty Images

Forestil dig, at du er jobkonsulent. Du sidder over for en ledig og efter at have fundet vedkommende frem i systemet på computeren, popper følgende tekst op; ’forhøjet risiko for langtidsledighed’.

Vurderingen er lavet af en algoritme, der, via data om borgerens køn, alder, bopæl, uddannelse, indkomst, etnicitet, sygdomshistorik osv., giver et bud på, hvor længe denne person – sammenlignet med andre personer med lignende baggrunde – mon skal være i systemet og modtage ydelser.

Men er det rimeligt at stemple den enkelte borger på baggrund af, hvad andre med en lignende baggrund har formået i forhold til jobsøgning? Nej lyder svaret i et nyt studie fra Københavns Universitet.

”Man skal forstå, at mennesker er mennesker. Vi bliver ældre, syge og oplever tragedier og sejre. Så i stedet for at prøve at forudsige den enkeltes risici, bør vi hellere kigge på at tilrettelægge nogle bedre og mere gennemsigtige forløb på jobcenterområdet,” siger Naja Holten Møller, der er adjunkt på Datalogisk Institut og en af forskerne bag studiet.

Sammen med to kolleger fra samme institut, professor Thomas Hildebrandt og professor Irina Shklovski, har hun undersøgt de mulige alternativer til at bruge algoritmer i forbindelse med at forudsige jobparathed for den enkelte ledige og de etiske aspekter, der kan opstå her.

”Vi har undersøgt, hvordan man på en etisk og ansvarlig måde kan udvikle algoritmer, hvor de mål, som opstilles for algoritmen, også giver mening for jobkonsulenterne. Her er det afgørende at finde en balance, hvor den lediges situation både kan vurderes i nuet af jobkonsulenten samtidig med, at man kan lære af andre lignende forløb gennem algoritmen,” vurderer Naja Holten Møller.

Jobkonsulenterne skal være med til at skabe algoritmen

Brugen af algoritmer inden for jobsøgning er ikke et tænkt scenarie. Allerede nu har Styrelsen for Arbejdsmarked og Rekruttering introduceret denne type algoritmer til at forudsige borgeres risiko for langtidsledighed - og det på trods af kritik fra flere eksperter i dataret.

”Algoritmer, der bruges i det offentlige, må selvsagt ikke skade borgerne. Ved at udfordre scenariet og altså selve ideen om, at målet for en ledig i et jobcenter altid er et job, kan vi få bedre hold om de etiske udfordringer. Ledighed kan have mange årsager, og her kan en hurtig afklaring af tidsforløbet for de mest udsatte borgere være et bedre mål, viser dette studie. På den måde undgår vi, at algoritmer gør stor skade,” siger Naja Holten Møller.

De adspurgte jobkonsulenter i studiet udtrykker bekymring for, hvordan algoritmens vurdering vil påvirke deres egen dømmekraft netop i forhold til de udsatte borgere.

”Der skal sættes en ramme, hvor jobkonsulenter kan få reel indflydelse på de bagvedliggende mål, som er styrende for algoritmen. Det er svært, og det tager tid, men det er afgørende for resultatet. Samtidig skal man huske på, at algoritmer, der skal hjælpe med at træffe beslutninger, kan ændre jobkonsulenters arbejde væsentligt og en etisk tilgang indebærer derfor, at de tages med på råd,” forklarer Naja Holten Møller.

Vi skal tænke på de etiske aspekter

For selvom algoritmerne også kan være gavnlige i eksempelvis at kunne give en ide om, hvor længe den enkelte borger kan forvente at gå ledig, betyder det ikke, at det uden videre er etisk forsvarligt at anvende sådanne forudsigelser lavet af algoritmer i jobcentret, påpeger Naja Holten Møller.

”Der er en drøm om, at algoritmen kan se nogle mønstre, som andre ikke kan se. Måske kan den se, at for dem, der har oplevet en personlig tragedie, er denne vej gennem systemet den bedste. Algoritmen kunne eksempelvis sige, at fordi du har været ledig på grund af sygdom eller en skilsmisse, så er din mulighed for at undgå langtidsledighed afhængig af sådan og sådan,” siger hun og slutter:

”Men hvad skal vi med de her oplysninger, og kan de bruges på en fornuftig måde til at træffe bedre beslutninger? Jobkonsulenter kan ofte selv vurdere om en person ser ud til at kunne gå ledig i lang tid. De er formet af det menneskelige møde, deres faglighed og erfaring - og det er i dette møde, at den etiske udvikling af nye typer systemer til det offentlige bedst kan spire.”