Kunstig intelligens som beslutningsstøtte

Kunstig intelligens som beslutningsstøtte

Der er igangsat syv projekter i kommunerne. Der er bl.a. fokus på Beskæftigelsesområdet. Projekterne bruges som beslutningsstøtte. Det betyder, at datagrundlaget bruges til at understøtte sagsbehandlernes arbejde.
Der er tre projekter på jobcentre.
1. Korrekt og ensartet sagsbehandling ved spørgsmål om sanktionering af ledige borgere med Frederiksberg Kommune som projektejer. Projektet har til formål at vurdere, om AI kan bidrage til beslutningsstøtte til brug for den faglige medarbejders vurdering af, hvorvidt en ledig borgers udeblivelse fra samtale eller aktiveringstilbud skal medføre en sanktion i borgerens ydelse.
2. Målrettede beskæftigelsesindsatser til ledige borgere med Odense kommune som projektejer. Projektet har til formål at bruge AI til at understøtte sagsbehandleren i at anbefale en individuel, målrettet indsats og dermed nedbringe ledighedsperioden, mindske langtidsledighed og øge tilfredsheden med indsatsen hos den enkelte.
3. Bedre match mellem ledige borgere og virksomheder med Københavns Kommune som projektejer. Projektet har til formål at bruge AI til at understøtte sagsbehandleren i at matche aktuelle stillingsopslag med den lediges faglige og personlige kompetencer og dermed anbefale mere relevante jobforslag og bringe den ledige hurtigere i beskæftigelse.
 
Fælles for de tre projekter er, at de fokuserer på kunstig intelligens som beslutningsstøtte, altså et hjælpeværktøj til den professionelle sagsbehandler, der i sidste instans træffer en afgørelse ud fra datagrundlaget. Det er sagsbehandlerne, der træffer beslutningerne og algoritmerne, der skaber datagrundlaget.
 
Etiske, juridiske og datasikkerhedsmæssige afklaringer
De tre projekter nævner alle med forskellig ordlyd, at de vil foretage etiske, juridiske og datasikkerhedsmæssige afklaringer i forbindelse med projektet – især i forhold til borgeroplevelsen og sagsbehandlerens anvendelse af værktøjet.
 
 
FAKTA
Bias og forklarbarhed
Det er kun i projekt 1, der klart angiver, at de vil undersøge de helt centrale problemstillinger ved anvendelsen af kunstig intelligens til sagsbehandling, nemlig bias i datasæt og forklarbarhed:
 
0. Bias i datasæt: En AI-model trænes på baggrund af historiske data og vil dermed træffe nye afgørelser på baggrund af mønstre i fortidens data. Men hvis disse historiske data f.eks. kun er fra København, og modellen skal bruges i hele landet, kan den ramme skævt. Det kan også være, at modellen medtager datasæt, der er irrelevante som hårfarve og baserer sine afgørelser på dette. Det er derfor væsentligt, at man er åben om hvilke datasæt, modellen er trænet på.
 
  1. Forklarbarhed: På det nuværende teknologistade kan man basalt set vælge mellem AI-modeller, som rammer meget præcist, men hvor afgørelserne ikke kan forklares, og AI modeller som kan forklares, men hvor præcisionen er ringe. Når AI anvendes til beslutningsstøtte, er det meget vigtigt både for sagsbehandler og borger, at computerens anbefaling er så præcis som mulig og forstås af begge parter.
 
-