Skal vi lade algoritmer være socialrådgivernes spådomskugler?

Maskinstorm

Myndigheder har eksperimenteret med at bruge algoritmer til at forudse alt fra langtidsledighed til risiko for mistrivsel blandt børn. Men er det etisk forsvarligt at bruge fejlbehæftede modeller til at spå om sårbare borgere? Det er emnet for dagens afsnit af Maskinstorm, hvor Thomas Troels Hildebrandt gæster studiet i Store Kongensgade. Han er professor ved datalogisk institut på Københavns Universitet og forsker i, hvordan man kan bruge kunstig intelligens i det offentlige system. Ifølge Thomas Troels Hildebrandt opstår der hurtigt store etiske og retssikkerhedsmæssige udfordringer, når man forsøger at bruge algoritmer til at spå om borgerne. »For det her er modeller, og der vil altid være fejl i modeller. Så man skal altid tænke over, om vi kan tåle at begå fejl. Det kan man bedre, hvis man ikke retter skytset mod de sårbare, men måske indad mod sagsbehandlingen og spørger, hvordan vi for eksempel kan blive klogere på ventetider eller overholdelse af lovgivning,« siger Thomas Troels Hildebrandt. Din vært i dagens afsnit er journalist Laura Friis Wang. Podcasten er støttet af Novo Nordisk Fonden.