Articles

App vertelt politie of verdachte vrij mag

Het politiekorps van de Engelse stad Durham wil voortaan op artificiële intelligentie beroep doen om te bepalen of verdachten van een misdrijf best aangehouden blijven of daarentegen op borgtocht opnieuw in vrijheid kunnen worden gesteld.

Daarbij zal het korps gebruik maken van de Harm Assessment Risk Tool (Hart), een programma dat door wetenschappers aan de Cambridge University werd ontwikkeld. Hart berekent aan de hand van het geslacht, de postcode en het strafregister van de verdachte of er sprake is van een laag, middelmatig of hoog risico op recidivisme. Ook andere korpsen zouden in de technologie zijn geïntroduceerd. Hart werd vier jaar geleden door computer-wetenschappers in Cambridge voor de eerste keer gebruikt. Aan de conclusies van het algoritme werden toen echter geen beleidsbeslissingen gekoppeld. Verdachten werden aan de hand van de parameters in verschillende risico-categorieën ondergebracht, waarna gedurende twee jaar eventuele gevallen van recidivisme werden geregistreerd. Bij een hoog risico op een herval kon een accuraatheid van 88 procent procent worden gemeld, maar bij een laag risico liep dat zelfs op tot 98 procent.

Schadeclaims

Het algoritme werd door de politie van Durham en de ontwikkelaars nog verder verfijnd. “Het programma velt geen definitief oordeel, maar is een instrument dat door de verantwoordelijke officier kan worden gebruikt om de meest opportune beslissing te nemen,” aldus een woordvoerder van de Durham Constabulary. “Daarbij kan echter nog met andere factoren rekening worden gehouden.” Critici zien echter diverse gevaren. In eerste plaats wordt opgemerkt dat in werkelijkheid de keuze aan het algoritme zal worden overgelaten, aangezien weinig officieren zin zullen hebben om een alternatieve beslissing tegenover de hogere hiërarchie te verdedigen. Bovendien wordt aangegeven dat nog nauwelijks naar de argumenten van de raadsmannen van verdachten zal worden geluisterd. Tenslotte wordt gewaarschuwd voor schadeclaims van personen die door het algoritme onterecht in de cel worden gehouden. (mah)

Tags
Show More

Express wordt Business AM

Close
Close