Skończyło się. Po kolejnej już wpadce policji w Detroit nie może już wykorzystywać rozpoznawania twarzy jako podstawy aresztowania. Jej systemy okazały się nieco rasistowskie.
Policja w Detroit będzie musiała przyjąć nowe zasady ograniczające wykorzystanie technologii rozpoznawania twarzy, po tym, jak miasto zawarło ugodę z Robertem Williamsem, czarnoskórym mężczyzną, który został niesłusznie aresztowany w 2020 roku z powodu błędnego dopasowania twarzy.
Nowe zasady nie oznaczają całkowitego zakazu tej technologii, a sąd będzie miał jurysdykcję nadzorowania porozumienia tylko przez cztery lata. Zgodnie z nowymi ograniczeniami, które ACLU nazywa najsurowszymi tego typu politykami dla organów ścigania w kraju, policja nie może dokonywać aresztowań wyłącznie na podstawie wyników rozpoznawania twarzy ani przeprowadzać postępowania opierając się jedynie na wskazaniach tej technologii.
Przypadek Roberta Williamsa nie jest jedyny w Detroit — są jeszcze przynajmniej dwa takie przypadki niesłusznych aresztowań opartych na wynikach technologii rozpoznawania twarzy. We wszystkich przypadkach sprawa dotyczyła czarnoskórych mężczyzn, z którymi zastosowana technologia miała wyraźny problem.
Teraz policja w Detroit będzie musiała naprawić narzędzie, z uwzględnieniem wykrytych uprzedzeń rasowych systemu. Dodatkowo przeprowadzony ma być audyt wszystkich spraw od 2017 roku, w których użyto rozpoznawania twarzy do uzyskania nakazu aresztowania.
Zobacz: Wpadł po 55 latach. Złapał go system rozpoznawania twarzy
Zobacz: Policja zapukała do drzwi niewinnej kobiety. Winne AI
Źródło zdjęć: Shutterstock - Lester Graham
Źródło tekstu: Engadget, oprac. wł
