Czarna skrzynka pełna uprzedzeń – czy algorytmy widzą świat sprawiedliwie?
Kiedy w 2018 roku badania wykazały, że jeden z popularnych systemów rozpoznawania twarzy miał aż 35% większą szansę na błędną identyfikację osób o ciemniejszej karnacji, wielu uznało to za technologiczną wpadkę. Tymczasem to nie był błąd, a symptom głębszego problemu. Algorytmy nadzoru, od kontroli na lotniskach po policyjne patrole, często działają jak krzywe zwierciadło – odbijają świat nierówny, w którym zostały stworzone. Ale właśnie dlatego audytowanie tych systemów stało się narzędziem walki nie tyle z technologią, co z utrwalonymi przez ludzi stereotypami.
Mechanizmy decyzyjne oparte na sztucznej inteligencji potrafią utrwalać dyskryminację w sposób bardziej podstępny niż ludzkie uprzedzenia. Nie krzyczą epitetów, nie unikają kontaktu wzrokowego. Po prostu częściej zaliczają Romów do grupy ryzyka, a mieszkańców dzielnic zamieszkanych przez mniejszości traktują jak potencjalnych przestępców. Paradoks? Systemy mające zwiększać bezpieczeństwo czasem je pogarszają, wzmacniając społeczne podziały.
Jak algorytmy uczą się dyskryminacji – mechanizmy stronniczości
Przyjrzyjmy się konkretom. W Detroit pewna czarnoskóra kobieta została aresztowana tylko dlatego, że system rozpoznawania twarzy pomylił ją z kimś innym. Błąd? Tak, ale nie przypadkowy. Algorytmy uczą się na danych historycznych – jeśli w przeszłości częściej zatrzymywano Afroamerykanów, system uzna, że to właściwy kierunek działania. To jak krąg błędnego rozumowania: policyjne statystyki odzwierciedlają nadzorowane obszary, nie prawdziwą przestępczość.
Problemy zaczynają się już na poziomie zbierania danych. Fotografie używane do trenowania systemów rozpoznawania twarzy pochodzą często z mediów społecznościowych lub policyjnych baz – oba źródła bywają tendencyjne. Co gorsza, błędy kumulują się: słabsze rozpoznawanie ciemniejszej skóry prowadzi do większej liczby fałszywych alarmów, te z kolei zwiększają statystyki interwencji, co… utrwala błędne koło.
Rewolucja przez prześwietlenie – jak działają audyty algorytmiczne
W Nowym Jorku wprowadzono ostatnio obowiązkowe audyty systemów wykorzystywanych przez policję. Specjaliści badają nie tylko wyniki, ale i sposób podejmowania decyzji – czy system częściej sugeruje kontrolę osób o określonym pochodzeniu? Czy dane treningowe były reprezentatywne? To żmudna praca, trochę jak demontaż silnika, by znaleźć źle działającą część.
Najlepsze praktyki obejmują trzy kroki: sprawdzenie danych wejściowych, analizę logiki decyzyjnej i testowanie na różnorodnych grupach. W mieście Helsinki udowodniono taką metodą, że pewien system monitoringu pięciokrotnie częściej błędnie identyfikował osoby azjatyckiego pochodzenia. Bez audytu nikt by tego nie wychwycił – system działał, tyle że… wybiórczo.
Etyka w praktyce – jak naprawiać niesprawiedliwe algorytmy
Nie chodzi tylko o wykrywanie problemów, ale o ich naprawę. W przypadku wspomnianego systemu w Helsinkach wprowadzono zmiany w zbiorze treningowym, dodając więcej zróżnicowanych zdjęć. Ale to nie zawsze wystarcza. Czasem potrzebny jest głębszy remont – algorytmy mogą np. celowo pomijać pewne cechy demograficzne w procesie decyzyjnym, choć to rodzi nowe pytania: jeśli całkowicie zignorujemy rasę, czy nie przegapimy prawdziwych przejawów rasizmu w danych?
Organizacje pozarządowe coraz częściej tworzą narzędzia do samodzielnego testowania systemów. Projekt Algorithmic Justice League oferuje np. platformę, gdzie można zgłaszać przypadki dyskryminacji przez algorytmy. To ważne, bo – bądźmy szczerzy – urzędnicy rzadko sami przyznają, że ich systemy działają tendencyjnie.
Przyszłość nadzoru – czy możliwy jest sprawiedliwy algorytm?
W idealnym świecie systemy nadzoru byłyby całkowicie obiektywne. Ale rzeczywistość jest bardziej skomplikowana. Nawet najlepszy algorytm to tylko narzędzie – i to od ludzi zależy, czy zostanie użyte do ochrony, czy do utrwalania nierówności. Audyty to nie magiczna różdżka, ale konieczny pierwszy krok.
Być może rozwiązaniem nie jest tworzenie doskonalszych systemów nadzoru, ale ograniczenie ich zakresu. Kilka amerykańskich miast już zakazało użycia rozpoznawania twarzy przez policję. Inne stawiają na transparentność – w Amsterdamie każdy może sprawdzić, jakie algorytmy są używane przez miasto i na jakich zasadach. To nowy kierunek: nie ślepe zaufanie do technologii, ale świadoma kontrola nad nią.
Ostatecznie walka ze stronniczością algorytmów to nie problem techniczny, lecz społeczny. Maszyny nie rodzą się uprzedzone – uczą się tego od nas. Może więc zamiast tylko poprawiać algorytmy, powinniśmy częściej poprawiać… rzeczywistość, na której się uczą?
