Sztuczna inteligencja w Stanach Zjednoczonych

W setnym, jubileuszowym wydaniu Mojego Miasta poruszyliśmy problematykę wykorzystywania sztucznej inteligencji (dalej „SI”) w Chinach oraz Unii Europejskiej. Pokazało to szczególną różnicę w sposobie regulacji SI w obydwóch systemach prawnych, od „humano-centrycznego” w Europie, po „pro-państwowy” w Chinach. W tym numerze przyjrzymy się, w jaki sposób SI jest wykorzystywana w wymiarze sprawiedliwości, ze szczególnym uwzględnieniem Stanów Zjednoczonych.

Technologia a prawo wykroczeń

W XXI wieku technologie oparte na nauczaniu maszynowym są coraz częściej wykorzystywane w drobnych procesach o wykroczenia lub realizacji praw konsumenta. Kierowca jadący na autostradzie z niedozwoloną prędkością naraża się na zrobienie zdjęcia przez fotoradar. Następnie, w zależności od kraju, może on otrzymać mandat oraz (lub) punkty karne. Proces wystawiania mandatu karnego może odbywać się całkowicie bez udziału człowieka. Jest to praktyka powszechna we Francji, gdzie egzekwowanie wykroczeń drogowych jest w pełni zautomatyzowane. Zdjęcia zrobione przez fotoradar są analizowane przez program komputerowy połączony z krajową ewidencją kierowców, przez co mandat jest automatycznie wysyłany pocztą tradycyjną na adres kierowcy. Ten mechanizm, oparty na nauczaniu maszynowym, polega na wykonywaniu powtarzalnych czynności, niewymagających dużego nakładu pracy. Nie wpływa to w sposób drastyczny na prawa człowieka w postaci ograniczenia lub pozbawienia wolności, z tego względu ten mechanizm nie jest kwestionowany. Jednakże bardziej rozwinięte programy bazujące na sztucznej inteligencji są wykorzystywane m.in. do realizacji tych celów w Stanach Zjednoczonych.

„Narzędzia oceny ryzyka” w sądownictwie USA

W Stanach Zjednoczonych powszechną praktyką stało się wykorzystywanie algorytmów punktowych oceniających ryzyko ponownego popełnienia przestępstwa przez oskarżonego (w warunkach recydywy). Te mechanizmy są bardziej zaawansowane niż nauczanie maszynowe, ponieważ w większości oparte są na SI. Wykorzystuje się je w szczególności przy wydawaniu wyroków skazujących na pozbawienie lub ograniczenie wolności, oraz decyzjach o zwolnieniu oskarżonego z aresztu. Przykładami programów wykorzystywanych przez sądy amerykańskie są m.in. Ohio Risk Assessment System Pretrial Assessment Tool (ORAS- -PAT), Public Safety Assessment (PSA), Virginia Pretrial Risk Assessment Instrument (VPRAI), czy będący przedmiotem postępowania przed Sądem Najwyższym stanu Wisconsin Correctional Offender Management Profiling for Alternative Sanctions (COMPAS). Różnicą pomiędzy powyższymi programami, opartymi na sztucznej inteligencji, a algorytmami wykorzystywanymi przy egzekwowaniu kar z wykroczeń jest pełna autonomia w procesie orzekania. W rezultacie decyzja o pozbawieniu wolności zostaje wydana w całości przez program, który przetwarza statystyki stworzone na podstawie baz danych zawierających duże ilości wyroków, razem ze stanami faktycznymi oraz uzasadnieniami ze spraw sądowych. Ta praktyka była przedmiotem sporu sądowego pomiędzy USA a Erykiem Loomisem, który został skazany na okres sześciu lat bezwzględnego pozbawienia wolności oraz dodatkowych pięciu lat ograniczenia wolności przez program COMPAS (sprawa State v. Loomis, 881 NW 2d 749, Wis. 2016). Skład sędziowski podjął decyzję pod wpływem wyniku badania wykonanego przez program COMPAS, który analizował popełnione przez oskarżonego karalne czyny i jego zachowanie w przeszłości oraz porównywał je z podobnymi sprawami. Loomis zaskarżył wyrok jako naruszający jego prawo do rzetelnego procesu, ponieważ przesłanki wydania wyroku nie były zindywidualizowane w odniesieniu do jego sprawy, ale bazowały na szerszej grupie osób i wartościach statystycznych. Sąd Najwyższy stanu Wisconsin oddalił apelację Loomisa twierdząc, że decyzja sądu federalnego nie jest oparta wyłącznie na programie COMPAS, a statystyka wykonana przez program dotyczy najbardziej zbliżonej do niego grupy osób, które popełniały podobne przestępstwa.

Kontrowersje

Pomimo pozytywnego celu, jaki przyświeca „narzędziom oceny ryzyka” w postępowaniach sądowych, polegającym na odciążeniu sędziego, należy wskazać wybrane negatywne cechy tych urządzeń. Po pierwsze, rzetelność analiz przeprowadzonych przez te technologie nie jest niezawodna. Rezultat jest zależny od sposobu ich zaprogramowania i wykorzystywanych baz danych. Często zdarza się, że dane są błędnie sklasyfikowane, niedokładne, nieaktualne lub niekompletne, co wpływa negatywnie na wiarygodność wyników końcowych. Po drugie, częstą wadą SI jest jej stronniczość. Słabej jakości dane, z których tworzone są statystyki wykorzystywane w procesie decyzyjnym, prowadzą do wydawania wyroków dyskryminujących ze względu na kolor skóry czy pochodzenie etniczne. Stanowi to problem w Stanach Zjednoczonych, gdzie statystycznie większy odsetek przestępstw popełniany jest przez obywateli czarnoskórych, co wpływa na wyniki algorytmów.

Wymierzanie sprawiedliwości od początku rozwoju koncepcji demokratycznych państw prawnych pełni kluczową rolę w funkcjonowaniu społeczeństw. Proces wydawania wyroku powinien brać pod uwagę dobro osoby – zarówno oskarżonego, jak i poszkodowanego. Pomimo dokonania czynu karalnego, skazany nie traci swojej ludzkiej godności. Z tego względu wyrok zawsze powinien być zindywidualizowany do faktów sprawy, a nie oparty na statystyce. Każdy człowiek ma bowiem prawo do poprawy i zmiany swojego postępowania.