Wersja kontrastowa

Dr Martyna Kusak. Algorytmy kontra przestępcy

Dr Martyna Kusak, fot. Adrian Wykrota
Dr Martyna Kusak, fot. Adrian Wykrota

Internet umożliwia gromadzenie ogromnej liczby danych, co doprowadziło do powstania nowych obszarów naukowych dotyczących big data. Czy dzięki algorytmowi już niebawem będzie możliwe zatrzymanie domniemanego przestępcy? O tym z dr Martyną Kusak z Wydziału Prawa i Administracji UAM rozmawia Jagoda Haloszka.

 

W jakim stopniu decyzje organów ściągania mogą być wspierane przez algorytmy lub sztuczną inteligencję?

Możliwości jest bardzo dużo, począwszy od takich narzędzi, które pozwalają na przewidywanie przestępstw po programy wspierające podejmowanie różnych decyzji, np. czy wszcząć postępowanie lub zastosować areszt wobec danej osoby, a kończąc na analizie danych czy zachowań. Są to wciąż narzędzia wspierające, a nie zastępujące decyzje ludzkie, choć praktyka pokazuje, że coraz mocniej się na nich polega. W moim grancie pracować będziemy nad standardami,  jakie spełniać powinno korzystanie z takich programów w taki sposób, aby maksymalizować efektywność ścigania przestępstw i minimalizować związane z tym ryzyka i problemy prawne. A tych jest bardzo dużo. Przykładem jest projekt holenderski, gdzie policja i naukowcy uniwersyteccy pracowali nad sztuczną inteligencją pomagającą ścigać przestępstwa wykorzystywania seksualnego dzieci w Internecie. Powstał wtedy bot internetowy o nazwie Sweetie, imitujący dziecko. Bot okazał się bardzo skuteczny. Mógł prowadzić jednocześnie wiele interakcji na czatach i utrwalać potencjalne dowody w sprawie. Projekt ten pokazał jednak również, jak wiele kłopotów prawnych pojawia się przy wykorzystaniu takiego narzędzia. Powstało m.in. pytanie, czy w tym przypadku w ogóle popełniono przestępstwo, ofiarą był bowiem bot, a nie człowiek. Nie było również jasne, jak traktować zgromadzone informacje, Sweetie nie była przecież organem procesowym tylko systemem komputerowym. Aktualnie w tej dziedzinie jest więc wciąż o wiele więcej pytań niż odpowiedzi. Moja praca, na którą otrzymałam grant, jest reakcją na część z nich, a celem jest wypracowanie standardów korzystania z big data, algorytmów i sztucznej inteligencji w ściganiu przestępstw w UE. W siedmioosobowym zespole, w tym z ekspertami z zakresu IT, kryminologii i etyki, będziemy badać m.in. jak od strony prawnej zagwarantować bezstronność i jakość takich narzędzi i ich zgodność z prawem do prywatności; jak dalece polegać na decyzjach sztucznej inteligencji; czy powinna istnieć granica autonomii działania takich systemów; jakie są sposoby zminimalizowania ryzyka dyskryminacji przez algorytmy. W Polsce są to pionierskie badania.Liczę że wyniki będą również istotne dla UE zwłaszcza, że coraz śmielej wspomina się o konieczności unijnej reakcji prawnej na takie narzędzia. Na razie brakuje jednak badań potwierdzających kierunek takich regulacji, jest to bardzo młoda dziedzina.

Big data nie jest rzadkością w systemie wymiaru sprawiedliwości w sprawach karnych. Nasze informacje są gromadzone każdego dnia, gdy korzystamy z naszych kart kredytowych lub smartfonów.

Zgadza się. Myślę, że bylibyśmy wszyscy zaskoczeni jak dużo można wyczytać z big data. To są informacje o nas jako o społeczności, często bardzo trafne, dokładne i zaskakujące. Byłoby to bardzo niekorzystne gdyby organy ścigania nie mogły z nich korzystać w swojej pracy, ponieważ pozwalają one przede wszystkim na znalezienie pewnych wzorów zachowań, co w ściganiu przestępstw jest bardzo pomocne. Wykorzystywanie big data w sprawach karnych nie jest jednak takie proste. Świetnym przykładem jest EUROPOL, gdzie wykorzystuje się nowe technologie w ściganiu przestępstw, przy jednoczesnym dbaniu o wysokie standardy jakości danych i ochrony prywatności.  Pomimo potencjalnych korzyści płynących z analizy big data, narzędzia te nie są jednak szeroko wykorzystywane. Po pierwsze, wymaga to bowiem ogromnej infrastruktury technicznej i zespołu obsługujących ją ekspertów, co wiąże się z wysokimi kosztami. Po drugie, aby big data rzeczywiście było pomocne, musi być odpowiedniej jakości, tj. aktualne, adekwatne i prawidłowe. Po trzecie, należy je gromadzić i przetwarzać zgodne z wymogami ochrony prywatności i danych osobowych. Jest to więc duże narzędzie, aczkolwiek istnieje wiele kłopotów i wyzwań, na które trzeba znaleźć odpowiedzi i wypracować standardy postępowania. Nad tym również będziemy pracować w grancie.

 

Wynika z tego, że wszystko co robimy jest śledzone. Czy kwestie prywatności wchodzą w debatę na arenie wymiaru sprawiedliwości w sprawach karnych?

Kolizje interesów ścigania przestępstw z ochroną prywatności zawsze istniały. Aktualnie problem ten nabiera jednak nowego znaczenia. Ilość danych i informacji, które codziennie produkujemy, oraz łatwość dostępu do nich jest bowiem prostsza niż kiedykolwiek wcześniej. Skuteczna ochrona prywatności w czasach, kiedy możliwość inwigilacji jest tak dostępna, jest dużym wyzwaniem. Pocieszające jest to, że w UE funkcjonują od niedawna przepisy o ochronie danych osobowych w ściganiu przestępstw, które weszły w życie razem z RODO, które zwiększają stopień ochrony naszej prywatności.

 

 

 

Czytaj także: Marta Nawrocka. Opinia opinii nierówna

 

 

Czy oprócz Sweetie istnieją obecnie inne tego typu narzędzia do wykrywania przestępstw?

Oprócz wspomnianej Sweetie można tu wskazać m.in. amerykański Compas. Jest to algorytm, który wylicza prawdopodobieństwo ponownego popełnienia przestępstwa przez daną osobę. Na podstawie tego wyliczenia sędzia podejmował decyzję, czy przedterminowo zwolnić skazanego, czy też powinien być on dalej pozbawiony wolności. Interpol wraz z ONZ prowadzą kilka badań pilotażowych wykorzystujących sztuczną inteligencję m.in. w symulacjach działań operacyjnych. Mają być one pomocne szczególnie w dużych i kosztownych przedsięwzięciach angażujących wiele państw, np. w toku ścigania przestępstw narkotykowych albo handlu ludźmi. Wszystko po to, by oszacować potencjalne ryzyko i szanse powodzenia takiej operacji. Testowane są również boty, które wspierają działania inwigilacyjne, korzystając z technologii rozpoznawania głosu, czasami nawet emocji w głosie.

W ubiegłym roku Wielka Brytania zatrudniła sztuczną inteligencję do prowadzenia śledztw, którymi policja nie chce się już zajmować. A jak polski porządek prawny zapatruje się na wykorzystywanie big data oraz sztucznej inteligencji?

W tej chwili nie ma przepisów, które są dedykowane wprost takim narzędziom. Nie oznacza to jednak, że korzystanie z nich jest niemożliwe, bardzo wiele zależy bowiem od interpretacji już istniejących przepisów. Również w innych państwach nie jest tak, że powstaje specjalny kodeks czy zestaw przepisów dotyczących algorytmów czy big data w działaniach organów ścigania, zazwyczaj interpretuje się rozszerzająco obowiązujące już przepisy bądź odpowiednio je modyfikuje. Dyskusja o wprowadzaniu przepisów dotyczących wprost sztucznej inteligencji dopiero się rozwija, zobaczymy w przyszłości jakie będą jej efekty.

 

Jednak w ubiegłym roku opinię publiczną rozgrzała wiadomość o Pegazusie.

Przykład Pegazusa obrazuje, jak łatwo można inwigilować społeczeństwo w XXI w. Każdy z nas korzysta przecież z laptopa czy smartphona, a śledzenie tych narzędzi daje często całościowy obraz naszego życia, to z kim żyjemy, gdzie przebywamy, czy jesteśmy leniwi, z kim się przyjaźnimy a kogo nie lubimy, ile mamy pieniędzy. Takie narzędzia jak Pegazus nie są jednak w ściganiu przestępstw niczym nowym, korzystanie z nich jest często uzasadnione dbałością o bezpieczeństwo narodowe czy zapobieganie najpoważniejszym przestępstwom, zwłaszcza terroryzmowi. Kluczowe jest jednak to, aby rzeczywiście korzystać z nich tylko wtedy, gdy jest to konieczne, i nie dopuszczać do masowej inwigilacji i zbierania danych o wszystkich „na wszelki wypadek”. Ponownie duże znaczenie mają tutaj przepisy o ochronie danych osobowych z której wynika aby przetwarzanie danych osobowych było proporcjonalne i adekwatne do celu, w którym są zbierane. Jest to duże zawężenie możliwości masowej inwigilacji społeczeństw w UE.

 

 

Czy można uciec od big data i sztucznej inteligencji?

Myślę, że nie jest to ani możliwe, ani korzystne, ponieważ są to narzędzia z dużym potencjałem zwiększenia efektywności i wydajności ścigania przestępstw. Zwłaszcza tych trudnych. Już teraz widać skuteczność nieskomplikowanych programów bazujących na dużych zbiorach danych. Przykładowo, w Niemczech w związku z plagą włamań w niektórych miastach korzystano z algorytmów typujących domy najbardziej narażone na włamanie. Następnie zwiększano na tym obszarze patrole policji i w efekcie liczba popełnianych przestępstw spadała. Byłoby to więc z dużą szkodą, gdybyśmy nie korzystali z tych narzędzi. Kluczowe jest jednak ustalenie reguł gry i odpowiednich standardów, wyważających efektywność ścigania z m.in. ochroną prywatności, danych osobowych, czy kontrolą nad danymi wykorzystywanymi przez algorytmy.

Nauka Wydział Prawa i Administracji
Zobacz podobne

Ten serwis używa plików "cookies" zgodnie z polityką prywatności UAM.

Brak zmiany ustawień przeglądarki oznacza jej akceptację.