Flock Safety zbudowało AI do identyfikacji kierowców dla policji

Wired dotarł do kodu nowego narzędzia AI firmy Flock Safety, giganta na rynku systemów rozpoznawania tablic rejestracyjnych, które zaprzecza wieloletnim publicznym zapewnieniom firmy. Flock od lat twierdzi, że jego technologia „nie może rozpoznawać, identyfikować ani śledzić osób”. Tymczasem, jak ujawnia Wired, firma zbudowała system, który robi właśnie to – identyfikuje kierowców i śledzi pojazdy na podstawie wzorców ich ruchu.

Narzędzie, korzystające z sieci kamer monitorujących ruch pojazdów w ponad 6000 społeczności w USA, potrafi wskazać potencjalnych świadków na podstawie częstotliwości, z jaką ich samochody przejeżdżają przez daną dzielnicę, albo wyszukać „znajomych” kierowcy na podstawie kamer, przez które przejeżdżali razem. Ponieważ system ma dostęp do akt policyjnych, dzienników dyspozytorskich 911 i komercyjnych baz danych identyfikacyjnych, numery rejestracyjne mogą zostać zamienione na imiona, nazwiska, adresy domowe i dane bliskich.

Kluczowe wnioski

• Narzędzie, pierwotnie nazwane Nightshift, a obecnie znane jako OS Investigate, zawiera 69 gotowych podpowiedzi (prompty), które policjanci mogą wybierać, edytować i przesyłać do modelu AI.
• Kod opisuje 45 narzędzi dostępnych dla AI, w tym dostęp do skanów tablic, metadanych kamer, rejestrów aresztowań, akt spraw, dzienników dyspozytorskich, wyników balistycznych oraz baz komercyjnych z numerami ubezpieczenia społecznego, datami urodzenia, numerami telefonów i adresami e-mail.
• System pozwala wyszukiwać osoby w dowolnym obszarze na mapie na podstawie samego opisu fizycznego, bez potrzeby podania tablicy, nazwiska czy zarzutów.
• Flock testuje produkt z niewielką grupą partnerów z organów ścigania i opisuje go jako wciąż będący w fazie rozwoju, przy czym rzecznik firmy Paris Lewbel zaznaczył, że możliwości i sposób działania narzędzia mogą się jeszcze znacząco zmienić przed szerszym wydaniem.
• Eksperci od prywatności i prawa ostrzegają, że narzędzia Flocka już wcześniej budziły poważne obawy konstytucyjne, dając policji szeroki, często bezuprawny dostęp do rejestru ruchu ludności, a nowe prompty idą dalej niż wyszukiwanie konkretnego, znanego pojazdu.

Odwrócenie logiki inwigilacji

Model biznesowy Flocka opierał się dotąd na prostej transakcji: kamera fotografuje przejeżdżający samochód, zamienia tablicę na tekst i sprawdza ją na liście pojazdów poszukiwanych przez policję. Samochody, których nie ma na liście, są jedynie rejestrowane. Gotowe prompty w OS Investigate opisują odwrócenie tego mechanizmu – funkcjonariusz nie potrzebuje już tablicy, nazwiska ani konkretnego przestępstwa, żeby zacząć poszukiwania. Wystarczy podać miejsce, przedział czasu i wzorzec zachowania, a system ma za zadanie wskazać osoby, które temu wzorcowi odpowiadają.

Wszystkie 69 promptów udostępnianych są funkcjonariuszom jako menu gotowych zapytań. Wybór jednego z nich wkleja treść do okna czatu, gdzie policjant może ją przeglądnąć lub zmodyfikować, a następnie ponownie kliknąć, aby przesłać zapytanie do systemu.

Jeden z wgranych do systemu promptów brzmi: „Znajdź mi świadków na podstawie pojazdów najczęściej widzianych w [dzielnica] w ciągu [ostatnich 14 dni] w [dziennym przedziale czasowym] (nie obejmuje pojazdów z białej listy)”. Funkcjonariusz wypełnia nawiasy i przesyła zapytanie – wynikiem jest lista tablic, które inne narzędzia w produkcie zamieniają następnie na nazwiska i adresy domowe.

Inny prompt nakazuje systemowi wylistować wszystkie osoby aresztowane więcej niż dwa razy w ciągu dwóch lat za „jakiekolwiek przestępstwo”, wyłączając jedynie aresztowania narkotykowe, a następnie nakazuje umieścić na mapie miejsca ich zamieszkania, pobrać zgłoszenia interwencyjne dotyczące ich adresów i „przygotować profil trzech najważniejszych osób”. Prompt zaczyna się więc od wszystkich osób w danym obszarze mających rejestr aresztowań, a kończy dossierami na trzy z nich, wybrane przez oprogramowanie.

Profilowanie bez zarzutów i konkretnego celu

W terminologii Flocka „workup” to jednokomendowe sprawdzenie przeszłości danej osoby. Zaczyna się od imienia, nazwiska i daty urodzenia, a system zwraca to, co znajduje się w rejestrach departamentu i danych komercyjnych: pojazdy, wcześniejsze wpisy jako podejrzany, a na drugim ekranie – dane bliskich, numery telefonów i konta internetowe.

Dziewiętnaście z 69 promptów opisuje poszukiwanie wzorców, a nie sprawdzanie konkretnego rekordu. Czternaście z nich nie wymaga podania tablicy rejestracyjnej, nazwiska ani opisu – funkcjonariusz podaje jedynie lokalizację, przedział czasu i typ zachowania.

Jedna z grup zapytań dotyczy pojazdów, które odwiedziły trzy lub więcej punktów handlowych w mieście w ciągu trzech dni, wiele banków w ciągu tygodnia lub kilka stacji benzynowych między północą a 5 rano. Żadne z tych pięciu zapytań nie wskazuje konkretnego celu czy incydentu. Narzędzie stojące za tymi wyszukiwaniami zawiera filtr, który odrzuca autobusy, ciężarówki, furgonetki firmowe i przyczepy – dzięki czemu kierowca dostawczy odwiedzający pięć sklepów zostanie usunięty z listy, podczas gdy zwykły kierowca robiący te samą trasę pozostaje na niej widoczny.

Ten sam typ wyszukiwania odnosi się również do podróży między miastami: pojazdów, które wyjechały z jednego miasta do drugiego i wróciły w ciągu tygodnia, wykonały powtarzające się przejazdy w obie strony w ciągu 14 dni lub przejechały przez trzy obszary w określonej sekwencji.

Reakcja firmy i kontekst kontrowersji

Flock nie odpowiedział na listę pytań dotyczących produktu i nie zaprzeczył opisanym w reportażu możliwościom narzędzia. Zamiast tego rzecznik firmy, Paris Lewbel, w oświadczeniu określił OS Investigate jako produkt odrębny od technologii odczytu tablic rejestracyjnych Flocka, mający pomagać śledczym w pracy z danymi, do których ich agencje już mają dostęp. Zaznaczył również, że możliwości i sposób działania narzędzia mogą się jeszcze znacząco zmienić, zanim trafi ono do szerszej dystrybucji.

Narzędzie powstaje w momencie, gdy Flock staje wobec dwupartyjnego politycznego nacisku, rosnącej liczby przypadków funkcjonariuszy przyłapanych na niewłaściwym wykorzystywaniu platformy oraz fali wandalizmu wymierzonego w kamery – w miastach w całych Stanach Zjednoczonych zdarzały się przypadki piłowania i zamalowywania obiektywów. Firma na swoich stronach dotyczących zaufania publicznego zapewnia klientów, że jej technologia jest tworzona do konkretnych, opartych na sprawach dochodzeń i „nie służy do obserwowania ludzi” – zapewnienia, które eksperci przesłuchani przez Wired uznają za trudne do pogodzenia z tym, co znaleźli w kodzie narzędzia.

Podsumowanie

Kod OS Investigate ujawnia rozdźwięk między publicznymi deklaracjami Flock Safety a rzeczywistymi możliwościami narzędzia, które pozwala policji identyfikować i profilować kierowców bez podstawy w postaci zarzutu czy poszukiwanego pojazdu. Sprawa trafia w moment wzmożonej presji politycznej i publicznej kontroli wobec systemów masowego rozpoznawania tablic rejestracyjnych w USA.