Za sprawą sztucznej inteligencji kamery monitoringu są coraz „mądrzejsze”. Potrafią rozpoznawać twarze, odczytywać tablice rejestracyjne, śledzić ruch osób i pojazdów, analizować zachowanie w czasie rzeczywistym oraz wykrywać podejrzane obiekty. Ktoś jednak znalazł sposób na to, jak je oszukać. Wystarczy odpowiedni wzór, aby oszukać monitoring i AI.
O co chodzi?
Za projektem noRecognition stoi Bill Swearingen, specjalista ds. cyberbezpieczeństwa z Kansas City. Przez ostatni rok pracował on nad wzorem, który można nadrukować na ubraniu, samochodzie czy innym przedmiocie, aby utrudnić sztucznej inteligencji jego wykrycie. W tym czasie jego system przeprowadził około 31 mln testów, aż w końcu udało się znaleźć wzory, które potrafią zmylić algorytmy. Nazywają się one adversarial patterns.
Co najważniejsze, nie chodzi tutaj o zasłonięcie kamery. Ta nadal działa i nagrywa wszystko, co znajduje się przed obiektywem. Cały trik zaczyna się dopiero wtedy, gdy nagranie trafia do systemu sztucznej inteligencji, który ma rozpoznać, co właściwie widzi. Czy Swearingenowi rzeczywiście udało się przechytrzyć AI?
Jak to działa?
Dzięki testom i badaniom (które również były prowadzone z użyciem AI) z czasem udało się znaleźć takie wzory, które skutecznie „myliły” systemy rozpoznawania obrazu. Według Swearingena działają one na 11 różnych algorytmach sztucznej inteligencji. Wśród nich są między innymi systemy używane w czytnikach tablic rejestracyjnych Flock oraz rozwiązaniach opartych o technologię Clearview AI (system do rozpoznawania twarzy). Oczywiście nie oznacza to, że człowiek czy samochód znika z nagrania. Kamera nadal rejestruje obraz, ale algorytm nie potrafi prawidłowo rozpoznać znajdującego się przed nią obiektu, gdy jest on pokryty wzorem wynalazcy. System nie wykryje więc np. samochodu czy człowieka i nie uruchomi automatycznie odpowiedniego alertu. W praktyce oznacza to powrót do sytuacji, w której służby musiałyby ręcznie „wyławiać” interesujące je osoby lub pojazdy z nagrań monitoringu.
Czy to działa?
Czytając tylko o teorii, można mieć wątpliwości, czy rozwiązanie działa poza testami samego autora wzorów. Swearingen przeprowadził jednak pierwszy publiczny test podczas konferencji Def Con w Las Vegas. Na potrzeby eksperymentu Toyota Yaris z 2009 roku została pokryta jednym z wygenerowanych wzorów. Następnie samochód sprawdzono za pomocą kamery Flock (kamery z funkcją odczytu tablic rejestracyjnych).
Według Swearingena test zakończył się powodzeniem – system miał problem z wykryciem samochodu. Nie wszystko jednak zadziałało idealnie, bo problemem okazały się koła – nie zostały odpowiednio pokryte wzorem. TechCrunch informuje, że nagranie z eksperymentu ma być opublikowane w najbliższych tygodniach.
Szansa czy problem?
Zapewne pomysł pana Swearingena przypomina Wam klasyczny kamuflaż, ale działa to na innej zasadzie. Tradycyjny wzór ma utrudnić człowiekowi zauważenie obiektu. Adversarial pattern jest natomiast projektowany tak, aby oszukać algorytm analizujący obraz. I właśnie dlatego Swearingen chce wykorzystać swoje rozwiązanie również w ubraniach. Projekt noRecognition prowadzi zbiórkę pieniędzy (Kickstarter) na produkcję pierwszych T-shirtów i bluz z nadrukowanymi wzorami. W przyszłości mają pojawić się także folie, którymi będzie można pokryć samochód.
Haczyk jest taki, że twórca projektu nie zamierza jednak publikować w internecie swoich najlepszych wzorów. Obawia się, że producenci systemów monitoringu mogliby je przeanalizować i przygotować aktualizacje pozwalające je omijać – chociaż logicznie myśląc, to gdy ubrania i folie trafią do obiegu – prędzej czy później i tak to się stanie.
Na koniec – pojawia się jeszcze dylemat moralny. Technologie tego typu mogą w przyszłości zostać wykorzystane nie tylko do ochrony prywatności, ale również przez przestępców, którzy będą chcieli utrudniać śledztwo. Na razie jest jednak za wcześnie, by mówić o skutecznej „niewidzialnej koszulce” czy znikającej okleinie na auta, bo badania przeprowadzono głównie cyfrowo, a wzory nie zostały jeszcze wiarygodnie przetestowane na ubraniach i ruszających się obiektach w klasycznych systemach monitoringu. Mimo to, wśród internautów komentujących wynalazek Swearinga już teraz pojawiają się wątpliwości i obawa o bezpieczeństwo.
Źródła:
https://techcrunch.com/2026/08/09/this-adversarial-pattern-can-prevent-surveillance-cameras-from-detecting-you/
https://www.kickstarter.com/projects/norecognition/norecognition-ai-adversarial-clothing