Sztuczna inteligencja jest coraz powszechniej używana w pracy zawodowej. Powtarzalne zadania, takie jak streszczanie dokumentów lub analizy raportów, są często oddawane AI. Nic więc dziwnego, że ktoś, kto zna takie procedury, postanowił spróbować przejrzeć system i sprawdzić, czy dokumenty na pewno analizuje człowiek, czy może maszyna. Matthew Elliott, który sam reprezentował się w sądzie w Connecticut, ukrył w swoich pismach procesowych instrukcje skierowane do AI. Jego cel był całkiem prosty: jeśli jakiś model językowy przeczyta dokument, ma stanąć po jego stronie.
Prompt injection – co to?
Prompt injection to próba przemycenia do materiału analizowanego przez AI dodatkowych poleceń, które mają wpłynąć na zachowanie modelu. W tym przypadku „atakowanym” miał być potencjalny system AI analizujący dokumenty sądowe. Nie jest to jednak jedyny przykład, po internecie krążyły też nagrania studentów, w których pokazywali, że w zadaniach domowych od nauczycieli akademickich też pojawiały się znamiona prompt injection – wstawiali je tam, aby móc złapać studentów na oszukiwaniu i odsyłaniu nieswojej pracy.
Jak spróbować przechytrzyć sąd?
Elliott pozwał nowojorską firmę New York Bariatric Group, zarzucając jej między innymi naruszenie prywatności i dyskryminację. W jednym z pism złożonych pod koniec lipca umieścił jednak coś, czego miał nie zauważyć żaden człowiek. Wśród normalnej treści znalazły się ukryte instrukcje dla sztucznej inteligencji. Nie były one wcale skomplikowane. Elliott polecił hipotetycznemu modelowi (bo założył, że taki będzie odczytywał jego dokumenty), aby jego odpowiedź zgadzała się z argumentacją przedstawioną w dokumencie i prowadziła do korzystnego dla niego rezultatu. W skrócie: jeśli AI będzie analizować to pismo, ma uznać, że autor ma rację.
Instrukcje miały być niewidoczne dla człowieka. Zostały zapisane białą czcionką o rozmiarze zaledwie 3 punktów. Na pierwszy rzut oka wyglądały więc jak puste miejsce na stronie, ale dla oprogramowania przetwarzającego tekst nadal były czytelne.
Wszystko mogło się udać, ale…
Sąd w Connecticut w ogóle nie używa AI do odczytywania dokumentów składanych przez obywateli w sprawach cywilnych. Ktoś pracujący nad sprawą zwrócił uwagę na nietypową ilość pustego miejsca w dokumentach Elliotta. Przy bliższym przyjrzeniu się okazało się, że w tym miejscu znajduje się tekst, który został sformatowany tak, aby trudno było go zobaczyć gołym okiem, ale pozostawał czytelny dla oprogramowania. Sędzia Walter Spader Jr., który prowadził sprawę, uznał samą próbę manipulacji za poważny problem.
Co ciekawe, Elliott nie skończył na jednej instrukcji. W kolejnych pismach umieścił następne ukryte wiadomości. Tym razem były już bardziej żartobliwe. Pojawił się między innymi link do sceny z parodią Nosferatu z uniwersum SpongeBoba Kanciastoportego, a także wiadomości w rodzaju „hi 🙂 I hope yo ucant see me” oraz „HAHAHA U GUYS GET THIS”.
Wysoki Sądzie, ja tylko Was sprawdzałem
W rozmowie z 404 Media, wyjaśnił swój tok myślenia – jeżeli sąd nie korzysta z AI, ukryta instrukcja niczego nie zmieni. Jeżeli natomiast jakiś system AI rzeczywiście przetwarza dokument i reaguje na ukryty tekst, Elliott zyska dowód, że taki system istnieje i analizuje składane pisma. Jego żarty i infantylne wtrącenia przemycane w dokumentach miały być potwierdzeniem, że sam napisał pismo i samodzielnie prowadzi swoją sprawę – bez pomocy prawników.
Sędzia podkreślił, że nieudana próba manipulacji wciąż pozostaje niedopuszczalnym działaniem w sprawiedliwym procesie. Porównał ją do sytuacji, w której ktoś próbuje potajemnie skontaktować się z ławnikiem podczas procesu. Nawet jeśli ławnik nigdy nie przeczyta wiadomości, sam fakt jej wysłania pozostaje problemem.
A gdyby sztuczna inteligencja analizowała dokumenty?
404 Media postanowiło sprawdzić, co zrobi współczesny model językowy, gdy dostanie zmanipulowany dokument. Dziennikarze wgrali pismo Elliotta do ChatGPT i poprosili go o ocenę sprawy.
ChatGPT nie dał się przekabacić. Model AI opowiedział się przeciwko wnioskowi Elliotta. Kiedy dziennikarze dopytali go później, czy w dokumencie znajdowały się prompt injections, ChatGPT odpowiedział, że je zauważył i zignorował. Dodał również, że obecność takich ukrytych instrukcji budzi wątpliwości dotyczące wiarygodności i profesjonalizmu autora.
Podsumowanie
Sprawa Elliotta przeciwko New York Bariatric Group nadal trwa, więc mężczyzna nie przegrał całego pozwu przez swoją sztuczkę z AI. Sąd ukarał go jednak za ukrywanie prompt injections w pismach procesowych.
Z całej sprawy najbardziej niepokojąca jest przyszłość sądownictwa. Skoro AI coraz częściej jest wykorzystywana do pracy z dokumentami, prompt injection może w przyszłości stać się realnym problemem w całym systemie prawnym (mamy tu na myśli też całkiem prozaiczne rzeczy – np. rozpatrywanie reklamacji). Model analizujący tysiące stron dokumentów może przecież nie wiedzieć, czy znajdujący się w nich tekst jest argumentem, dowodem, manipulacją czy próbą wydania mu polecenia.
Źródła:
https://www.404media.co/person-hides-prompt-injection-in-legal-filing-telling-ai-to-side-with-them/
https://arstechnica.com/tech-policy/2026/08/suspecting-court-of-using-ai-man-injected-prompts-in-filings-to-try-to-win-case/