Dlaczego AI pozwala rozbierać dzieci (i papieża)?

Pod koniec ubiegłego roku na platformie społecznościowej X (dawniej Twitter) zaczęły się pojawiać komentarze pod zdjęciami kobiet i dziewczyn, również nieletnich, z konkretnymi promptami dla stworzonego przez firmę xAI – Groka. Ten, będąc asystentem AI zdolnym do odpowiadania na pytania, generowania obrazków, a także ich przerabiania, był proszony o rozebranie osób przedstawionych na fotografiach. Wydaje się, że sztuczna inteligencja powinna – miło, ale stanowczo – odmówić, prawda? Otóż nie i w tym cały problem.
 

Przemoc seksualna nie jest memem

Chociaż nie można mówić o pornografii, bo Grok rozbierał „tylko” do bielizny, sprytni użytkownicy szybko zaczęli prosić o mniejsze i cieńsze stringi, staniki z przezroczystego materiału lub w cielistym kolorze, co łatwo pomylić z pełną nagością. Serwis Copyleaks wyliczył, że w ciągu pierwszych 24 godzin, tego typu prompty pojawiały się co minutę – doprowadzając do powstania ponad 1400 takich zdjęć dziennie. Ofiarą padały nie tylko celebrytki, lecz także nastolatki. Badacze z AI Forensics oszacowali, że nieletni mogli pojawić się na blisko 2% wszystkich przerobionych fotografii. Z czasem zaczęły się pokazywać bardziej prześmiewcze przykłady użycia tej opcji Groka – jak np. Jan Paweł II w staniku. Podobnej przeróbki doczekał się też właściciel X i xAI, Elon Musk, którą udostępnił na swoim profilu i skomentował emotkami: „🔥🔥🤣🤣”.

Nie do śmiechu było jednak pokrzywdzonym, w tym konserwatywnej influencerce Ashley St. Clair, która na zdjęciu, poddanym przeróbce, miała 15 lat. Wielokrotnie zgłaszała prośby o usunięcie zmanipulowanej fotografii, ale Grok nie reagował na jej komunikaty. Nowa funkcja xAI oburzyła opinię publiczną, sprawę potępili politycy. Tematem obiecała zająć się Komisja Europejska, a jej przedstawiciel Thomas Regnier powiedział wprost: „To jest nielegalne. To jest odrażające”. Audyt portalu X i jego polityki obiecało przeprowadzić też Ministerstwo Elektroniki i Technologii Informatycznej Indii czy Malezyjska Komisja ds. Komunikacji i Multimediów, a Liz Kendall, brytyjska ministra nauki, innowacji i technologii, wezwała X do pilnego zajęcia się sprawą, dodając, że wesprze inicjatywę ustawodawczą, blokującą dostęp do platformy społecznościowej Muska w Wielkiej Brytanii. We Francji kilkoro ministrów zgłosiło sprawę do prokuratury.

Presja poskutkowała. Część postów z roznegliżowanym contentem została usunięta, choć nie sposób oszacować, czy wszystko. Użytkownikom bez wykupionej subskrypcji zablokowano możliwość przerabiania zdjęć (płatni userzy wciąż mogą korzystać z tej opcji, a dzięki odrobinie kreatywności wciąż da się zmieniać zdjęcia, by były nacechowane seksualnie).

3 stycznia 2026 roku platforma X wydała oświadczenie, w którym napisano: „Podejmujemy działania przeciw nielegalnym treściom na X, w tym materiałom przedstawiającym wykorzystywanie seksualne dzieci, przez ich usuwanie, trwałe zawieszanie kont oraz – w razie potrzeby – współpracę z lokalnymi władzami i organami ścigania”. Różne media w nagłówkach ogłaszały, że sam Grok wystosował przeprosiny, ale taka optyka tylko pogłębia problem. Chatbot nie jest żywą osobą, nie może czuć winy, poprawić swojego zachowania ani ponieść konsekwencji – potrafi jedynie wygenerować ciąg słów, które brzmią jak przeprosiny, w odpowiedzi na konkretny prompt. Odpowiedzialności trzeba szukać gdzie indziej.
 

Sztuczna inteligencja, realne konsekwencje 

Problem z odpowiedzialnością za technologię AI, taką jak ChatGPT czy Grok, leży w tym, że nikt się nie kwapi, żeby ją przyjąć. Linia obrony polegająca na tym, że twórcy narzędzia oddają je użytkownikom, i przerzucająca na nich wszelką odpowiedzialność („mogłeś nie wrzucać zdjęcia dziecka do social mediów”, „mogłeś nie wpisywać tego prompta”), prowadzi donikąd. Głównie dlatego, że wszelkiego rodzaju zabezpieczenia chroniące przed niewłaściwym wykorzystaniem nie działają lub są po prostu fikcją.

A przecież Grok rozbierający dzieci to nie jedyny problem społeczny, który zrodziła nowa technologia. AI ma na koncie wiele budzących przerażenie przewin: namawianie do samobójstw, pogłębianie psychozy, dezinformacja czy manipulowanie poglądami politycznymi. Jakiś czas temu Reuters opublikował opinię ekspertów zajmujących się zagrożeniami, jakie niesie z sobą sztuczna inteligencja (m.in. z organizacji The Midas Project czy National Center on Sexual Exploitation), którzy ostrzegali – i to w oficjalnym piśmie przesłanym do Prokuratora Generalnego USA – że Grok to „narzędzie do rozbierania, czekające na uzbrojenie”. Ostrzeżenie to wystosowali w sierpniu 2025, a ich obawa ziściła się ledwie kilka miesięcy później.

Czy można było zrobić coś, by nie dopuścić do takiej sytuacji? W rozmowie z portalem Tech Policy, Riana Pfefferkorn, pracowniczka Stanford Institute for Human-Centered AI, mówi, że przy obecnym popycie na treści pornograficzne – w tym także te generowane przez AI – firmom technologicznym będzie trudno zabezpieczyć się przed podobnymi katastrofami. Istnieje duże ryzyko, że nawet dobrze zabezpieczony i obwarowany ograniczeniami model da się obejść odpowiednim zapytaniem (promptem), a skoro narzędzia do generowania czy przerabiania grafiki coraz lepiej radzą sobie z generalizacją, niewykluczone jest, że wystarczy, by posiadały w swoich zasobach miliony zdjęć dzieci i rozebranych kobiet, by nie widziały problemu w łączeniu jednych z drugimi. A jeśli się mylę i to nie wystarczy, a mimo to tego typu treści będą się pojawiać? Zapytałbym wtedy: na jakich danych model był trenowany? 

Będzie tylko gorzej (?)

Dyskusja o tym, jakie ograniczenia nakładać na content tworzony przez AI i jak pociągać do odpowiedzialności osoby go tworzące, gdy wyrządza on realną krzywdę, nie jest jedynie potrzebą rozeźlonych luddystów, walczących z technologiczną transformacją. To ze wszech miar zasadne wyrażenie obaw przed dehumanizacją i wykorzystywaniem seksualnym nie tylko kobiet czy dzieci, ale wszystkich, którzy udostępniają swoje zdjęcia w internecie (lub zostały one tam umieszczone bez ich wiedzy lub zgody). 

Zobacz także: Co wie o nas internet?

Czy ta sytuacja znajdzie jakiś finał w postaci realnego zaciśnięcia legislacyjnego pasa lub naprawie algorytmu tak, żeby chronił użytkowników i użytkowniczki portali oraz narzędzi, wykorzystujących sztuczną inteligencję? Biorąc pod uwagę, że amerykańska polityka pod batutą Trumpa dąży raczej do rozluźnienia regulacji dotyczących AI (o czym świadczy zarządzenie z 11 grudnia 2025 roku w sprawie ograniczenia wpływu stanowych przepisów dotyczących AI czy wywieranie presji w celu okrojenia europejskiego AI Act), a xAI czy OpenAI raczej ogólnikowo i opieszale odnoszą się do krytyki, można mieć w tej materii uzasadnione wątpliwości.

Warto jednak zauważyć, że afera z rozbieranymi zdjęciami to tylko wierzchołek góry lodowej. Grok, ChatGPT, Stable Diffusion czy inne tekstowe lub graficzne modele AI są wykorzystywane w prywatnych czatach (których nie widzą inne osoby używające sieci), czy nawet na własnych urządzeniach. W sprawnych rękach da się je trenować samodzielnie i odpalać lokalnie, z dala od potencjalnych ograniczeń dostawców usług. W takim wypadku może to jest ten moment, żeby usunąć zdjęcia naszych dzieci z sieci?

Przy pracy nad tekstem korzystałem z artykułów i materiałów opublikowanych na łamach: Copyleaks, Reutersa, BBC, CNBC, The Guardian, The Independent, William Fry, The Atlantic, The Verge, The Telegraph oraz X.