Dwoje nastolatków, którzy wykorzystali sztuczną inteligencję do stworzenia fałszywych nagich zdjęć swoich kolegów z klasy w eleganckiej prywatnej szkole w Pensylwanii, otrzymało w środę wyrok w zawieszeniu po tym, jak dziesiątki ofiar opisały traumatyczny wpływ tych zdjęć na nie.
Chłopcy mieli wtedy 14 lat. Przyznali w tym miesiącu, że wykonali około 350 zdjęć, na których widać co najmniej 59 dziewcząt poniżej 18 roku życia oraz inne ofiary, które dotychczas nie zostały zidentyfikowane.
Władze podały, że chłopcy robili zdjęcia dziewcząt ze zdjęć szkolnych, roczników, czatów na Instagramie, TikTok i FaceTime w 2023 i 2024 r. i przekształcali je w zdjęcia dorosłych przedstawiających nagość lub aktywność seksualną.
Ponad 100 uczniów i rodziców szkoły Lancaster Country Day School przybyło do sądu, aby wysłuchać, jak ofiary opisywały detektywom skutki konieczności identyfikacji własnych twarzy na zdjęciach pornograficznych. Postępowania w sprawach nieletnich w Pensylwanii są zwykle zamknięte, ale sędzia je otworzył, zapewniając społeczności rzadką okazję do zaprezentowania się i usłyszenia.
Opisali konsekwencje: ataki lęku, utrata pewności siebie, problemy z koncentracją na lekcjach i obawa, że pewnego dnia obrazy wyjdą na jaw w nieoczekiwany sposób.
„Nigdy nie zrozumiem, dlaczego to zrobili” – powiedziała jedna z ofiar sędziemu Leonardowi Brownowi, stwierdzając, że „to zniszczyło moją niewinność”.
Pewna młoda kobieta powiedziała Brownowi, „jak nie do zniesienia jest ciągłe poruszanie tych uczuć”. Inna przełknęła łzy, krytykując jednego z oskarżonych za okazywanie „fałszywej empatii”, podczas gdy dziewczęta zwierzały mu się ze swojego bólu, zanim wyszło na jaw, że brał on udział w tworzeniu i rozpowszechnianiu wizerunków. Inna powiedziała, że wszyscy jej przyjaciele przenieśli szkoły i że „potrzebowała terapii traumy, żeby w ogóle spacerować po mojej okolicy”.
Dwaj młodzi mężczyźni przez cały czas pozostawali bezczynni, otoczeni przez prawników i rodziców, jak nazywano ich pedofilami, „chorymi i pokręconymi” oraz zboczeńcami.
Odmówili kilku możliwości przekazania komentarzy sędziemu, który stwierdził, że nie słyszał, aby którykolwiek z chłopców wziął na siebie odpowiedzialność lub przeprosił.
„To był niefortunny, długi i kręty proces dla wszystkich zaangażowanych w sprawę” – powiedziała Heidi Freese, obrońca jednego z oskarżonych. „Istniały bardzo interesujące kwestie prawne związane z zarzutami w tej sprawie i zostaną one rozstrzygnięte w innym dniu w innej sprawie”.
Brown nakazał każdemu wykonać 60 godzin prac społecznych, nie mieć kontaktu z ofiarami i zapłacić nieokreśloną kwotę zadośćuczynienia. Brown powiedział, że jeśli nie będą mieli żadnych dodatkowych problemów prawnych, sprawa może zostać oddalona po dwóch latach.
Wydając wyrok, Brown powiedział, że gdyby byli dorośli, prawdopodobnie trafiliby do więzienia stanowego. Powiedział, że powinni „skorzystać z okazji, aby naprawdę się przyjrzeć”.
Rozwiązanie sprawy w Pensylwanii następuje kilka dni po tym, jak trzech nastolatków z Tennessee pozwało xAI Elona Muska, twierdząc, że narzędzia Grok firmy przekształciły ich prawdziwe zdjęcia w obrazy o wyraźnie seksualnym charakterze. Uczniowie szkół średnich ubiegają się o status pozwu zbiorowego, który miał reprezentować, jak twierdzi pozew, tysiące osób, które padły ofiarą podobnych ofiar jako nieletni.
Skandal w Pensylwanii w 2024 r. wywołał protesty studentów, odejście dyrektorów szkół i postawienie dwóm nastolatkom zarzutów karnych.
Nadeem Bezar, prawnik z Filadelfii, który reprezentuje co najmniej 10 ofiar, powiedział we wtorek, że ma nadzieję złożyć pozew „przeciwko szkole i wszystkim innym osobom, które naszym zdaniem są winne tworzenia i rozpowszechniania tych deepfake’ów”.
Powiedział, że nie widział jeszcze zdjęć, ale ma nadzieję, że proces prawny ustali „dokładnie, kiedy, gdzie i skąd szkoła wiedziała, w jaki sposób dzieci stworzyły te zdjęcia, na jakich platformach je stworzyły i w jaki sposób zostały rozpowszechnione”.
Ponieważ sztuczna inteligencja stała się dostępna i potężna, prawodawcy w całym kraju przyjęli przepisy mające na celu zakazanie deepfakes.
Prezydent Donald Trump podpisał w zeszłym roku ustawę Take it Down Act, która zabrania publikowania intymnych zdjęć, w tym deepfake’ów, bez zgody i wymaga, aby strony internetowe i platformy mediów społecznościowych usuwały takie materiały w ciągu 48 godzin od powiadomienia ofiary.
Według grupy praw konsumentów Public Citizen czterdzieści sześć stanów ma obecnie przepisy dotyczące deepfakes, a w pozostałych czterech (Alaska, Missouri, Nowy Meksyk i Ohio) wprowadzono takie przepisy.
___
Współpracowali z nami pisarze prasowi Geoff Mulvihill z Haddonfield w stanie New Jersey i Holly Ramer z Concord w stanie New Hampshire.
