Rozwiązanie xAI Elona Muska ograniczyło możliwości obrazowania swojego chatbota Grok AI wyłącznie do płatnych subskrybentów po powszechnym potępieniu jego wykorzystywania do tworzenia bez zgody zseksualizowanych obrazów prawdziwych kobiet i dzieci.
„Generowanie i edytowanie obrazów jest obecnie ograniczone do płacących abonentów” – ogłosił w piątek Grok za pośrednictwem X. Ograniczenie oznacza, że zdecydowana większość użytkowników nie ma już dostępu do tej funkcji. Zweryfikowani i płacący subskrybenci, którzy mają zapisane dane karty kredytowej, nadal mogą to zrobić, ale teoretycznie można ich łatwiej zidentyfikować w przypadku niewłaściwego użycia tej funkcji.
Jednak eksperci, organy regulacyjne i ofiary twierdzą, że nowe ograniczenia nie stanowią rozwiązania obecnie powszechnego problemu.
„Argument, że podanie danych użytkownika i metod płatności pomoże zidentyfikować sprawców, jest również nieprzekonujący, biorąc pod uwagę, jak łatwo jest podać fałszywe informacje i skorzystać z tymczasowych metod płatności” – powiedział Fortune Henry Ajder, brytyjski ekspert ds. deepfake’ów. „Logika tutaj jest również reaktywna: ma pomóc zidentyfikować osoby naruszające zasady po wygenerowaniu treści, ale nie reprezentuje żadnego znaczącego dostosowania ani ograniczenia samego modelu”.
W oświadczeniach zgłoszonych przez BBC rząd Wielkiej Brytanii określił to rozwiązanie jako „obraźliwe” dla ofiar. Rzecznik premiera Wielkiej Brytanii powiedział w piątek reporterom, że zmiana „po prostu zamienia funkcję sztucznej inteligencji, która umożliwia tworzenie nielegalnych obrazów, w usługę premium.
„Nadszedł czas na
Przedstawiciel X powiedział, że „badają” nowe ograniczenia. xAI odpowiedziało automatyczną wiadomością: „Legacy Media Lies”.
W zeszłym tygodniu prawdziwe kobiety były atakowane na dużą skalę, a użytkownicy bez ich zgody manipulowali zdjęciami, aby zdjąć z nich ubranie, założyć bikini lub ułożyć je w scenach o charakterze jednoznacznie seksualnym. Niektóre ofiary zgłosiły, że czują się pogwałcone i zaniepokojone tą tendencją, a wiele z nich twierdzi, że ich zgłoszenia skierowane do X pozostały bez odpowiedzi, a zdjęcia pozostały opublikowane na platformie.
Naukowcy stwierdzili, że skala, na jaką Grok tworzył i udostępniał obrazy, była bezprecedensowa, ponieważ w przeciwieństwie do innych robotów AI Grok zasadniczo ma system dostarczania wbudowany w platformę X.
Wśród osób dotkniętych zdjęciami znalazła się Ashley St. Clair, konserwatywna komentatorka i matka jednego z dzieci Muska. St. Clair powiedziała Fortune, że użytkownicy konwertowali obrazy z jej profilu X na przedstawiające ją wyraźne zdjęcia wygenerowane przez sztuczną inteligencję, w tym takie, które jej zdaniem przedstawiały ją jako nieletnią. Po wyrażeniu sprzeciwu wobec zdjęć i wyrażeniu zaniepokojenia deepfake’ami skierowanymi do nieletnich, St Clair powiedział również, że X usunął swój status zweryfikowanego płatnego subskrybenta, nie powiadamiając go ani nie zwracając mu miesięcznej opłaty w wysokości 8 dolarów.
„Ograniczenie tego tylko do płatnego użytkownika pokazuje, że zamierzają podwoić tę kwestię, nakładając niepotrzebne obciążenie na ofiary w zakresie zgłaszania się władzom, a władzom, aby wykorzystały swoje zasoby do wyśledzenia tych osób” – Ashley St Clair powiedziała o ostatnich ograniczeniach. „To także wyłudzanie pieniędzy”.
St Clair powiedziała Fortune, że wiele skierowanych do niej kont to już zweryfikowani użytkownicy: „To w ogóle nie jest skuteczne” – stwierdziła. „To tylko zapowiedź dalszych dochodzeń policyjnych w sprawie obrazowania Groka”.
Ciśnienie regulacyjne
Decyzja o ograniczeniu możliwości Groka wynika z rosnącej presji ze strony organów regulacyjnych na całym świecie. W Wielkiej Brytanii premier Keir Starmer oświadczył, że jest skłonny całkowicie zakazać platformy, określając zawarte w niej treści jako „haniebne” i „obrzydliwe”. Organy regulacyjne w Indiach, Malezji i Francji również wszczęły dochodzenia.
W czwartek nakazała Komisja Europejska
Eksperci twierdzą, że nowe ograniczenia mogą nie zaspokoić obaw organów regulacyjnych: „To podejście jest tępym instrumentem, który nie rozwiązuje źródła problemu w składzie Groka i prawdopodobnie nie będzie wystarczające dla organów regulacyjnych” – powiedział Ajder. „Ograniczenie funkcjonalności do płacących użytkowników nie zatrzyma generowania tej treści; miesięczna subskrypcja nie jest dobrym rozwiązaniem”.
W Stanach Zjednoczonych sytuacja prawdopodobnie wystawi na próbę istniejące przepisy, takie jak sekcja 230 ustawy Communications Decency Act, która chroni dostawców usług internetowych przed odpowiedzialnością za treści tworzone przez użytkowników. Amerykańscy senatorzy Ron Wyden, Edward J. Markey i Ben Ray Luján wydali oświadczenie wzywające Apple i Google do „natychmiastowego usunięcia Apps X i Grok ze swoich sklepów z aplikacjami” w związku z rzekomym używaniem Groka do generowania „na dużą skalę bez zgody seksualizowanych obrazów kobiet i dzieci”. Prawodawcy nazwali obrazy „niepokojącymi i prawdopodobnie nielegalnymi” i stwierdzili, że aplikacje nie powinny być dostępne, dopóki Musk nie rozwieje zastrzeżeń.
Rada ds. Stosunków Amerykańsko-Islamskich (CAIR) wezwała również, aby uniemożliwić Grokowi tworzenie „obrazów dzieci i kobiet o charakterze jednoznacznie seksualnym, w tym prominentnych muzułmanek”.
Riana Pfefferkorn z Instytutu Sztucznej Inteligencji Skoncentrowanej na Człowieku na Uniwersytecie Stanforda powiedziała wcześniej „Fortune”, że odpowiedzialność za obrazy generowane przez sztuczną inteligencję jest niejasna. „Mamy do czynienia z sytuacją, w której po raz pierwszy to sama platforma generuje na dużą skalę pornografię bez zgody dorosłych i nieletnich” – stwierdził. „Z punktu widzenia odpowiedzialności, a także z punktu widzenia public relations, przepisy CSAM stwarzają tutaj największe potencjalne ryzyko odpowiedzialności”.
Musk stwierdził wcześniej, że „każdy, kto używa Groka do tworzenia nielegalnych treści, poniesie takie same konsekwencje, jak gdyby przesyłał nielegalne treści”. Nie jest jednak jeszcze jasne, w jaki sposób rachunki będą rozliczane.
