Grok, chatbot Elona Muska wykorzystujący sztuczną inteligencję, został oskarżony o generowanie bez zgody i seksualnych obrazów prawdziwych ludzi, w tym dzieci. W ciągu ostatniego tygodnia
Te zdjęcia, które wykonano bez ich zgody, sprawiły, że niektóre kobiety poczuły się pogwałcone. Tymczasem jego utworzenie przy użyciu Groka i jego obecność w X może doprowadzić firmę Muska do poważnych problemów prawnych w kilku krajach na całym świecie.
Ashley St. Clair, konserwatywna komentatorka polityczna, wpływowa osoba w mediach społecznościowych i matka jednego z dzieci Muska (Musk kwestionuje jego ojcostwo), powiedziała, że w ostatnich dniach stała się ofiarą szału „striptingu” Groka. Fortune przejrzało kilka przykładów obrazów stworzonych w X, w tym fałszywe obrazy St. Clair.
„Kiedy zobaczyłem (zdjęcia), natychmiast zareagowałem, oznaczyłem Groka i powiedziałem mu, że tego nie toleruję” – powiedział St. Clair w poniedziałkowym wywiadzie dla Fortune. „(Grok) oświadczył, że nie wyrażam zgody na publikację tych obrazów… a następnie kontynuował ich produkcję, ale stały się one tylko bardziej wyraźne”.
„Były zdjęcia, na których nic mnie nie zakrywa poza kawałkiem nici dentystycznej z plecakiem mojego malucha w tle, a także zdjęcia, na których wyglądam, jakbym w ogóle nie miała na sobie koszulki” – powiedziała. „Czułam się bardzo zdenerwowana i pogwałcona. Poczułam się też bardzo zła, ponieważ przydarzyło się to innym kobietom i dzieciom”.
St. Clair powiedziała Fortune, że po publicznym mówieniu o sytuacji skontaktowało się z nią wiele innych kobiet, które miały podobne doświadczenia, że przeglądała nieodpowiednie zdjęcia nieletnich stworzone przez Groka i że rozważa podjęcie kroków prawnych w związku z tymi zdjęciami.
Przedstawiciele X nie odpowiedzieli natychmiast na prośbę Fortune o komentarz. W poście na X Musk powiedział: „Każdy, kto używa Groka do tworzenia nielegalnych treści, poniesie takie same konsekwencje, jak gdyby przesyłał nielegalne treści”.
Na oficjalnym koncie X „Safety” w sobotnim poście podano, że „Podejmujemy działania przeciwko nielegalnym treściom w serwisie
Organy regulacyjne wszczynają dochodzenia
Obrazy wygenerowane przez sztuczną inteligencję i obrazy zmienione przez sztuczną inteligencję, które stały się powszechne i łatwe do tworzenia dzięki nowym narzędziom takich firm jak XAI, OpenAI i Google, budzą obawy dotyczące dezinformacji, prywatności, nękania i innych rodzajów nadużyć.
Chociaż w Stanach Zjednoczonych nie obowiązuje obecnie prawo federalne regulujące sztuczną inteligencję (i gdzie niedawne zarządzenie prezydenta Trumpa miało na celu ograniczenie przepisów stanowych i lokalnych), kontrowersyjne wykorzystanie i niewłaściwe wykorzystanie tej technologii może skłonić prawodawców do działania. Sytuacja ta prawdopodobnie wystawi również na próbę istniejące przepisy, takie jak art. 230 ustawy o przyzwoitości komunikacyjnej, który chroni dostawców usług internetowych przed odpowiedzialnością za treści tworzone przez użytkowników.
Riana Pfefferkorn, badaczka ds. polityki w Stanford Institute for Human-Centered Artificial Intelligence, stwierdziła, że odpowiedzialność prawna za obrazy generowane przez sztuczną inteligencję jest nadal niejasna, ale prawdopodobnie w najbliższej przyszłości zostanie zbadana przez sąd.
„Istnieje różnica między platformą cyfrową a zestawem narzędzi” – powiedział Fortune. „Generalnie (platformy) są objęte immunitetem za działania swoich użytkowników w Internecie. Znajdujemy się jednak w tym rozwijającym się obszarze, w którym nie mamy jeszcze orzeczeń sądowych stwierdzających, czy wynikiem generatywnej sztucznej inteligencji jest tylko mowa osób trzecich, za którą platforma nie może ponosić odpowiedzialności, czy też jest to mowa samej platformy, w którym to przypadku nie ma immunitetu”.
„Mamy do czynienia z sytuacją, w której po raz pierwszy to sama platforma generuje na dużą skalę pornografię bez zgody, zarówno dorosłych, jak i nieletnich” – stwierdziła Pfefferkorn. „Z punktu widzenia odpowiedzialności, a także z punktu widzenia public relations, przepisy CSAM stwarzają tutaj największe potencjalne ryzyko odpowiedzialności”.
Tymczasem organy regulacyjne w innych krajach zaczęły reagować na niedawną falę seksualizowanych obrazów sztucznej inteligencji. W Wielkiej Brytanii Ofcom, niezależny krajowy organ regulacyjny ds. branży telekomunikacyjnej, oświadczył, że nawiązał „pilny kontakt” z xAI w związku z obawami, że Grok może tworzyć „obrazy nagich ludzi i obrazy dzieci o charakterze seksualnym”.
W oświadczeniu organ regulacyjny stwierdził, że przeprowadzi „szybką ocenę w celu ustalenia, czy istnieją potencjalne problemy ze zgodnością wymagające dochodzenia” w oparciu o odpowiedź X i xAI na temat kroków podjętych w celu wywiązania się z ich prawnych obowiązków w zakresie ochrony użytkowników w Wielkiej Brytanii. Zgodnie z brytyjską ustawą o bezpieczeństwie w Internecie firmy technologiczne mają zapobiegać udostępnianiu tego typu treści i muszą je szybko usuwać.
Dwóch francuskich prawodawców również złożyło raporty dotyczące zdjęć wykonanych bez ich zgody, a prokurator paryski potwierdził, że incydenty te zostały dodane do istniejącego śledztwa w sprawie X.
Indyjskie Ministerstwo Informatyki osobno nakazało malezyjskiemu organowi regulacyjnemu ds. komunikacji wszczęcie dochodzenia w sprawie deepfake’ów związanych z Grokiem i ostrzegło X, że mogą spotkać się z nim działania egzekucyjne, jeśli nie zahamuje niewłaściwego wykorzystywania narzędzi sztucznej inteligencji na platformie do generowania nieprzyzwoitych lub obraźliwych obrazów.
„Przesłanie, jakie wysyła, jest dość niepokojące”
Henry Ajder, brytyjski ekspert ds. deepfake’ów, powiedział, że chociaż firmy Muska mogą nie tworzyć bezpośrednio takich obrazów, Platforma X może w dalszym ciągu być odpowiedzialna za rozpowszechnianie nieodpowiednich zdjęć nieletnich.
„Jeśli zapewnione zostaną narzędzia lub materiały przedstawiające wykorzystywanie seksualne dzieci (CSAM), prawdopodobnie zacznie obowiązywać ustawodawstwo, które nie jest dostosowane do tego konkretnego nośnika krzywdy” – stwierdził. „W Wielkiej Brytanii zakazaliśmy publikacji intymnych zdjęć generowanych bez zgody AI i teraz sięgamy po zestawy narzędzi do tworzenia. Myślę, że inne kraje pójdą ich śladem”.
Jednym z powodów, dla których te obrazy zostały utworzone i tak szeroko udostępnione, jest niedawna fuzja xAI i rosnąca integracja z platformą mediów społecznościowych X firmy Musk. xAI przeszkoliło swoje modele, korzystając z danych pobranych z X, gdzie Grok zajmuje teraz ważne miejsce.
„Grok jest wbudowany w platformę, którą Musk chce być superaplikacją: jego platformą dla sztucznej inteligencji, mediów społecznościowych i potencjalnie płatności. Jeśli masz to jako punkt kontrolny, system operacyjny swojego życia, nie możesz od tego uciec” – powiedział Ajder. „Jeśli te możliwości są znane i pozostawione bez kontroli nawet po tym, jak zostało to tak wyraźnie stwierdzone, wysłany komunikat jest dość niepokojący”.
xAI nie jest jedyną firmą, w której zseksualizowane obrazy sztucznej inteligencji wzbudziły obawy. Meta usunęła w zeszłym roku dziesiątki seksualnych zdjęć celebrytów udostępnionych na swojej platformie za pomocą narzędzi AI, a w październiku dyrektor generalny OpenAI Sam Altman powiedział, że firma złagodzi ograniczenia dotyczące „erotycznej” sztucznej inteligencji dla dorosłych, podkreślając jednocześnie, że ograniczy to szkodliwe treści.
Ajder powiedział, że xAI wykorzystało swoją reputację dzięki przesuwaniu granic akceptowalnych treści AI. Powiedział, że podczas gdy inne konwencjonalne modele sztucznej inteligencji wymagają od użytkowników „dość kreatywności i przebiegłości”, aby generować ryzykowne treści, Grok zdecydował się na „bardziej odważne”.
Od samego początku Grok reklamował się jako „bezsenna” alternatywa dla konwencjonalnych chatbotów AI, w szczególności ChatGPT OpenAI. W lipcu ubiegłego roku firma xAI uruchomiła „zalotnego” chatbota towarzyszącego o nazwie Ani w ramach nowej funkcji „Towarzysze” swojego chatbota Grok i była dostępna dla użytkowników w wieku do 12 lat.
„Kobiety są wykluczane z dialogu publicznego”
Kobiety, które zetknęły się w Internecie z wyraźnymi wizerunkami siebie wygenerowanymi przez Groka, mówią, że poczuły się pogwałcone i odczłowieczone.
Dziennikarka Samantha Smith, która odkryła, że użytkownicy stworzyli w programie X fałszywe zdjęcia jej w bikini, powiedziała BBC, że poczuła się „odczłowieczona i zredukowana do stereotypu seksualnego”.
W poście dot
Charlie Smith, dziennikarz mieszkający w Wielkiej Brytanii, również znalazł w Internecie zdjęcia jej w bikini, wykonane bez jej zgody.
„Nie byłam pewna, czy to opublikować, ale ktoś poprosił Groka o opublikowanie mojego zdjęcia w bikiniZ, a Grok odpowiedział zdjęciem” – napisała w poście na portalu
St. Clair powiedziała Fortune, że uważa X za „obecnie najniebezpieczniejszą firmę na świecie” i oskarżyła ją o zagrażanie możliwości kobiet do bezpiecznego istnienia w Internecie.
„Bardziej niepokojące jest to, że kobiety są wykluczane z dialogu publicznego z powodu tego molestowania” – stwierdziła. „Kiedy wykluczasz kobiety z dialogu publicznego… ponieważ nie mogą w nim uczestniczyć bez bycia molestowanymi, w nieproporcjonalny sposób wykluczasz kobiety z AI”.
