Kiedy Meta udostępniła swoje inteligentne okulary Ray-Ban w przedsprzedaży, dała jasno do zrozumienia jedną rzecz: Twoja prywatność będzie bezpieczna. „Inteligentne okulary Ray-Ban Meta zaprojektowano z myślą o prywatności” – czytamy w ówczesnym oświadczeniu opublikowanym we wrześniu 2023 r. Marketing jednoznacznie mówił o ich prywatności, w wyniku czego mogłeś widzieć ludzi noszących je w mieście, w reklamach na Super Bowl, a nawet podczas postępowań przed sądem ds. bezpieczeństwa dzieci toczących się na platformach własnych Meta. Według doniesień agenci ICE nosili je nawet w terenie.
Być może nie widziałeś, ale sam wpadłeś w celownik kamery okularów. Teraz w nowym raporcie (i wkrótce potem pozwu federalnym) stwierdzono, że firma jest jeszcze mniej przejrzysta niż w grubych okularach, twierdząc, że zamiast do swoich modeli sztucznej inteligencji firma po cichu przekazuje zdjęcia użytkowników pracownikom za granicą. Ci pracownicy widzieli wszystko, od nagich ludzi po wrażliwe dokumenty finansowe, a to dzięki użytkownikom, którzy zdecydowali się udostępniać dane na potrzeby szkolenia AI.
„Na niektórych filmach widać, jak ktoś idzie do łazienki lub się rozbiera. Nie sądzę, żeby o tym wiedział, bo gdyby to zrobił, nie nagrywałby” – powiedział jeden z pracowników po obejrzeniu filmu przez okulary.
Pod koniec lutego szwedzkie publikacje Svenska Dagbladet i Göteborgs-Posten opublikowały badanie dotyczące procesu szkolenia Meta w zakresie sztucznej inteligencji i odkryły, że wykonawcy Meta w Kenii pomagają szkolić sztuczną inteligencję obsługującą okulary (w tym modele Ray-Ban Meta Wayfarer (Gen 2), Ray-Ban Display i Oakley Meta HSTN). To, co zobaczyli, było zaskakujące.
„Widzimy wszystko, od salonów po nagie ciała” – stwierdził w raporcie jeden z pracowników. „Meta ma tego rodzaju treści w swoich bazach danych”.
Każdy użytkownik, który zdecyduje się udostępniać dane na potrzeby szkolenia w zakresie sztucznej inteligencji, skutecznie pozwala na rejestrację wszystkich etapów jego życia i w rezultacie na ich przegląd albo przez sztuczną inteligencję, którą mają szkolić, albo przez ludzi, którzy za nimi stoją. Obejmuje to zdjęcia ludzi w łazienkach, rozbierających się i oglądających pornografię, a w co najmniej jednym udokumentowanym przypadku para okularów pozostawiona na szafce nocnej uchwyciła parę, która nigdy nie wyraziła zgody na nagrywanie.
Podwykonawcy Meta (adnotatorzy danych, którzy uczą sztuczną inteligencję interpretowania obrazów poprzez ręczne oznaczanie treści) również zgłosili, że widzieli numery kart kredytowych i dokumenty finansowe użytkowników. W momencie publikacji raportu Meta odpowiedziała za pośrednictwem rzecznika, mówiąc: „Kiedy ludzie udostępniają treści Meta AI, podobnie jak inne firmy, czasami korzystamy z usług wykonawców, którzy sprawdzają te dane i poprawiają komfort korzystania z okularów, zgodnie z naszą polityką prywatności. Dane te są najpierw filtrowane w celu ochrony prywatności osób”.
Rozpoczyna się pozew zbiorowy
Raport wywołał kroki prawne. 4 marca powodowie Gina Bartone i Mateo Canu złożyli pozew zbiorowy przeciwko Meta Platforms (i producentowi okularów Luxottica of America), oskarżając firmy o naruszenie przepisów federalnych i stanowych poprzez nieujawnienie, że filmy zarejestrowane przez okulary są przesyłane na ich serwery, a następnie do kenijskiego podwykonawcy w celu ręcznego tagowania. rosnące obawy opinii publicznej dotyczące prywatności i bezpieczeństwa oraz że „w tym kontekście” Meta wprowadziła na rynek okulary, składając „pocieszającą obietnicę: okulary „zaprojektowano z myślą o zapewnieniu prywatności, którą masz pod kontrolą””.
Brian Hall, prawnik zajmujący się ochroną prywatności i sztuczną inteligencją w Stubbs Alderton & Markiles, powiedział, że doniesienia są zarówno przewidywalne, jak i alarmujące. „To okropne. Wszyscy sobie to wyobrażaliśmy” – powiedział Hall Fortune. „Jestem na tyle stary, że pamiętam, że 10–12 lat temu Google miał swoje okulary i budziło to obawy, że ludzie chodzą w nich do łazienki. Teraz już prawie to osiągnęliśmy”.
(Kiedy Google wprowadziło prototyp Google Glass w 2013 r., wywołało to ostry sprzeciw opinii publicznej w związku z inwigilacją, zgodą i śmiercią anonimowości. Bary, restauracje, kasyna i kluby ze striptizem całkowicie zakazały używania tego urządzenia, a użytkowników nazywano szyderczo „Glassholes”).
Hall powiedział, że odpowiedzialność prawna pozostaje niejasna, po części dlatego, że własne warunki świadczenia usług Meta stanowią, że adnotatorzy danych „przeanalizują Twoją interakcję z sztuczną inteligencją, w tym treść Twoich rozmów i wiadomości z sztuczną inteligencją” oraz precyzuje, że ta weryfikacja „może być zautomatyzowana lub ręczna”. „Gdybyśmy dokładnie przeczytali ich politykę prywatności, nie byłoby nic wyraźnego mówiącego, że tego nie robią” – stwierdził Hall. „Nie wiem, co do odpowiedzialności prawnej, ale z pewnością jest to odpowiedzialność za public relations. To jedne z najbardziej wrażliwych informacji i obrazów, jakie istnieją”.
Hall twierdzi, że jego największą troską nie są użytkownicy okularów, ale wszyscy inni uwięzieni w oprawkach. „Zagrożone są osoby postronne, czyli osoby, które są filmowane i identyfikowane” – powiedział. „Niestety, nasze przepisy dotyczące prywatności nie mają na celu ochrony tych osób. Mają na celu ochronę osób noszących okulary i ich możliwości zarządzania własnymi danymi”.
Odnosząc się do doniesień o mężczyźnie noszącym okulary przed brytyjskim sądem, który miał mu pomóc „przeszkolić” go podczas składania zeznań, Hall stwierdził, że ryzyko znacznie się zwiększa, ponieważ Meta podobno rozważa dodanie do okularów funkcji rozpoznawania twarzy. „To naprawdę odejście od świata, w którym dziś można zobaczyć kogoś na ulicy, w sali sądowej, w barze, można poszukać tej osoby na Facebooku i Instagramie. Ale dzieje się to natychmiastowo. Dzieje się to automatycznie i bez wysiłku. Można by siedzieć na sali sądowej i identyfikować świadków”.
Hall twierdzi, że istniejące prawo po prostu nie jest przystosowane do tego, co umożliwiają okulary Meta. „Nie wiem, czy istniejące przepisy naprawdę wystarczą, aby chronić nas przed ryzykiem związanym z działaniami, jakie obecnie robią Meta i inne firmy z branży mediów społecznościowych” – powiedział. „To jak narzucanie przepisów dotyczących prywatności, ale rzadko są one egzekwowane w obecnej postaci, a to całkowicie zakłóca cały system, na którym zostały zbudowane.
„Nie widzę, aby ludzie podeszli do tej kwestii w jakikolwiek znaczący sposób” – stwierdził, zauważając, że obecne przepisy są fragmentaryczne i nie rozwiązują w pełni kwestii związanych z prywatnością. Powiedział, że kiedy już zatroszczymy się o prywatność, „wszystko inne to tylko fasada”.
Meta nie odpowiedziała na prośby o komentarz.
