Skan twarzy na Instagramie, film selfie na TikTok, hasło odcisku palca na YouTube i przesłanie dokumentu tożsamości na Facebooku. Jeszcze nie czas, ale zbieranie danych biometrycznych w celu opublikowania mema opartego na sztucznej inteligencji stanie się normą, gdy duże sieci społecznościowe przechodzą okres Wielkiego Tytoniowego.
Krajobraz cyfrowy przechodzi ogromne wstrząsy w obliczu procesów sądowych dotyczących uzależnienia od mediów społecznościowych i gorączkowej walki regulacyjnej dotyczącej weryfikacji wieku. Ponieważ platformy mediów społecznościowych stają w obliczu historycznego rozliczenia prawnego w związku z „reakcją dopaminy” i uzależniającymi wyborami projektowymi, które szkodzą dzieciom, pojawił się zasadniczy kryzys techniczny i etyczny. Kraje takie jak Australia nakładają zakazy korzystania z mediów społecznościowych na osoby poniżej 16 roku życia, natomiast Meta toczy się obecnie proces w związku z oskarżeniami o celowe tworzenie uzależniającego środowiska dla dzieci na swoich platformach.
W wyścigu o weryfikację wieku użytkownika (główne narzędzie stosowane przez firmy w celu ograniczenia uzależnień u dzieci) platformy mediów społecznościowych ujawniły paradoks powszechnie znany jako „pułapka weryfikacji wieku”. Po prostu próbując narzucić swoim użytkownikom zasady weryfikacji wieku, firmy te naruszają prywatność danych tych samych użytkowników.
Big Social ma swój moment Big Tobacco
Firmy takie jak Meta i TikTok stoją przed federalnymi i stanowymi procesami sądowymi, które porównują ich platformy i modele biznesowe z platformami rynków tytoniowych i opioidów, twierdząc, że firmy bezpośrednio i celowo manipulują sposobem, w jaki platformy są zaprojektowane w celu promowania uzależnienia użytkowników. Dyrektor generalny Meta, Mark Zuckerberg, zeznał niedawno, że badania naukowe nie udowodniły związku między mediami społecznościowymi a szkodami dla zdrowia psychicznego, jednak eksperci twierdzą inaczej, twierdząc, że uzależnienie od mediów społecznościowych jest napędzane przez te same algorytmy inżynieryjne, które mają utrzymać użytkownika w Internecie.
„Firmy te nie podlegają pewnym standardom”, które uniemożliwiają dzieciom dostęp do ich platform, na czym te firmy „czerpią korzyści, umieszczając dzieci na swoich platformach. Więcej ludzi, więcej reklam” – powiedziała dr Debra Boeldt, psycholog kliniczny i naukowiec zajmujący się sztuczną inteligencją w rodzinnej firmie Aura zajmującej się mediami społecznościowymi. Boeldt, która prowadzi badania kliniczne w Aura – firmie wykorzystującej sztuczną inteligencję do monitorowania nawyków dzieci w Internecie i zapewniania bezpieczeństwa prywatności dorosłych, twierdzi, że dzieci są szczególnie podatne na obecny wygląd mediów społecznościowych, ponieważ ich funkcje wykonawcze i kontrola impulsów wciąż się rozwijają.
Dla dzieci platformy mediów społecznościowych to nie tylko aplikacje, ale także główne źródło kontaktów społecznych, a ich badania pokazują, że jedno na pięć dzieci w wieku poniżej 13 lat spędza w mediach społecznościowych co najmniej cztery godziny dziennie, co prowadzi do wyższego poziomu stresu, lęku i depresji. Dzieci są inteligentne, stwierdził Boeldt, więc jeśli zakazano im korzystania z platformy, jest to gra w „walnięcie kreta”, w której po prostu przechodzą z jednej do drugiej.
„Dzieci są bardzo inteligentne i dlatego dobrze sobie radzą” – Boeldt powiedział Fortune. „Wiedzą, jak się wmieszać”.
Ponieważ firmy z branży mediów społecznościowych starają się usuwać nieletnich użytkowników ze swoich platform lub korzystać ze sztucznej inteligencji w wyszukiwaniu cenzurowanych treści, firmy będą miały trudności z zapewnieniem możliwości dokładnego zablokowania dostępu osobom poniżej określonego wieku. (Boeldt odniósł się nawet do platform takich jak Instagram i TikTok, które monitorują język i to, jak dzieci już znalazły luki, używając „plików PDF” lub „nieżywych” i tworząc nowe słownictwo, które czyni tych cenzorów bezużytecznymi – w końcu dzieci są mądre).
Ostrzegł jednak, że niekorzystne skutki są jeszcze poważniejsze, ponieważ wykluczonych zostaje tylko kilku użytkowników portalu społecznościowego, a nie wszyscy. Jeśli platformom mediów społecznościowych ledwo udaje się zakazać nieletnim użytkownikom, ale odciąć dostęp kilku wybranym na raz, powstaje „efekt wyspy”, w ramach którego, o ile zakaz nie jest powszechny, dziecko wykluczone z mediów społecznościowych jest izolowane, podczas gdy jego przyjaciele nadal łączą się z Internetem.
Przepisy ledwo nadążają za użytkowaniem.
Zapomnij o obecnych procesach sądowych, które służą jako papierek lakmusowy dla zasad projektowania mediów społecznościowych: obecne przepisy ledwo nadążają za sposobem, w jaki dzieci korzystają z mediów społecznościowych, a narzędzia wykorzystywane przez firmy z branży mediów społecznościowych nie chronią prywatności użytkowników. W ostatnich miesiącach platformy korzystające z oprogramowania weryfikacyjnego stron trzecich doświadczyły zhakowania i ujawnienia danych użytkowników, musiały ogłosić i zrezygnować z cenzorów opartych na sztucznej inteligencji, a także walczą ze złymi nastrojami opinii publicznej ze strony coraz bardziej niezadowolonej bazy użytkowników.
Nie rozwiązuje to jednak paradoksalnego problemu odpowiedniego gromadzenia danych o dzieciach i użytkownikach bez naruszania praw do prywatności użytkowników. Problem nasila się, gdy zaczynamy badać użytkowników tych platform.
„Ludzie stanowią obecnie mniejszość w Internecie; zaobserwowaliśmy, że ruch między botami a ludźmi wzrósł 50-krotnie z roku na rok” – powiedział Johnny Ayers, dyrektor generalny Socure, firmy produkującej oprogramowanie do weryfikacji tożsamości opartej na sztucznej inteligencji. Ayers powiedział Fortune, że dzięki botom wykorzystanie deepfakes wzrosło o prawie 8000% rok do roku, przez co większość oprogramowania weryfikacyjnego dostępnego na rynku staje się bezużyteczna. Zamiast tego jedna z cyfrowych kontroli stosowanych przez jego firmę obejmuje użycie gimbala każdego telefonu komórkowego w celu sprawdzenia, czy ktoś faktycznie trzyma telefon podczas weryfikacji tożsamości.
Evin McMullen, którego firma Billions Network jest wykorzystywana do przeciwdziałania praniu pieniędzy i metod Know Your Customer, twierdzi, że gromadzenie danych biometrycznych to dla platform sposób na potwierdzenie Twojej tożsamości, ponieważ nie możesz zmienić tego, co o Tobie mówią.
„Brzmi to trochę bezczelnie, ale pomysł, że nie można obracać kciuków, oznacza, że nie można łatwo zmienić hasła ani zarządzać bezpieczeństwem w ten sam sposób” – McMullen powiedział Fortune. „Tożsamości opierające się na danych biometrycznych naprawdę starają się nadać priorytet łatwości użycia i bezpieczeństwu swoich najważniejszych danych” – powiedział, dodając, że obecny model menedżera haseł jest „niezrównoważony i nie jest już bezpieczny”.
Pojawiają się jednak problemy dotyczące dzieci i prywatności, do których ponownie należy się teraz ponownie przyjrzeć w świetle orzeczenia FTC w sprawie COPPA.
„Nie można zbierać danych biometrycznych od dziecka” – Ayers powiedziała Fortune. „I jak więc zweryfikować, że ktoś ma 13 lat, nie sprawdzając, nie gromadząc niczego, że ma 13 lat?”
Narzędzia nie są już przydatne
Jednym ze sposobów jest zbieranie dowodów z wiedzą zerową (ZKP) ustalających stronę w celu sprawdzenia prawdziwości oświadczenia, a tym samym tożsamości tej osoby. McMullen, którego klienci z branży finansowej poszukują nieinwazyjnych sposobów weryfikacji tożsamości, jest głównym zwolennikiem ZKP i dodaje, że są one szczególnie przydatne w budowaniu zaufania między stronami.
ZKP to metoda, która pozwala osobie chcącej się zweryfikować ustosunkować się do stwierdzeń w sposób budujący zaufanie do strony weryfikującej, bez ujawniania danych osobowych lub tajnych. Weźmy na przykład problem 4+4=8. Jest to coś, o czym wie osoba pragnąca weryfikacji, jednak metoda ZKP opiera się na zaufaniu. Zamiast zadawać 4+4=8, weryfikator zadaje serię pytań, aby ustalić, czy osoba, którą chcesz zweryfikować, mówi prawdę (lub w tym przypadku wie, że to prawda). Weryfikator może zapytać: 4+4=7; to suma 4+4 to liczba parzysta i tak dalej, a po serii pytań można ustalić prawdziwość twierdzeń danej osoby, identyfikując ją.
Nie jest to powszechna metoda potwierdzania tożsamości. Do tej pory firmy z branży mediów społecznościowych korzystały z szeregu technologii w celu weryfikacji wieku osób, w tym z weryfikacji opartej na tożsamości, np. prosząc użytkowników o przesłanie dokumentów tożsamości wydanych przez rząd; używać sztucznej inteligencji do skanowania twarzy użytkownika; śledzić aktywność użytkownika w celu określenia wieku danej osoby; oraz dodanie narzędzi do monitorowania rodziców, takich jak Instagram, w ramach którego wprowadzono konta dla nastolatków, aby ostrzegać rodziców o wszelkich szkodliwych nawykach w Internecie.
Sedno problemu polega na tym, że w zasadzie nie ma narzędzia, które mogłoby zweryfikować wiek użytkownika bez naruszenia jego prywatności. Każdy dokładny model wymaga niezwykle inwazyjnych środków, takich jak dane biometryczne lub identyfikatory rządowe, a dokumenty tożsamości są czymś, o co niechętnie proszą nawet firmy z mediów społecznościowych ze względu na lukę w identyfikatorach, w ramach której 15 milionów Amerykanów nie ma żadnej identyfikacji, co jest problemem, który nieproporcjonalnie dotyka dorosłych rasy czarnej i Latynosów, imigrantów i osoby niepełnosprawne.
Używanie sztucznej inteligencji do skanowania twarzy ludzi niewiele wnosi do rozwiązania problemu, ponieważ eksperci odkryli, że te modele sztucznej inteligencji są mniej dokładne w przypadku grup mniejszościowych i często błędnie klasyfikują dorosłych jako nieletnich, podczas gdy sama sztuczna inteligencja nie jest w stanie odróżnić syntetycznego lub fałszywego głosu od prawdziwego człowieka. Dzieci, które znowu są inteligentne, często omijają wszelkie zakazy geograficzne, korzystając z VPN, jak na przykład na Florydzie, gdzie użycie VPN wzrosło o 1150% po tym, jak stan zablokował Pornhub. Co mniej ważne, istnieją poważne zagrożenia bezpieczeństwa związane z przechowywaniem dokumentów tożsamości, takie jak niedawne naruszenie oprogramowania 5CA zewnętrznego dostawcy Discord, w wyniku którego ujawniono w Internecie ponad 70 000 rządowych identyfikatorów.
Ostatecznie „pułapka weryfikacji wieku” ma miejsce, gdy organy regulacyjne traktują egzekwowanie prawa dotyczącego wieku jako obowiązkowe, a prywatność określają jako status opcjonalny. Dopóki metody takie jak ZKP czy weryfikacja za pomocą urządzenia – ostrzegają ci eksperci – nie staną się normą, era cyfrowa będzie nadal toczyć się w króliczej norze, polegającej na próbach potwierdzania tożsamości danej osoby bez naruszania jej prawa do prywatności.
