Cel ma zamiar porozmawiać z asystentem w części maszyny reklamowej, ogłosiła firma w środę. Od 16 grudnia rozmowy z bramką AI, chatbot firmy zintegrowanej na Facebooku, Instagramie, Messenger, a nawet nowych inteligentnych okularach Ray-Ban, zostaną wykorzystane do ustalenia, które reklamy i zalecenia pojawią się w ich kanale.
Firma formalnie zacznie powtarzać użytkowników zmian 7 października. Nie ma opcji wykluczenia: jeśli nie chcesz, aby rozmowy chatbota wpłynęły na Twoje reklamy, jedyną opcją jest w ogóle nie używać celu AI.
Emily Bender, językoznawca z University of Washington i Autorka dokumentu „Papugi stochastycznych” cytowanego na temat ryzyka wielkich modeli językowych (LLM), powiedziała Fortune, że firma rozmywa niebezpieczną linię.
„Już kultywują swoje kliknięcia i publikacje, aby atakować reklamy. Teraz podważają swoje rozmowy z chatbotami” – powiedział Bender. „Kolejnym oczywistym problemem jest to, czy sam Chatbot zacznie zmuszać ludzi do ujawnienia informacji, które czynią ich bardziej obiektywnymi”.
Jego inwigilacja pod pojawieniem się dostosowywania, argumentuje Bender, z niespotykanymi umiejętnościami do wyodrębnienia danych osobowych od użytkowników.
„Wcześniej systemy celów widziały, kto połączył i co robią ich społeczności. Teraz jest bezpośrednio: co on mówi firmie?” Powiedziała. „I oczywiście mogą to połączyć z wszystkimi innymi danymi, które już mają”.
Bender twierdzi, że celem jest wykorzystanie tego, co nazywa „iluzją prywatności”. Ludzie często ufają chatbotom o rzeczach, których nigdy nie publikowaliby publicznie, w pewnym sensie, że AI jest neutralnym słuchaczem.
„Istnieje złudzenie prywatności, podczas gdy w rzeczywistości robisz to, że te dane spełniają firmę” – powiedział.
Jednak Meta opisuje aktualizację jako „naturalny postęp” strategii dostosowywania.
Christy Harris, menedżer ds. Prywatności i polityka danych meta, powiedziała dziennikarzom podczas sesji informacyjnej mediów, że ludzie już zakładali, że ich interakcje chatbota karmią orientację AD.
„Chcemy być bardzo przejrzyste i przekazać powiadomienie przed rozpoczęciem korzystania z tych danych w nowy sposób, nawet jeśli ludzie już myśleli, że to robimy” – powiedział, według CNBC.
Harris zaproponował wesoły przykład: jeśli zapyta meta AI o planowanie rodzinnych wakacji, może zobaczyć więcej rodzinnych kołowrotków podróży w swoim karmieniu wraz z reklamami hotelowymi. Te interakcje, zapisane na telefonie, czy przetworzone przez mikrofony na mecie, będą teraz traktowane jako nowe sygnały reklamowe.
Meta wlała tysiące milionów do infrastruktury generatywnej-AI, konkuruje z „superinteligencją” i obiecuje, że jego obecny asystent AI może pomóc użytkownikom generować obrazy, wiadomości lub zaplanować ich dzień. Firma twierdzi, że asystent ma już ponad miliard aktywnych użytkowników miesięcznie, chociaż liczba ta obejmuje aktywność w zestawie aplikacji, nie tylko niezależnej usługi.
Dyrektor generalny Mark Zuckerberg był jasny co do końca gry: konwersacyjny AI musi się spłacić. W maju powiedział, że Meta AI ostatecznie wygeneruje dochód poprzez reklamy lub usługi subskrypcyjne. Środowe ogłoszenie jest pierwszym dużym krokiem, aby rozmowy o AI były częścią głównej działalności reklamowej.
Meta nie odpowiedziała natychmiast na prośbę o komentarze z fortuny.
Ryzyko dla młodszych użytkowników
Implikacje tej zmiany w meta usług mogą być szczególnie ostre dla nastolatków i młodych dorosłych, które stanowią większość użytkowników Instagrama i czują się coraz bardziej przyciągani przez towarzyszy AI.
Bender nazywa te chatboty „plagą” i ostrzega, że jego kadrowanie jako przyjazne i zawsze dostępni towarzysze mogą być szkodliwe.
„Widzieliśmy, jak ludzie umierają na to” – powiedział, odnosząc się do zgłoszonych przypadków osób krzywdzonych przez interakcje chatbota. „A potem dodaj reklamę do tej mieszanki, po prostu czujesz, zobaczmy, jak możemy uczynić ją jeszcze bardziej problematyczną”.
Martwi się, że im większy cel, uczestnicy AI w swoim biznesie reklamowym, tym silniejsze zachęty do utrzymywania użytkowników, nie pomagania im, ale zmaksymalizować zaangażowanie.
„Prawdopodobnie zwiększa to również zachęty finansowe, aby ludzie rozmawiali z chatbotami, optymalizować zobowiązanie, które jest jednym z wektorów szkód” – powiedział.
Meta odpowiedziała, że ich zabezpieczenia dla młodych ludzi obejmują interakcje AI.
„W przypadku nastoletnich konta na Instagramie nastolatki łączą się w najściślejszą konfigurację naszej wrażliwej kontroli treści, aby rzadziej są zalecane z wrażliwą treścią, a nastolatkowie poniżej 16 roku życia nie mogą zmienić tej konfiguracji bez zgody ojca. Nie różni się to w przypadku interakcji z linią mety” – powiedział rzecznik Fortune.
Globalna forma Fortune powraca od 26 do 27 października 2025 r. W Riad. Dyrektor generalny i globalni liderzy spotkają się na dynamicznym wydarzeniu i tylko na zaproszeniu, które kształtuje przyszłość biznesu. Poproś o zaproszenie.
