Administracja Trumpa nie stroni od udostępniania w Internecie obrazów wygenerowanych przez sztuczną inteligencję, adoptowania obrazów i memów przypominających kreskówki oraz promowania ich na oficjalnych kanałach Białego Domu.
Jednak zredagowany (i realistyczny) obraz adwokata zajmującego się prawami obywatelskimi Nekimy Levy Armstrong płaczącej po aresztowaniu budzi nowy alarm w związku z tym, że administracja zaciera granice między tym, co prawdziwe, a tym, co fałszywe.
Na koncie Sekretarz Bezpieczeństwa Wewnętrznego Kristi Noem pojawiło się oryginalne zdjęcie aresztowania Levy’ego Armstronga, zanim na oficjalnym koncie Białego Domu pojawiło się zmienione zdjęcie przedstawiające jej płaczącą osobę. Sfałszowane zdjęcie stanowi część powodzi zdjęć edytowanych przez sztuczną inteligencję, które udostępniono całemu spektrum politycznemu od czasu śmiertelnego postrzelenia Renee Good i Alexa Prettiego przez agentów amerykańskiej straży granicznej w Minneapolis.
Jednak wykorzystanie sztucznej inteligencji przez Biały Dom zaniepokoiło ekspertów ds. dezinformacji, którzy obawiają się, że rozpowszechnianie obrazów generowanych lub edytowanych przez sztuczną inteligencję osłabi publiczne postrzeganie prawdy i zasieje nieufność.
W odpowiedzi na krytykę edytowanego wizerunku Levy’ego Armstronga urzędnicy Białego Domu podwoili swój post, a zastępca dyrektora ds. komunikacji Kaelan Dorr napisała w X, że „memy będą kontynuowane”. Zastępca sekretarza prasowego Białego Domu Abigail Jackson również udostępniła post, w którym kpi z krytyki.
David Rand, profesor informatyki na Uniwersytecie Cornell, twierdzi, że nazywanie sfałszowanego obrazu memem „z pewnością wydaje się próbą przedstawienia go jako żartu lub humorystycznego posta, podobnie jak ich poprzednie kreskówki. Ma to prawdopodobnie chronić ich przed krytyką za publikowanie zmanipulowanych mediów”. Powiedział, że cel udostępnienia sfabrykowanego obrazu aresztowania wydaje się „znacznie bardziej niejednoznaczny” niż kreskówkowe obrazy, którymi administracja dzieliła się w przeszłości.
Memy zawsze przekazywały wielowarstwowe komunikaty, zabawne lub pouczające dla ludzi, którzy je rozumieli, ale nieczytelne dla osób z zewnątrz. Wzmocnione lub edytowane przez sztuczną inteligencję obrazy to najnowsze narzędzie, którego używa Biały Dom, aby przyciągnąć uwagę tej części bazy Trumpa, która spędza dużo czasu w Internecie, powiedział Zach Henry, republikański konsultant ds. komunikacji, który założył Total Virality, firmę zajmującą się marketingiem wpływowym.
„Ludzie, którzy są online, zobaczą to i natychmiast rozpoznają jako mem” – powiedział. „Twoi dziadkowie mogą to zobaczyć i nie zrozumieć mema, ale ponieważ wydaje się prawdziwy, skłania ich to do pytania o to swoich dzieci lub wnuków”.
Znacznie lepiej, jeśli wywoła ostrą reakcję, co pomoże mu stać się wirusowym, powiedział Henry, który ogólnie pochwalił pracę zespołu ds. mediów społecznościowych Białego Domu.
„Rząd powinien być miejscem, w którym można ufać informacjom i o którym można powiedzieć, że jest dokładny, ponieważ ma za to obowiązek” – stwierdził. „Udostępnianie tego typu treści i tworzenie tego typu treści… podważa zaufanie – chociaż zawsze jestem trochę sceptyczny wobec terminu zaufanie – ale zaufanie, które powinniśmy mieć w rządzie federalnym, aby dostarczał nam dokładnych, zweryfikowanych informacji. To prawdziwa strata i naprawdę bardzo mnie martwi”.
Ramesh Srinivasan, profesor na Uniwersytecie Kalifornijskim w Los Angeles i gospodarz podcastu Utopias, powiedział, że wiele osób zastanawia się obecnie, gdzie mogą uzyskać „wiarygodne informacje”. „Systemy sztucznej inteligencji jedynie zaostrzą, wzmocnią i przyspieszą problemy braku zaufania, a nawet braku zrozumienia tego, co można uznać za rzeczywistość, prawdę lub dowód” – stwierdził.
Srinivasan powiedział, że jego zdaniem Biały Dom i inni urzędnicy udostępniający treści generowane przez sztuczną inteligencję nie tylko zapraszają zwykłych ludzi do dalszego publikowania podobnych treści, ale także udzielają pozwolenia innym osobom posiadającym wiarygodność i władzę, takim jak decydenci, na udostępnianie nieoznakowanych treści syntetycznych. Dodał, że ponieważ platformy mediów społecznościowych mają tendencję do „algorytmicznego uprzywilejowania” ekstremalnych i konspiracyjnych treści, które narzędzia do generowania sztucznej inteligencji mogą z łatwością tworzyć, „mamy przed sobą bardzo duży zestaw wyzwań”.
W mediach społecznościowych rozprzestrzenił się już napływ filmów generowanych przez sztuczną inteligencję, związanych z działaniami organów imigracyjnych i celnych, protestami i interakcjami z obywatelami. Po tym, jak funkcjonariusz ICE postrzelił Renee Good, gdy była w samochodzie, w obiegu pojawiło się kilka filmów wygenerowanych przez sztuczną inteligencję, przedstawiających kobiety oddalające się od funkcjonariuszy ICE, którzy kazali im się zatrzymać. W sieci krąży także wiele sfabrykowanych filmów wideo przedstawiających naloty imigracyjne oraz osoby konfrontujące się z agentami ICE, często krzyczące na nich lub rzucające jedzeniem w twarz.
Jeremy Carrasco, twórca treści specjalizujący się w umiejętności korzystania z mediów i obalaniu wirusowych filmów zawierających sztuczną inteligencję, powiedział, że większość tych filmów prawdopodobnie pochodzi z kont, które „pielęgnują zaangażowanie” lub chcą czerpać zyski z kliknięć, generując treści zawierające popularne słowa kluczowe i wyszukiwane hasła, takie jak ICE. Powiedział jednak również, że filmy oglądają ludzie, którzy sprzeciwiają się ICE i DHS i którzy mogą postrzegać je jako „fikcję fanów” lub wyrażać „myślenie życzeniowe”, mając nadzieję na rzeczywisty sprzeciw wobec organizacji i ich urzędników.
Mimo to Carrasco uważa również, że większość widzów nie jest w stanie stwierdzić, czy to, co widzą, jest fałszywe, i zastanawia się, czy wiedzieliby, „co jest prawdziwe, a co nie, kiedy ma to naprawdę znaczenie, na przykład gdy stawka jest znacznie wyższa”.
Nawet jeśli istnieją oczywiste oznaki generowania sztucznej inteligencji, takie jak bełkotliwe znaki drogowe lub inne oczywiste błędy, tylko w „najlepszym przypadku” widz będzie wystarczająco inteligentny lub poświęci wystarczająco dużo uwagi, aby zarejestrować użycie sztucznej inteligencji.
Carrasco uważa, że krokiem w kierunku rozwiązania może być powszechne wdrożenie systemu znaków wodnych, który włącza informacje o pochodzeniu nośnika do warstwy metadanych. Koalicja na rzecz pochodzenia i autentyczności treści opracowała taki system, ale Carrasco nie sądzi, że zostanie on powszechnie przyjęty przez co najmniej kolejny rok.
„To będzie problem na zawsze” – powiedział. „Nie sądzę, że ludzie rozumieją, jakie to złe”.
__
Do powstania tego raportu wnieśli swój wkład autorzy Associated Press Jonathan J. Cooper w Phoenix i Barbara Ortutay w San Francisco.
