Szefowa sztabu Białego Domu Susie Wiles planuje przesłuchać dyrektora generalnego Anthropic Dario Amodei w sprawie nowego modelu Mythos firmy zajmującej się sztuczną inteligencją, który zwrócił uwagę rządu federalnego na to, w jaki sposób może on przekształcić bezpieczeństwo narodowe i gospodarkę.
Urzędnik Białego Domu, który poprosił o anonimowość w celu omówienia planowanego na piątek spotkania, powiedział, że administracja współpracuje z laboratoriami zaawansowanej sztucznej inteligencji w sprawie ich modeli i bezpieczeństwa oprogramowania. Urzędnik podkreślił, że każda nowa technologia, która mogłaby zostać wykorzystana przez rząd federalny, wymagałaby okresu technicznego na ocenę.
Spotkanie następuje po eskalacji napięć między administracją Trumpa a dbającą o bezpieczeństwo firmą Anthropic, która stara się stawiać bariery dla rozwoju sztucznej inteligencji, aby zminimalizować wszelkie potencjalne ryzyko i zmaksymalizować korzyści gospodarcze i związane z bezpieczeństwem narodowym dla USA.
Prezydent Donald Trump próbował uniemożliwić wszystkim agencjom federalnym korzystanie z chatbota Anthropic Claude w związku ze sporem kontraktowym firmy z Pentagonem, a w lutym Trump w swoim poście w mediach społecznościowych oświadczył, że administracja „nie będzie już z nimi robić interesów!”
Sekretarz obrony Pete Hegseth starał się również uznać Anthropic za ryzyko w łańcuchu dostaw, co było bezprecedensowym posunięciem przeciwko amerykańskiej firmie, które Anthropic zakwestionowała w dwóch sądach federalnych. Firma stwierdziła, że chce zapewnień, że Pentagon nie użyje jej technologii do produkcji w pełni autonomicznej broni i inwigilacji Amerykanów. Hegseth powiedział, że firma musi zezwolić na dowolne wykorzystanie, które Pentagon uzna za legalne.
W marcu sędzia okręgowy USA Rita Lin wydała orzeczenie, które zablokowało wykonanie dyrektywy Trumpa dotyczącej mediów społecznościowych, nakazującej wszystkim agencjom federalnym zaprzestanie używania produktów Anthropic.
Anthropic odmówił wcześniejszego omówienia spotkania.
Firma Anthropic z siedzibą w San Francisco stwierdziła, że nowy model Mythos, ogłoszony 7 kwietnia, jest tak „zaskakująco wydajny”, że ogranicza jego użycie do wybranych klientów ze względu na jego zdolność przewyższającą ludzkich ekspertów ds. cyberbezpieczeństwa w znajdowaniu i wykorzystywaniu luk w zabezpieczeniach komputerów.
I chociaż niektórzy eksperci branżowi kwestionują, czy twierdzenia Anthropic o zbyt potężnej technologii sztucznej inteligencji są chwytem marketingowym, nawet niektórzy z najostrzejszych krytyków firmy sugerowali, że Mythos może oznaczać dalszy postęp w dziedzinie sztucznej inteligencji.
Wpływowy krytyk antropiczny David Sacks, który był w Białym Domu królem sztucznej inteligencji i kryptowalut, powiedział, że ludzie powinni „traktować to poważnie”.
„Za każdym razem, gdy Anthropic przeraża ludzi, musisz zadać sobie pytanie: «Czy to podstęp? Czy to część ich rutyny w sprawie Chicken Little? A może to prawda?»” – powiedział Sacks w podcaście „All-In”, którego współprowadzi wraz z innymi inwestorami z branży technologicznej. „W przypadku cyberbezpieczeństwa przyznałbym im uznanie i powiedziałbym, że jest bardziej realny”.
Sacks powiedział: „To logiczne, że w miarę zwiększania się możliwości modeli kodowania, stają się one coraz bardziej zdolne do wyszukiwania błędów. Oznacza to, że są w stanie lepiej znajdować luki w zabezpieczeniach. Oznacza to, że są w stanie lepiej łączyć wiele luk w zabezpieczeniach i tworzyć exploity”.
Potencjalne korzyści związane z tym modelem, a także związane z nim ryzyko przyciągnęły uwagę także poza Stanami Zjednoczonymi.
Brytyjski Instytut Bezpieczeństwa AI stwierdził, że ocenił nowy model i uznał go za „krok naprzód” w porównaniu z poprzednimi modelami, które już szybko udoskonalano.
„Mythos Preview może wykorzystywać systemy o słabym poziomie zabezpieczeń i prawdopodobnie zostanie opracowanych więcej modeli wyposażonych w takie możliwości” – stwierdził instytut w raporcie.
Anthropic prowadzi również rozmowy z Unią Europejską na temat swoich modeli sztucznej inteligencji, w tym modeli zaawansowanych, które nie zostały jeszcze wprowadzone na rynek w Europie, powiedział w piątek rzecznik Komisji Europejskiej Thomas Regnier.
Axios jako pierwszy poinformował o zaplanowanym spotkaniu Wilesa i Amodei.
Ogłaszając Mythos, Anthropic poinformowała, że tworzy również inicjatywę o nazwie Project Glasswing, która zrzeszy gigantów technologicznych, takich jak Amazon, Apple, Google i Microsoft, a także inne firmy, takie jak JPMorgan Chase, w nadziei na ochronę najważniejszego oprogramowania na świecie przed „poważnymi” konsekwencjami, jakie nowy model może mieć dla bezpieczeństwa publicznego, bezpieczeństwa narodowego i gospodarki.
„Wdrażamy to rozwiązanie w podzbiorze największych firm i organizacji na świecie, aby mogły go używać do wyszukiwania luk w zabezpieczeniach” – powiedział współzałożyciel i dyrektor ds. polityki firmy Anthropic, Jack Clark, podczas odbywającej się w tym tygodniu konferencji Semafor World Economy.
Clark dodał, że Mythos, choć nowatorski, nie jest „modelem specjalnym”.
„Za kilka miesięcy będą inne tego typu systemy od innych firm, a za rok, półtora roku później będą otwarte modele z Chin, które będą miały takie możliwości” – powiedział. Zatem świat będzie musiał przygotować się na potężniejsze systemy, które będą w nim istnieć.”
___
O’Brien doniósł z Providence, RI. Reporter biznesowy AP, Kelvin Chan, przyczynił się do powstania tego raportu z Londynu.
