Umowa Anthropic o wartości 200 milionów dolarów z Departamentem Obrony stoi pod znakiem zapytania po tym, jak Anthropic podobno wyraziła obawy dotyczące wykorzystania przez Pentagon modelu Claude AI podczas styczniowego nalotu Nicolása Maduro.
„Relacje Departamentu Wojny z Anthropic są poddawane przeglądowi” – oznajmił w oświadczeniu dla „Fortune” główny rzecznik Pentagonu Sean Parnell. „Nasz naród wymaga od naszych partnerów chęci pomocy naszym żołnierzom w zwycięstwie w każdej walce. Ostatecznie chodzi o naszych żołnierzy i bezpieczeństwo narodu amerykańskiego”.
Według The Hill napięcie wzrosło w ostatnich tygodniach po tym, jak według doniesień starszy urzędnik Anthropic zwrócił się do najwyższego dyrektora Palantir i zapytał, w jaki sposób Claude został wykorzystany podczas nalotu. Dyrektor Palantir zinterpretował to podejście jako dezaprobatę dla wykorzystania modelki podczas nalotu i przesłał szczegóły wymiany do Pentagonu. (Prezydent Trump powiedział, że podczas nalotu wojsko użyło broni „odsprzęgającej”, w wyniku której sprzęt wroga „przestał działać”).
„Anthropic nie omawiało wykorzystania Claude’a do konkretnych operacji z Departamentem Wojny” – oznajmił rzecznik Anthropic w oświadczeniu dla Fortune. „Nie omawialiśmy tego ani nie wyrażaliśmy obaw żadnemu partnerowi branżowemu poza rutynowymi dyskusjami o kwestiach ściśle technicznych”.
W centrum tego sporu znajdują się bariery umowne określające sposób wykorzystania modeli sztucznej inteligencji w operacjach obronnych. Dyrektor generalny Anthropic, Dario Amodei, konsekwentnie opowiada się za rygorystycznymi ograniczeniami stosowania i regulacji sztucznej inteligencji, przyznając nawet, że trudno jest pogodzić bezpieczeństwo z zyskami. Od miesięcy firma i Departament Obrony toczą sporne negocjacje dotyczące sposobu wykorzystania Claude w operacjach wojskowych.
Zgodnie z umową Departamentu Obrony Anthropic nie pozwoli Pentagonowi wykorzystywać swoich modeli sztucznej inteligencji do masowej inwigilacji Amerykanów ani wykorzystywać swojej technologii w całkowicie autonomicznej broni. Firma zakazała także stosowania swojej technologii w „śmiercionośnych” lub „kinetycznych” zastosowaniach wojskowych. Jakiekolwiek bezpośrednie zaangażowanie w aktywne strzelanie podczas nalotu na Maduro prawdopodobnie naruszyłoby te warunki.
Wśród firm zajmujących się sztuczną inteligencją, które mają kontrakty rządowe (w tym OpenAI, Google i xAI), Anthropic zajmuje lukratywną pozycję, co plasuje Claude jako jedyny główny model językowy autoryzowany w tajnych sieciach Pentagonu.
Stanowisko to podkreśliła firma Anthropic w oświadczeniu dla magazynu Fortune. „Claude jest używany w wielu różnych przypadkach związanych z wywiadem w rządzie, w tym w DoW, zgodnie z naszą Polityką użytkowania”.
W oświadczeniu stwierdzono, że firma „jest zaangażowana w wykorzystywanie granicznej sztucznej inteligencji do wspierania bezpieczeństwa narodowego Stanów Zjednoczonych”. „Prowadzimy w dobrej wierze produktywne rozmowy z Departamentem Wojny na temat tego, jak kontynuować tę pracę i rozwiązać te złożone problemy”.
Palantir, OpenAI, Google i xAI nie odpowiedziały natychmiast na prośbę o komentarz.
AI idzie na wojnę
Chociaż Departament Obrony przyspieszył wysiłki mające na celu włączenie sztucznej inteligencji do swoich operacji, tylko xAI zezwoliło na wykorzystanie swoich modeli „do wszystkich celów zgodnych z prawem”, podczas gdy pozostałe utrzymują ograniczenia użytkowania.
Amodei od miesięcy alarmuje o ochronie użytkowników, oferując Anthropic jako alternatywę bezpieczeństwa dla OpenAI i Google w przypadku braku przepisów rządowych. „Czuję się głęboko nieswojo z powodu decyzji podjętych przez kilka firm” – powiedział w listopadzie. Chociaż krążyły pogłoski, że Anthropic planuje złagodzenie ograniczeń, firma stoi obecnie przed możliwością całkowitego wykluczenia z przemysłu obronnego.
Starszy urzędnik Pentagonu powiedział, że sekretarz obrony Axios Pete Hegseth jest „bliski” usunięcia firmy Anthropic z wojskowego łańcucha dostaw, co zmusza każdego, kto chce robić interesy z wojskiem, do zerwania stosunków z firmą.
„Rozplątanie ich będzie ogromnym bólem głowy, a my dopilnujemy, aby zapłacili cenę za zmuszenie nas do takiego działania” – powiedział portalowi wyższy rangą urzędnik.
Uznanie go za kwestię związaną z ryzykiem dostaw sprzętu wojskowego to specjalne określenie, na ogół zarezerwowane wyłącznie dla zagranicznych przeciwników. Najbliższym precedensem jest nałożony przez rząd zakaz Huawei w 2019 r. ze względów bezpieczeństwa narodowego. W przypadku Anthropic źródła poinformowały firmę Axios, że urzędnicy obrony od jakiegoś czasu planowali rozpocząć walkę z firmą z San Francisco.
Komentarze Pentagonu są najnowszym elementem sporu publicznego, który osiąga punkt kulminacyjny. Rząd twierdzi, że nakładanie na firmy ograniczeń etycznych dla swoich modeli byłoby niepotrzebnie restrykcyjne, a duża liczba szarych stref sprawiłaby, że technologie stałyby się bezużyteczne. W miarę jak Pentagon kontynuuje negocjacje z podwykonawcami sztucznej inteligencji w sprawie rozszerzenia jej wykorzystania, spór publiczny zamienia się w potyczkę zastępczą o to, kto będzie dyktował wykorzystanie sztucznej inteligencji.
