Prezydent Donald Trump oskarżył Anthropic o stwarzanie zagrożenia dla żołnierzy i bezpieczeństwa narodowego, ale dyrektor generalny Dario Amodei powiedział, że jego firma jest patriotyczna.
„Myślę, że musimy bronić naszego kraju przed autokratycznymi przeciwnikami, takimi jak Chiny i Rosja” – powiedział. „I dlatego byliśmy bardzo elastyczni. Mamy pokaźny zespół z sektora publicznego”.
Podczas gdy Anthropic dostarczyło swoją sztuczną inteligencję rządowi, Pentagon zażądał jej nieograniczonego wykorzystania we wszystkich scenariuszach prawnych. Firma utrzymywała jednak, że ma „czerwone linie”, czyli wykorzystanie jej w krajowym masowym nadzorze i broni autonomicznej.
W rozmowach nie udało się osiągnąć porozumienia, co skłoniło Trumpa do zakazania Anthropic agencji rządowych, dając jednocześnie Pentagonowi sześciomiesięczny okres na wycofywanie się.
Sekretarz obrony Pete Hegseth nazwał także firmę „ryzykiem dla łańcucha dostaw”, co oznacza, że inni wykonawcy pracujący dla Pentagonu nie będą mogli wykorzystywać sztucznej inteligencji Anthropic do prac wojskowych.
Amodei powiedział CBS, że Anthropic potwierdza 98–99% przypadków zastosowań wojskowych. Jednak jego obawy związane z masową inwigilacją polegają na tym, że najnowsza sztuczna inteligencja zmienia zasady gry, nawet w ramach obecnych ograniczeń prawnych.
„To właściwie nie jest nielegalne. Po prostu nigdy nie było przydatne przed erą sztucznej inteligencji. Istnieje więc sposób, w jaki krajowa masowa inwigilacja wyprzedza prawo” – wyjaśnił. „Technologia rozwija się tak szybko, że nie jest zgodna z prawem”.
Jeśli chodzi o broń autonomiczną, Amodei stwierdził, że sztuczna inteligencja nie jest wystarczająco niezawodna, aby całkowicie wytrącić ludzi z obiegu, wskazując na problem techniczny polegający na „podstawowej nieprzewidywalności” w obecnych modelach.
Jak dotąd nie zna żadnych rzeczywistych przykładów użytkownika, który natrafiłby na czerwone linie Anthropic, ale przyznał, że w dłuższej perspektywie nie jest możliwe, aby prywatna firma decydowała o tych kwestiach.
Ostatecznie Kongres musi ustanowić bariery dla wykorzystania sztucznej inteligencji, ale prawodawcy działają powoli, powiedział Amodei. Firma jest również „kategorycznie przeciwna broni w pełni autonomicznej”, ale uważa, że niezawodność sztucznej inteligencji nie osiągnęła jeszcze swojego szczytu.
Tymczasem Anthropic jest nadal otwarta na współpracę z rządem i zasugerowała obu stronom pozostanie w kontakcie.
„Jesteśmy gotowi zaoferować nasze modele wszystkim organom władzy, w tym Departamentowi Wojny, wspólnocie wywiadowczej i bardziej cywilnym organom władzy, na warunkach, które określiliśmy w ramach naszych czerwonych linii” – powiedział.
Anthropic został umieszczony na czarnej liście przez Trumpa i Hegsetha na kilka godzin przed rozpoczęciem przez Stany Zjednoczone i Izrael szeroko zakrojonych nalotów na Iran w ramach konfliktu, który może stać się przedłużającym się konfliktem mającym na celu zmianę reżimu.
Sztuczna inteligencja stała się kluczowym narzędziem dla wojska, zwłaszcza umożliwiającym identyfikację celów i przewidywanie zachowania przeciwnika na podstawie szybkiej analizy wywiadowczej.
Zapytany przez stację CBS, co powiedziałby teraz Trumpowi, Amodei odpowiedział: „Powiedziałbym, że jesteśmy patriotycznymi Amerykanami. Wszystko, co zrobiliśmy, było dla dobra tego kraju, dla dobra wspierania bezpieczeństwa narodowego Stanów Zjednoczonych. Nasza tendencja do wykorzystywania naszych modeli w wojsku wynikała z wiary w ten kraj”.
Dodał jednak: „Narysowaliśmy narysowane przez nas czerwone linie, ponieważ uważamy, że ich przekraczanie jest sprzeczne z amerykańskimi wartościami. A chcieliśmy bronić amerykańskich wartości”.
Nad Anthropic wyłania się określenie przez szefa Pentagonu ryzyka związanego z łańcuchem dostaw, co jest bezprecedensowym posunięciem przeciwko amerykańskiej firmie, które może zaszkodzić jej rozwojowi.
Amodei nazwał to karą, ale bagatelizował ewentualne szkody, twierdząc, że nie będzie miało to wpływu na pracę klientów Anthropic niezwiązaną z obronnością.
„Damy sobie radę” – powiedział. „Wpływ tej nominacji jest dość niewielki. Tweet opublikowany przez sekretarza miał na celu wywołanie niepewności, miał stworzyć sytuację, w której ludzie wierzyli, że wpływ będzie znacznie większy, miał wywołać strach, niepewność i wątpliwości. Ale nie pozwolimy, aby to się powiodło. Wszystko będzie dobrze”.
