Sztuczna inteligencja „wydaje się matematykom o wiele gorsza niż słowo ludzie” – stwierdził zwięźle Peter Thiel w 2024 r. Prawdopodobnie nie spodziewał się, że zaledwie dwa lata później jego współzałożyciel Palantir, dyrektor generalny Alex Karp, użyje zdecydowanie kwiecistego języka do opisania ludzi, których uważa za głupich.
„Jeśli Dolina Krzemowa myśli, że zabierzemy wszystkim pracę umysłową… a wy pieprzycie wojsko, jeśli nie sądzicie, że doprowadzi to do nacjonalizacji naszej technologii, jesteście w tyle” – powiedział Karp podczas przemówienia na szczycie American Dynamism Summit a16z. „Możesz być szczególnie upośledzony, ponieważ masz iloraz inteligencji wynoszący 160”.
Karp komentował temat, który ogarnął świat sztucznej inteligencji: W jakim charakterze firmy AI powinny współpracować z rządem? Bliższe przyjrzenie się wyjaśnia, dlaczego spór pomiędzy Pentagonem a dwiema całkowicie odrębnymi firmami (Anthropic i OpenAI) wywołał niezadowolenie Karpa.
Katherine Boyle, komplementariusz w a16z, moderowała sesję grupową zatytułowaną „Sztuczna inteligencja w obronie Zachodu”.
Na co Karp zauważył: „Jeśli Dolina Krzemowa sądzi, że zabierzemy wszystkim pracę umysłową (tj. głównie Demokratom, z którymi można dorastać, dobrze wykształconym ludziom, którzy chodzili do elitarnych szkół lub którzy chodzili do szkół prawie elitarnych dla jednej partii) i pozwiecie wojsko. Jeśli nie sądzicie, że doprowadzi to do nacjonalizacji naszej technologii, to jesteście w tyle”.
Oh. Co zatem dręczy pana Karpa?
Dlaczego to wpływa na Palantir
Chociaż Karp mógł wybrać mniej obraźliwy język, aby wyrazić swoją opinię, poruszył drażliwy punkt, który jest głęboko osobisty dla Palantira. „Nie można mieć technologii, które jednocześnie zabierają wszystkim pracę” – powiedział, a potem być postrzeganym jako ośmieszanie wojska. To napięcie nie jest dla Palantira abstrakcyjne. Może to być prawdziwy kryzys operacyjny.
Firmy takie jak Anthropic, OpenAI, Google i xAI podpisały umowy z Departamentem Obrony, z których każda zawiera ograniczenia dotyczące możliwości używania ich technologii w środowiskach, które mogłyby naruszyć ich warunki świadczenia usług. Departament Obrony prowadzi negocjacje z firmami zajmującymi się sztuczną inteligencją w celu usunięcia tych ograniczeń i zamiast tego umożliwienia wykorzystania ich technologii do „wszystkich celów zgodnych z prawem”. Karp nie ma cierpliwości do firm, które traktują to żądanie jako czerwoną linię moralną:
„Istnieje różnica między amerykańskim wojskiem a policją” – powiedział na szczycie. „Wbrew temu, co wszyscy myślą, Palantir jest firmą przeciwdziałającą inwigilacji” – stwierdził, odrzucając twierdzenia, że firma, której nazwa pochodzi od wszechwidzącego urządzenia monitorującego z „Władcy Pierścieni”, zasadniczo zajmuje się inwigilacją. Każdy ekspert techniczny wie, że tak jest, ale przysłowiowy „osoba online” po prostu ma błędne pojęcie – argumentował Karp – „więc wchodzę we wszystkie rozmowy, w których nie chcę brać udziału”.
Dyrektor generalny Anthropic, Dario Amodei, zasłynął z wypowiedzi, w której stwierdził, że nie może „z czystym sumieniem” poprzeć klauzuli „w każdym celu zgodnym z prawem”. Następnie, po groźbie Anthropic groźbą uznania go za zagrożenie dla wojskowego łańcucha dostaw, rząd podpisał umowę z OpenAI na wykorzystanie jego narzędzi w tajnych misjach. (Doniesienia mówią, że Anthropic ponownie prowadzi rozmowy z Pentagonem, a Pentagon potwierdził, że Claude Opus firmy Anthropic był kluczem do jej przygotowań do historycznego amerykańsko-izraelskiego ataku wojskowego na Iran.)
Dla Palantira ta sekwencja wydarzeń nie jest abstrakcją: jest to bezpośrednie zagrożenie operacyjne. Flagowa platforma AI (AIP) firmy Palantir opiera się na łączeniu najlepszych w swojej klasie modeli granicznych z przepływami pracy w zakresie obronności i wywiadu. Claude Opus to jeden z najzdolniejszych modeli, ceniony za dogłębność rozumowania i niezawodność w środowiskach wysokiego ryzyka. Jeśli Anthropic znajdzie się na czarnej liście ryzyka dla wojskowego łańcucha dostaw lub jeśli warunki świadczenia usług skutecznie wykluczą ją z tajnych środowisk, w których działa Palantir, Palantir straci dostęp do jednego ze swoich najpotężniejszych silników sztucznej inteligencji. W połowie trwania umowy byłaby zmuszona zrestrukturyzować swoją platformę w oparciu o alternatywne modele, co byłoby kosztownym i szkodzącym reputacji zakłóceniem dla firmy, której marką jest niezawodność o kluczowym znaczeniu.
„Ponownie za kurtyną kryje się mnóstwo subtelności” – przyznał Karp. „Byłem bardzo zaangażowany w tę subtelność: co można wdrożyć i gdzie można to wdrożyć”.
Szerszy obraz gospodarczy
Stawka, argumentował Karp, wykracza daleko poza jakikolwiek konkretny kontrakt z Pentagonem lub decyzję polityczną jakiejkolwiek firmy. „Niebezpieczeństwo dla naszego przemysłu” – ostrzegł – „polega na tym, że występuje słynny efekt podkowy, w którym ludzie zgadzają się tylko w jednej rzeczy, a mianowicie nie płaceniu rachunków, i ludzie w naszym przemyśle powinni zostać znacjonalizowani”.
Zdaniem Karpa ta populistyczna konwergencja, w ramach której zarówno lewica, jak i prawica zwracają się w stronę technologii, stanie się nieunikniona, jeśli firmy oparte na sztucznej inteligencji pozbawią pracowników umysłowych środków do życia, odmawiając jednocześnie służby wojskowej. Ponownie wskazał, kim są ci pracownicy: „Głównie ludzie na sposób demokratyczny, z którymi można dorastać: ludzie z wysokim wykształceniem, którzy chodzili do elitarnych szkół lub chodzili do szkół prawie elitarnych, dla jednej partii”.
Obawy te już materializują się na skalę gospodarczą, co nadaje argumentowi Karpa pilności. Eksperci ostrzegają przed zbliżającym się scenariuszem zagłady sztucznej inteligencji, w którym dni pracowników umysłowych są policzone, co będzie siłą destabilizującą, która pozostawi większość pracowników bez pracy. Nie są to po prostu pomysły wywołujące panikę; Mają one konsekwencje w świecie rzeczywistym, takie jak wirusowe badanie Citrini Research, które wywołało masowe wstrząsy na rynku.
Zdaniem Karpa rząd nie pozwoliłby firmom zajmującym się sztuczną inteligencją zgromadzić już posiadaną władzę i kontynuować działalność w ramach pozarządowego, samoregulacyjnego nadzoru, a tym bardziej dyktować warunki korzystania samemu rządowi. – Tędy prowadzi droga – powiedział po prostu. Jedynym sposobem, w jaki firmy takie jak Palantir mogą zachować swoją pozycję, umowy i dostęp do pionierskich modeli sztucznej inteligencji, które napędzają ich platformy, jest przestrzeganie przepisów rządowych, gdy zostaną o to poproszone. Dla Palantira utrata miejsca przy stole nie oznacza tylko złej optyki. Oznacza to utratę wkładu technologicznego, który sprawia, że podstawowy produkt działa.
Byłby to dramatyczny zwrot w przypadku firmy, która w najnowszych kwartalnych wynikach Palantir osiągnęła coś, co Karp zaledwie miesiąc temu nazwał „jednym z naprawdę ikonicznych wyników w historii wyników korporacyjnych lub technologicznych”.
