W 2023 roku, gdy Dario Amodei zbierał fundusze na rundę serii D o wartości 750 milionów dolarów, inwestor siedzący z dyrektorem generalnym podczas kolacji przypomniał sobie, jak zirytował się rozmową o kwestiach bezpieczeństwa związanych ze sztuczną inteligencją.
„Kiedy mówił o ryzyku związanym ze sztuczną inteligencją, skrzywił się” – mówi inwestor. „Jego ciało drgnęło. Naprawdę emocjonalnie pokazał, jak bardzo jest przestraszony”.
Zrobiło to wrażenie na inwestorze, który wypowiadał się pod warunkiem zachowania anonimowości w obawie przed wpływem na jego działalność i stwierdził, że wierzy, że modele oparte na dużych językach nigdy nie odniosą sukcesu, jeśli nie będą godne zaufania.
Obecnie zdecydowane stanowisko Anthropic w sprawie bezpieczeństwa sztucznej inteligencji i zaangażowanie inwestorów w to stanowisko zostaje wystawione na próbę jak nigdy dotąd, gdy firma staje w obliczu niezwykle trudnego konfliktu z Departamentem Obrony USA. Nalegając, aby technologia Claude AI spełniała pewne ograniczenia podczas stosowania jej przez wojsko, Anthropic wywołała gniew prezydenta Donalda Trumpa i sekretarza wojny Pete’a Hegsetha, którzy zemścili się, próbując przerwać działalność Anthropic.
Dla inwestorów w Anthropic, która niedawno zebrała 30 miliardów dolarów przy wycenie 380 miliardów dolarów i oczekuje się, że wkrótce przeprowadzi pierwszą ofertę publiczną, decyzja rządu o uznaniu Anthropic za „ryzyko łańcucha dostaw” może mieć druzgocące konsekwencje.
Sposób, w jaki ci inwestorzy wywierają zakulisowy nacisk na Anthropic – czy to nalegają na ugodę, czy nawołują do niezmiennego działania – może zadecydować o wyniku konfliktu. Fortune rozmawiała z sześcioma osobami, które zainwestowały w Anthropic, aby dowiedzieć się, co ta kluczowa grupa sądzi o sytuacji, i odkryła, że opinie nie były jednolite pomimo wieloletniej szczerości firmy w kwestii jej wartości.
„Jestem rozczarowany, że kwestie mające wpływ na bezpieczeństwo narodowe są nagłaśniane publicznie” – mówi JD Russell, który prowadzi firmę inwestycyjną Alpha Funds i pracuje w Anthropic. Russell powiedział, że szanuje stanowisko Anthropic w sprawie masowej inwigilacji i broni autonomicznej, ale stwierdził, że „trzeba być realistą, że przeciwnicy Ameryki wykorzystują te możliwości ze znacznie mniejszymi ograniczeniami”.
Jacques Tohme, partner zarządzający firmy Amerocap, powiedział po prostu, że „nie zgadza się” ze stanowiskiem zajętym przez spółkę.
Mimo to wielu inwestorów Anthropic poparło tę firmę w sporze, szczególnie biorąc pod uwagę jej zdyscyplinowane stanowisko w niektórych z najostrzejszych obecnie kwestii związanych ze sztuczną inteligencją. Przecież współzałożyciele wyraźnie opuścili OpenAI w 2021 roku, aby rozwijać systemy AI, które byłyby potężne, ale jednocześnie bezpieczne dla ludzkości. Wielu pierwszych inwestorów Anthropic ma także powiązania ze społecznością efektywnego altruizmu – dziedziną badań skupiającą się na tym, jak osiągnąć „najwięcej dobra” z możliwych, a firma ma silną bazę inwestorów w Europie, która zwykle jest znacznie mniej przychylna Departamentowi Obrony USA.
Jeden z tych inwestorów, Alberto Emprin, inwestor prowadzący firmę 3LB Seed Capital, na początku tego tygodnia zamieścił w serwisie Substack swoje perspektywy i wsparcie dla Anthropic w języku włoskim, zauważając, że Amodei dzięki swojemu stanowisku stał się „swego rodzaju orędownikiem etyki w epoce sztucznej inteligencji”.
„Argument Amodei jest na pierwszy rzut oka nie do obalenia: sztuczna inteligencja jest wciąż niedoskonała, popełnia błędy, a pogląd, że w wyniku halucynacji lub błędów szkoleniowych można zabić„ niewłaściwą osobę ”, jest etycznie nie do tolerowania” – napisała Emprin.
Wśród inwestorów, z którymi rozmawiał Fortune, niektórzy inwestowali bezpośrednio, inni za pośrednictwem specjalnych spółek, a jeden z inwestorów niedawno sprzedał swoją pozycję na rynku wtórnym. Ostatecznie głos największych inwestorów przeważy nad głosem około 270 innych inwestorów znajdujących się w tabeli kapitalizacji Anthropic. Według Semafor do największych należy Amazon, którego dyrektor generalny Andy Jassy niedawno spotkał się z Hegsethem i, według Semafor, odmówił stanięcia po stronie Anthropic, gdy pojawiła się ta sprawa. Według Reutersa Jassy spotkał się także w ostatnich dniach z Amodei z Anthropic, natomiast Lightspeed i Iconiq zwróciły się do innych inwestorów w celu zbadania rozwiązania.
Jak źle może być?
Jednak osiągnięcie konsensusu wśród inwestorów antropicznych może nie być łatwe. Chociaż nie wszyscy inwestorzy byli zadowoleni z twardego stanowiska dyrektora generalnego Anthropic, Dario Amodei, istnieją również różne opinie na temat tego, jak szkodliwy dla firmy może być spór z Pentagonem. Według Bloomberga kontrakt z rządem USA był niewielki i podobno wynosił około 200 milionów dolarów, czyli około 1% rocznych przychodów Anthropic.
Russell, menadżer Alpha Funds, powiedział, że nie spodziewa się, że posunięcie Pentagonu będzie miało „naprawdę negatywny wpływ na Pentagon”, ponieważ „to tak naprawdę tylko kontrakt”.
Jednakże, w zależności od interpretacji określenia ryzyka w łańcuchu dostaw (oczekuje się, że Anthropic będzie walczyć z tym w sądzie), może to prowadzić do szerszych konsekwencji w postaci zmuszenia każdej firmy współpracującej z Departamentem Obrony do zaprzestania używania produktów Anthropic. Inne agencje federalne, w tym Departament Stanu i Departament Skarbu, również oświadczyły, że nie będą już używać Anthropic.
Z drugiej strony niektórzy inwestorzy Anthropic twierdzą, że zachęca ich wzrost wartości firmy, jaki firma uzyskała dzięki niezmiennemu przestrzeganiu swoich zasad. Patrick Hable, inwestor prowadzący firmę 3 Comma Capital, powiedział, że wierzy, że cała emisja będzie „pozytywna” dla spółki. „Stracili kontrakty, ale zyskali miliony zwolenników” – powiedział. Dodał jednak, że „nawet jeśli było to wyraźnie negatywne, postąpił słusznie” – stwierdził.
W ciągu kilku dni, odkąd Pentagon ogłosił umowę z OpenAI zamiast Anthropic, Anthropic stała się najczęściej pobieraną aplikacją w sklepach z aplikacjami na Apple i Androida. Firma podała, że w poniedziałek najwięcej rejestracji użytkowników zarejestrowało Anthropic.
Jak Amodei rzekomo powiedział pracownikom w obszernej wewnętrznej notatce opublikowanej przez Information, w której krytykuje Sama Altmana z OpenAI i wyjaśnia, jakie są skutki konfliktu z Departamentem Obrony, opinia publiczna postrzega Anthropic „jako bohaterów”.
