Kto powinien kontrolować sztuczną inteligencję? Czy korporacje wprowadzające na rynek potężną technologię są arbitrami jej losu? A może ta władza powinna znajdować się w rękach rządu?
Palmer Luckey, założyciel firmy obronnej Anduril, której celem jest modernizacja amerykańskiej armii, uważa, że odpowiedź jest prosta: przekazać władzę rządowi. W niedawnym wywiadzie dla „New York Post” założyciel miliardera odniósł się do rosnącej debaty na temat tego, kto decyduje o tym, w jaki sposób rząd wykorzystuje sztuczną inteligencję.
W przypadku miliardera to rząd, a co za tym idzie, obywatele, podejmuje konkretne decyzje dotyczące wykorzystania. W przeciwnym razie firmy technologiczne mogłyby zagrozić demokracji.
„Musimy pozostać na stanowisku, że wszystko jest w rękach obywateli” – powiedział. „Każdy, kto twierdzi, że firma obronna powinna wykraczać poza prawo, poza to, co mówią prawodawcy i wybrani przywódcy na temat tego, z kim chcą, a czego nie chcą współpracować, w rzeczywistości twierdzi, że nie wierzy w ten demokratyczny eksperyment i że chce „korporokracji”.
„We wszystkich przypadkach każdy, kogo rząd USA mówi mi, że mogę, a czego nie mogę sprzedać” – kontynuował – „zajmowanie innego stanowiska oznacza jeszcze większe popadnięcie w… w zasadzie kadrę kierowniczą korporacji, która de facto kontroluje politykę zagraniczną USA”.
Luckey myśli o tym, gdy dyrektor generalny Anthropic, Dario Amodei, odmówił Pentagonowi pełnego wykorzystania systemów sztucznej inteligencji firmy do celów masowej inwigilacji lub zasilania w pełni autonomicznej broni, która działa bez nadzoru człowieka. W rezultacie Departament Obrony określił firmę zajmującą się sztuczną inteligencją jako „ryzyko łańcucha dostaw”, co jest zwykle zarezerwowane dla zagranicznych firm przeciwnika, takich jak Huawei z siedzibą w Chinach. Amodei powiedział, że etykieta nie będzie miała większego wpływu na działalność firmy i że złoży pozew o unieważnienie oznaczenia. Mimo to pozostaje w rozmowach z Pentagonem na temat wykorzystania jego modeli i narzędzi AI.
Jednak Amodei wraz z innymi współzałożycielami Anthropic, którzy razem opuścili OpenAI, aby zbudować firmę, która według nich priorytetowo traktuje bezpieczeństwo sztucznej inteligencji, utrzymują, że to, czego żąda Pentagon, przekracza granicę. „Te groźby nie zmieniają naszego stanowiska: nie możemy z czystym sumieniem przystać na waszą prośbę” – oznajmił Amodei w zeszłotygodniowym komunikacie prasowym.
Anthropic nie odpowiedziało natychmiast na prośbę Fortune o komentarz.
Dolina Krzemowa kontra Waszyngton
Departament Obrony (i osobistości takie jak Luckey) nie uważają, że dyktowanie przypadków użycia leży w rękach prywatnego wykonawcy i zamiast tego argumentują, że leży to w kompetencjach rządu. Krótko po rozpadzie umowy z Anthropic w zeszłym miesiącu OpenAI Sama Altmana zawarło umowę z Pentagonem, aby umożliwić korzystanie z modeli i narzędzi sztucznej inteligencji start-upu. xAI Elona Muska również zawarło umowę zezwalającą Pentagonowi na korzystanie ze swojej sztucznej inteligencji, zwiększając konkurencję do niegdyś ekskluzywnego partnerstwa Anthropic.
Anthropic nie jest pierwszą firmą technologiczną, która sprzeciwia się Departamentowi Obrony. Jak podkreśla Luckey w wywiadzie, Google w 2018 roku odszedł od Pentagonu i wycofał się z Projektu Maven, który polegał na analizowaniu obrazów z dronów za pomocą sztucznej inteligencji, po tym, jak tysiące pracowników zaprotestowało przeciwko jego udziałowi w programie w obawie, że może on doprowadzić do powstania autonomicznej broni.
„Mielibyśmy świat, w którym kierownictwo Doliny Krzemowej miałoby większą władzę w polityce zagranicznej niż prezydent Stanów Zjednoczonych” – powiedział Luckey. – To naprawdę, naprawdę niebezpieczne.
Dla Luckeya wszystko sprowadza się do tego, czy decyzje wysokiego szczebla dotyczące wykorzystania sztucznej inteligencji będą podejmowane w Dolinie Krzemowej, czy w Waszyngtonie. Jego zdaniem niezależnie od tego, kto zasiada w Białym Domu, firmy technologiczne i ogólnie sektor prywatny mają obowiązek przestrzegać decyzji dotyczących polityki zagranicznej tej administracji.
Ale nawet gdy konflikt Antropo-Pentagon zaostrza się, Amodei stwierdził w czwartkowym komunikacie prasowym, że obie strony mogą znaleźć wspólną płaszczyznę porozumienia. „Anthropic ma znacznie więcej wspólnego z Departamentem Wojny niż różnic” – powiedział.
