W piątek, zaledwie kilka godzin po publicznym wsparciu rywala Anthropic za niezłomność wobec żądań Pentagonu, dyrektor generalny OpenAI Sam Altman ogłosił, że jego firma osiągnęła własne porozumienie z Departamentem Obrony. Posunięcie to nastąpiło wkrótce po tym, jak rząd USA podjął niezwykle nietypowy krok i uznał firmę Anthropic za „ryzyko dla łańcucha dostaw”.
Decyzja OpenAI spotkała się z krytyką ze strony wielu badaczy sztucznej inteligencji i ekspertów ds. polityki technologicznej, mimo że OpenAI stwierdziło, że osiągnęło ograniczenia w swojej umowie dotyczącej inwigilacji obywateli USA i śmiercionośnej broni autonomicznej, której Anthropic chciała w swojej umowie, ale którą Pentagon odrzucił.
Jednym z kluczowych punktów spornych była masowa inwigilacja krajowa. Eksperci od dawna ostrzegali, że zaawansowana sztuczna inteligencja jest w stanie automatycznie i na dużą skalę zbierać rozproszone, indywidualnie nieszkodliwe dane (takie jak lokalizacja danej osoby, jej finanse, historia wyszukiwania) i łączyć je w kompleksowy obraz życia każdej osoby. Dyrektor generalny firmy Anthropic, Dario Amodei, powiedział, że tego rodzaju masowa inwigilacja oparta na sztucznej inteligencji stwarza poważne i nowe ryzyko dla „podstawowych wolności” ludzi oraz że „prawo nie nadąża jeszcze za możliwościami szybko rozwijającej się sztucznej inteligencji”.
Chociaż OpenAI poinformowało na swoim blogu, że osiągnęło porozumienie z Pentagonem, że jego technologia nie będzie wykorzystywana do masowego nadzoru krajowego ani do bezpośrednich systemów broni autonomicznej, czyli dwóch ścisłych ograniczeń, których Anthropic nie chciała porzucić, niektórzy eksperci prawni i polityczni zadali pytania dotyczące możliwej luki w prawie.
Część sporu koncentruje się wokół niejasnej legalności zakrojonej na szeroką skalę analizy danych Amerykanów, która jest legalna na mocy obowiązujących przepisów amerykańskich, nawet jeśli wydaje się nie do odróżnienia od masowej inwigilacji.
„Obecnie zgodnie z prawem Stanów Zjednoczonych legalne jest, że władze rządowe kupują komercyjnie dostępne informacje od brokerów danych i innych stron trzecich” – powiedział Samir Jain, wiceprezes ds. polityki w Centrum Demokracji i Technologii. „Jeśli kupisz ogromne ilości danych i pozwolisz sztucznej inteligencji je analizować, możesz w rezultacie zaangażować się w masową inwigilację Amerykanów w ramach tego procesu. Obecnie nie jest to ograniczone ani zabronione przez prawo”.
OpenAI twierdzi, że „czerwone linie” dotyczą systemów technicznych, które planuje zbudować, a także języka umowy z Pentagonem. Jak wynika z bloga firmy, umowa pozwala Departamentowi Obrony na wykorzystywanie sztucznej inteligencji „do wszelkich celów zgodnych z prawem, zgodnych z obowiązującym prawem, wymogami operacyjnymi oraz ugruntowanymi protokołami bezpieczeństwa i nadzoru”, jednocześnie wyraźnie zabraniając nieograniczonego monitorowania prywatnych informacji Amerykanów.
Problem w tym, że to, co jest uważane za „legalne”, może się zmienić. Umowa OpenAI dotyczy istniejących przepisów i polityk Departamentu Obrony, ale zasady te mogą ulec zmianie w przyszłości. „Żadne z tego, co opublikowali, nie przeszkodzi w zmianie tych zasad w przyszłości” – powiedział Jain.
Niektórzy krytycy twierdzą, że istniejące organy wywiadowcze już zezwalają na formy nadzoru, których OpenAI twierdzi, że zabrania. Mike Masnick, założyciel bloga Techdirt, napisał w mediach społecznościowych, że umowa „całkowicie pozwala na inwigilację krajową”, wskazując na rozporządzenie wykonawcze nr 12333, które od dawna zezwala agencjom wywiadowczym na gromadzenie korespondencji poza Stanami Zjednoczonymi, która może zawierać dane Amerykanów, jeśli zostaną przypadkowo zdobyte.
Część debaty koncentruje się na określonych częściach prawa amerykańskiego, które regulują różne działania związane z bezpieczeństwem narodowym. Działania armii amerykańskiej podlegają ogólnie przepisom tytułu 10 Kodeksu Federalnego Stanów Zjednoczonych. Obejmuje to prace wykonane przez Agencję Wywiadu Obronnego i amerykańskie Dowództwo Cybernetyczne w celu wspierania operacji wojskowych. Jednak część prac DIA podlega innej części prawa amerykańskiego, tytułowi 50 amerykańskiego kodeksu, który ogólnie reguluje gromadzenie danych wywiadowczych i tajne działania. Działalność Centralnej Agencji Wywiadowczej i Agencji Bezpieczeństwa Narodowego również ogólnie wchodzi w zakres tytułu 50. Niektóre z najbardziej wrażliwych działań objętych tytułem 50, zwłaszcza tajne działania, odbywają się w dużej mierze za kulisami i wymagają decyzji prezydenta.
W opublikowanym w weekend poście na blogu OpenAI udostępniło szczegółowy opis swojej umowy z Pentagonem, a zgodnie z postem w mediach społecznościowych autorstwa znanego badacza OpenAI Noama Browna, szefowa partnerstw na rzecz bezpieczeństwa narodowego, Katrina Mulligan, powiedziała Brownowi, że kontrakt OpenAI nie obejmuje prac objętych tytułem 50 wykonanych przez społeczność wywiadowczą, co jest głównym powodem niepokoju krytyków. Przedstawiciele OpenAI nie odpowiedzieli od razu na prośbę o komentarz ze strony Fortune.
Jednak prawnicy zauważyli, że rozróżnienie między działaniami objętymi tytułem 10 i tytułem 50 staje się coraz bardziej niewyraźne. W praktyce oba mogą wydawać się bardzo podobne i oba mogą obejmować analizę danych na temat podmiotów zagranicznych lub śledzenie wzorców. Jednak to nakładanie się tworzy szarą strefę dla firm takich jak OpenAI: umowa zabraniająca pracy w ramach tytułu 50 nie uniemożliwia automatycznie agencjom z tytułu 10, takim jak DIA, wykorzystywania sztucznej inteligencji do analizowania dostępnych na rynku lub niesklasyfikowanych zbiorów danych.
„Jeśli twierdzą, że ich systemu nie można używać do żadnych działań objętych tytułem 50, zawęża to zakres działań, do których można wykorzystać system sztucznej inteligencji” – powiedział Jain. – Ale to nie rozwiązuje problemu.
