Według zarzutów grupy nadzorującej sztuczną inteligencję OpenAI mogło naruszyć nowe kalifornijskie prawo dotyczące bezpieczeństwa sztucznej inteligencji, wypuszczając swój najnowszy model kodowania.
Naruszenie mogłoby narazić firmę na wielomilionowe kary, a sprawa mogłaby stać się precedensowym sprawdzianem dla zapisów nowego prawa.
Kontrowersje skupiają się wokół GPT-5.3-Codex, najnowszego modelu kodowania OpenAI, który został wydany w zeszłym tygodniu. Model jest częścią wysiłków OpenAI mających na celu odzyskanie pozycji lidera w kodowaniu opartym na sztucznej inteligencji i według danych porównawczych opublikowanych przez OpenAI wykazuje zauważalnie wyższą wydajność w zadaniach związanych z kodowaniem w porównaniu z poprzednimi wersjami modeli zarówno OpenAI, jak i konkurentów, takich jak Anthropic. Model ten wzbudził jednak również bezprecedensowe obawy dotyczące cyberbezpieczeństwa.
Dyrektor generalny Sam Altman powiedział, że model ten jako pierwszy osiągnął kategorię „wysokiego” ryzyka cyberbezpieczeństwa w firmowym Readiness Framework – wewnętrznym systemie oceny ryzyka, którego OpenAI używa do publikacji modeli. Oznacza to, że OpenAI zasadniczo klasyfikuje model jako posiadający wystarczającą zdolność do kodowania, aby potencjalnie ułatwić znaczne szkody cybernetyczne, zwłaszcza jeśli jest zautomatyzowany lub używany na dużą skalę.
Grupa nadzorująca sztuczną inteligencję Project Midas twierdzi, że OpenAI nie spełniło swoich własnych zobowiązań w zakresie bezpieczeństwa, które są obecnie prawnie wiążące na mocy prawa Kalifornii, wprowadzając nowy model wysokiego ryzyka.
Kalifornijska ustawa SB 53, która weszła w życie w styczniu, wymaga od głównych firm zajmujących się sztuczną inteligencją publikowania i egzekwowania własnych ram bezpieczeństwa, szczegółowo opisujących, w jaki sposób będą zapobiegać katastrofalnym zagrożeniom (definiowanym jako incydenty, które powodują ponad 50 zgonów lub szkody majątkowe o wartości 1 miliarda dolarów) w swoich modelach. Zabrania tym firmom również składania wprowadzających w błąd oświadczeń na temat zgodności.
Ramy bezpieczeństwa OpenAI wymagają specjalnych zabezpieczeń dla modeli cyberbezpieczeństwa wysokiego ryzyka, które mają na celu zapobieganie nieuczciwym działaniom sztucznej inteligencji i robieniu takich rzeczy, jak oszukańcze działanie, sabotowanie badań nad bezpieczeństwem lub ukrywanie jej prawdziwych możliwości. Jednakże firma nie wdrożyła tych zabezpieczeń przed wydaniem GPT-5.3-Codex.
OpenAI twierdzi, że dzieje się tak dlatego, że sformułowanie frameworka jest „niejednoznaczne”. W raporcie bezpieczeństwa dołączonym do modelu OpenAI stwierdziło, że zabezpieczenia są konieczne tylko wtedy, gdy występuje wysokie ryzyko cybernetyczne „w połączeniu z” autonomią dalekiego zasięgu – możliwością niezależnego działania przez dłuższy czas. Ponieważ firma uważa, że GPT-5.3-Codex nie ma takiej autonomii, twierdzi, że zabezpieczenia nie były konieczne.
Rzecznik OpenAI powiedział Fortune, że firma „jest pewna, że przestrzegamy przepisów dotyczących bezpieczeństwa granic, w tym SB 53”.
„GPT-5.3-Codex zakończył nasz pełny proces testowania i zarządzania, jak szczegółowo opisano w publicznie udostępnionej karcie systemowej, i nie wykazał możliwości autonomii dalekiego zasięgu w oparciu o oceny zastępcze i potwierdzone osądami wewnętrznych ekspertów, w tym naszej Grupy Doradczej ds. Bezpieczeństwa” – powiedział rzecznik. Stwierdzili, że firma zamierza doprecyzować język w obecnych ramach gotowości, aby lepiej przekazać to, co według firmy było jej pierwotnym zamiarem, zamiast zmieniać jakiekolwiek wewnętrzne praktyki.
Jednak niektórzy badacze bezpieczeństwa kwestionują tę interpretację. Nathan Calvin, wiceprezes do spraw stanowych i główny radca prawny w Encode, powiedział w poście na temat:
Project Midas twierdzi też, że OpenAI nie jest w stanie definitywnie udowodnić, że modelowi brakuje autonomii potrzebnej do dodatkowych pomiarów, gdyż poprzedni, mniej zaawansowany model firmy już przewyższał światowe standardy w zakresie wykonywania autonomicznych zadań. Grupa utrzymuje, że nawet jeśli zasady były niejasne, OpenAI powinno było je doprecyzować przed wypuszczeniem modelu.
Tyler Johnston, założyciel Project Midas, nazwał potencjalne naruszenie „szczególnie zawstydzającym, biorąc pod uwagę, jak niska jest podłoga zestawów SB 53: po prostu przyjmij wybrany przez siebie dobrowolny plan bezpieczeństwa i szczerze o nim komunikuj, zmieniając go w razie potrzeby, ale bez naruszania go i kłamstw”.
Jeśli wszczęte zostanie dochodzenie i zarzuty okażą się trafne, SB 53 przewiduje nałożenie znacznych kar za naruszenia, które mogą sięgać milionów dolarów w zależności od wagi i czasu trwania niezgodności. Przedstawiciel Biura Prokuratora Generalnego Kalifornii powiedział Fortune, że departament jest „zaangażowany w egzekwowanie przepisów naszego stanu, w tym tych uchwalonych w celu zwiększenia przejrzystości i bezpieczeństwa w powstającej przestrzeni sztucznej inteligencji”. Stwierdzili jednak, że departament nie może komentować potencjalnych lub trwających dochodzeń, ani nawet potwierdzać ich ani zaprzeczać.
