Witamy w Eye on AI z reporterką AI Sharon Goldman. W tej edycji: Dzika strona OpenClaw… Nowy super PAC firmy Anthropic o wartości 20 milionów dolarów liczy OpenAI… OpenAI wprowadza na rynek swój pierwszy model zaprojektowany do superszybkiej produkcji… Anthropic pokryje wzrost cen energii elektrycznej z centrów danych AI… Isomorphic Labs twierdzi, że otworzyło nową biologiczną granicę poza AlphaFold.
Problem z nadaniem OpenClaw niezwykłej mocy do robienia ciekawych rzeczy? Nic dziwnego, że daje także wiele możliwości robienia rzeczy, których nie powinieneś, w tym eksfiltracji danych, uruchamiania niechcianych poleceń lub cichego przechwytywania przez atakujących za pośrednictwem złośliwego oprogramowania lub tak zwanych ataków „szybkiego wstrzykiwania”. (Kiedy ktoś zawiera złośliwe instrukcje dla agenta AI w danych, z których agent AI mógłby skorzystać.)
Według dwóch ekspertów ds. cyberbezpieczeństwa, z którymi rozmawiałem w tym tygodniu, ekscytującą cechą OpenClaw jest to, że nie ma żadnych ograniczeń, co zasadniczo daje użytkownikom nieograniczoną możliwość dostosowywania go do własnych potrzeb.
„Jedyna zasada jest taka, że nie ma żadnych zasad” – powiedział Ben Seri, współzałożyciel i dyrektor ds. technicznych firmy Zafran Security, która specjalizuje się w zapewnianiu przedsiębiorstwom zarządzania narażeniem na zagrożenia. „To część gry”. Jednak ta gra może przerodzić się w koszmar związany z bezpieczeństwem, ponieważ zasady i granice mają kluczowe znaczenie dla powstrzymania hakerów i wycieków.
Klasyczne obawy dotyczące bezpieczeństwa
Kwestie bezpieczeństwa są dość klasyczne, powiedział Colin Shea-Blymyer, badacz w Centrum Bezpieczeństwa i Powstających Technologii (CSET) w Georgetown, gdzie pracuje nad projektem CyberAI. Błędne konfiguracje uprawnień (kto lub co ma uprawnienia do robienia czego) oznacza, że ludzie mogą przypadkowo nadać OpenClaw większe uprawnienia, niż sądzą, a atakujący mogą to wykorzystać.
Na przykład w OpenClaw duża część ryzyka wynika z tego, co programiści nazywają „umiejętnościami”, czyli zasadniczo aplikacjami lub dodatkami, których agent AI może używać do wykonywania czynności, takich jak uzyskiwanie dostępu do plików, przeglądanie Internetu lub wykonywanie poleceń. Różnica polega na tym, że w odróżnieniu od zwykłej aplikacji, OpenClaw sam decyduje, kiedy skorzystać z tych możliwości i jak je połączyć, co oznacza, że niewielki błąd w uprawnieniach może szybko przerodzić się w coś znacznie poważniejszego.
„Wyobraźcie sobie, że korzystacie z niego, aby uzyskać dostęp do strony rezerwacji w restauracji, a także mieć dostęp do kalendarza zawierającego wszelkiego rodzaju dane osobowe” – powiedział. „A co, jeśli jest to złośliwe oprogramowanie, znajdzie niewłaściwą stronę i zainstaluje wirusa?”
Shea-Blymyer twierdzi, że OpenClaw ma w swojej dokumentacji strony poświęcone bezpieczeństwu i stara się zachować czujność i świadomość użytkowników. Jednak kwestie bezpieczeństwa pozostają złożonymi problemami technicznymi, których większość przeciętnych użytkowników prawdopodobnie nie w pełni zrozumie. I chociaż programiści OpenClaw mogą ciężko pracować, aby naprawić luki, nie mogą łatwo rozwiązać podstawowego problemu polegającego na tym, że agent może działać samodzielnie, co przede wszystkim czyni system tak atrakcyjnym.
„To jest podstawowe napięcie w tego typu systemach” – powiedział. „Im większy dostęp do nich dasz, tym będą zabawniejsze i ciekawsze, ale także bardziej niebezpieczne”.
Przedsiębiorstwa będą wprowadzać nowe rozwiązania powoli
Seri z Zafran Security przyznał, że szanse na zaspokojenie ciekawości użytkowników w przypadku systemu takiego jak OpenClaw są niewielkie, choć podkreślił, że firmom zajmie znacznie więcej czasu przyjęcie tak niekontrolowanego i niebezpiecznego systemu. Przeciętny użytkownik, powiedział, powinien doświadczyć tego tak, jakby pracował w laboratorium chemicznym z materiałem wysoce wybuchowym.
Shea-Blymyer zauważyła, że to pozytywne, że OpenClaw dzieje się najpierw na poziomie amatorskim. „Dowiemy się wiele o ekosystemie, zanim ktokolwiek wypróbuje go na poziomie przedsiębiorstwa” – powiedział. „Systemy sztucznej inteligencji mogą zawodzić w sposób, którego nawet nie jesteśmy w stanie sobie wyobrazić” – wyjaśnił. „(OpenClaw) może nam dostarczyć wielu informacji o tym, dlaczego różne LLM zachowują się w ten sposób, a także o nowych obawach związanych z bezpieczeństwem”.
Choć OpenClaw może być dziś amatorskim eksperymentem, eksperci ds. bezpieczeństwa postrzegają go jako zapowiedź typów systemów autonomicznych, których wdrożenie firmy ostatecznie będą wymagały presji.
Na razie, jeśli ktoś nie chce być przedmiotem dochodzenia w sprawie bezpieczeństwa, przeciętny użytkownik może chcieć trzymać się z daleka od OpenClaw, stwierdziła Shea-Blymyer. W przeciwnym razie nie zdziw się, jeśli Twój osobisty asystent AI zawędruje na bardzo wrogie terytorium.
FORTUNA W AI
Wirusowy blog Matta Shumera na temat bezpośredniego wpływu sztucznej inteligencji na pracowników umysłowych opiera się na błędnych założeniach – Jeremy Kahn
Dyrektor generalny Capgemini ma ostrzeżenie. Być może błędnie myślisz o sztucznej inteligencji – autor: Kamal Ahmed
Lider AI, zdobywca nagrody Nobla w Google, widzi przed sobą „renesans” po 10–15 latach wstrząsów, autor: Nick Lichtenberg
X-odus: Połowa zespołu założycieli xAI opuściła firmę Elona Muska zajmującą się sztuczną inteligencją, co może skomplikować ich plany udanego IPO SpaceX – autorka: Beatrice Nolan
OpenAI kwestionuje twierdzenie organizacji nadzorującej, że naruszyła nowe kalifornijskie prawo dotyczące bezpieczeństwa sztucznej inteligencji, wprowadzając na rynek najnowszy model – autorka: Beatrice Nolan
AI W WIADOMOŚCIACH
Nowy super PAC firmy Anthropic o wartości 20 milionów dolarów przeciwdziała OpenAI. Według „New York Times” firma Anthropic przeznaczyła 20 milionów dolarów na operację super PAC, mającą na celu wsparcie kandydatów opowiadających się za większym bezpieczeństwem i regulacją sztucznej inteligencji, co doprowadzi do bezpośredniego starcia przed wyborami śródokresowymi. Fundusze będą przepływać za pośrednictwem organizacji non-profit Public First Action i powiązanych z nią PAC, w przeciwieństwie do Leading the Future, super PAC wspieranego głównie przez prezesa i współzałożyciela OpenAI Grega Brockmana oraz firmę venture capital Andreessen Horowitz. Chociaż Anthropic unikało bezpośredniego nazywania OpenAI, ostrzegło, że „ogromne zasoby” są wykorzystywane, aby sprzeciwić się wysiłkom na rzecz bezpieczeństwa sztucznej inteligencji, podkreślając pogłębiający się podział w branży sztucznej inteligencji co do tego, jak ściśle powinny być regulowane potężne modele, i zauważając, że bitwa o zarządzanie sztuczną inteligencją toczy się obecnie nie tylko w laboratoriach i salach konferencyjnych, ale także przy urnach wyborczych.
Mustafa Suleyman planuje „samowystarczalność” sztucznej inteligencji, gdy Microsoft rozluźnia więzi z OpenAI. „Financial Times” doniósł, że Microsoft zmierza w stronę tego, co szef AI Mustafa Suleyman nazywa „prawdziwą samowystarczalnością” w zakresie sztucznej inteligencji, przyspieszając wysiłki na rzecz zbudowania własnych, pionierskich modeli i zmniejszenia długoterminowej zależności od OpenAI, mimo że pozostaje jednym z największych sponsorów startupu. W wywiadzie Suleyman powiedział, że zmiana ta jest następstwem restrukturyzacji relacji Microsoftu z OpenAI w październiku ubiegłego roku, która zapewniła dostęp do najbardziej zaawansowanych modeli OpenAI do 2032 roku, ale także dała twórcy ChatGPT większą swobodę w poszukiwaniu nowych inwestorów i partnerów, potencjalnie zmieniając go w konkurenta. Microsoft inwestuje obecnie znaczne środki w obliczenia w skali gigawatowej, potoki danych i elitarne zespoły badawcze zajmujące się sztuczną inteligencją, planując uruchomienie pod koniec tego roku własnych modeli wewnętrznych, których celem jest automatyzacja prac administracyjnych i zdobycie większego udziału w rynku dla przedsiębiorstw dzięki temu, co Suleyman nazywa „profesjonalnym AGI”.
OpenAI wprowadza na rynek swój pierwszy model zaprojektowany z myślą o superszybkich wynikach. OpenAI opublikowało wersję badawczą GPT-5.3-Codex-Spark, pierwszego namacalnego produktu będącego owocem współpracy z Cerebras, który wykorzystuje sprzęt sztucznej inteligencji producenta chipów w skali płytki do zapewniania kodowania w czasie rzeczywistym w Codex o bardzo niskim opóźnieniu. Najmniejszy model, zoptymalizowana wersja GPT-5.3-Codex, jest zoptymalizowana pod kątem szybkości, a nie maksymalnej pojemności, generując do 15 razy szybsze odpowiedzi, dzięki czemu programiści mogą wprowadzać określone zmiany, przekształcać logikę i interaktywnie iterować bez czekania na zakończenie długich serii. Wydanie, początkowo dostępne jako wersja zapoznawcza dla użytkowników ChatGPT Pro i małej grupy partnerów API, sygnalizuje coraz większy nacisk OpenAI na szybkość interakcji, w miarę jak agenci AI podejmują się bardziej autonomicznych, długotrwałych zadań, a kodowanie w czasie rzeczywistym staje się wstępnym przypadkiem testowym tego, co można odblokować dzięki szybszemu wnioskowaniu.
Isomorphic Labs twierdzi, że otworzyło nową granicę biologiczną poza AlphaFold. Isomorphic Labs, firma zajmująca się odkrywaniem leków wykorzystująca sztuczną inteligencję, stowarzyszona z Alphabet i DeepMind, twierdzi, że jej nowy silnik do projektowania leków Isomorphic Labs stanowi ogromny postęp w medycynie obliczeniowej poprzez połączenie wielu modeli sztucznej inteligencji w ujednolicony silnik, który może przewidzieć interakcję cząsteczek biologicznych z niespotykaną dotąd dokładnością. W poście na blogu stwierdzono, że produkt ten ponad dwukrotnie zwiększył poprzednie wyniki w kluczowych testach porównawczych i przewyższał tradycyjne metody oparte na fizyce w przypadku zadań takich jak przewidywanie struktury białek i ligandów oraz szacowanie powinowactwa wiązania – możliwości, które według firmy mogą radykalnie przyspieszyć projektowanie i optymalizację nowych kandydatów na leki. System opiera się na sukcesie AlphaFold 3, zaawansowanego modelu sztucznej inteligencji wprowadzonego na rynek w 2024 roku, który przewiduje struktury 3D i interakcje wszystkich cząsteczek życia, w tym białek, DNA i RNA. Firma twierdzi jednak, że idzie dalej, identyfikując nowe wiążące ogniska, uogólniając je na struktury spoza danych szkoleniowych i integrując te przewidywania w skalowalną platformę, której celem jest wypełnienie luki między biologią strukturalną a odkrywaniem leków w świecie rzeczywistym, potencjalnie zmieniając sposób, w jaki badania farmaceutyczne skupiają się na trudnych celach i rozszerzają się na złożone leki biologiczne.
UWAŻAJ NA LICZBY IA77%.
Tak wynika z nowej ankiety przeprowadzonej wśród 1200 specjalistów ds. bezpieczeństwa przeprowadzonej przez Ivanti, globalną firmę zajmującą się IT i oprogramowaniem zabezpieczającym, tak wielu specjalistów ds. bezpieczeństwa twierdzi, że czuje przynajmniej pewien komfort, pozwalając autonomicznym systemom AI działać bez nadzoru człowieka, choć nadal zachowują ostrożność. Ponadto z raportu wynika, że przyjęcie sztucznej inteligencji agentów jest priorytetem dla 87% zespołów ds. bezpieczeństwa.
Jednak dyrektor ds. bezpieczeństwa Ivanti, Daniel Spicer, twierdzi, że zespoły ds. bezpieczeństwa nie powinny zbytnio oswajać się z pomysłem wdrożenia autonomicznej sztucznej inteligencji. Chociaż zwolennicy tej technologii optymistycznie patrzą na możliwości sztucznej inteligencji w cyberbezpieczeństwie, ustalenia pokazują również, że firmy pozostają jeszcze bardziej w tyle pod względem dobrego przygotowania do obrony przed różnymi zagrożeniami.
„To właśnie nazywam «luką w gotowości w zakresie bezpieczeństwa cybernetycznego»” – napisał w poście na blogu – „utrzymującą się z roku na rok nierównowagą w zdolności organizacji do ochrony swoich danych, ludzi i sieci przed ewoluującym krajobrazem technologicznym”.
MASZ KALENDARZ
10–11 lutego: Szczyt Akcji AI, New Delhi, Indie.
24-26 lutego: Międzynarodowe Stowarzyszenie na rzecz Bezpiecznej i Etycznej Sztucznej Inteligencji (IASEAI), UNESCO, Paryż, Francja.
2-5 marca: Mobile World Congress, Barcelona, Hiszpania.
16–19 marca: Nvidia GTC, San Jose, Kalifornia.
6-9 kwietnia: HumanX, San Francisco.
