Elon Musk odniósł się do doniesień, że Amazon usuwa ostatnie awarie, w tym tę związaną z kodowaniem wspomaganym sztuczną inteligencją.
Według narzędzia do śledzenia przestojów Downdetector na początku tego miesiąca witryna internetowa i aplikacja zakupowa Amazona przestały działać dla niektórych użytkowników, a ponad 22 000 użytkowników zgłosiło problem. Klienci nie mogli płacić, przeglądać cen produktów ani uzyskać dostępu do informacji o swoim koncie. Amazon podał wówczas, że awaria była wynikiem „implementacji kodu oprogramowania”.
Sprawozdanie ze spotkania przykuło uwagę ekspertów ds. technologii, w tym Muska, który upublicznił swoje uwagi w odpowiedzi na post Łukasza Olejnika, konsultanta ds. cyberbezpieczeństwa i wizytującego seniora na Wydziale Studiów Wojennych King’s College London.
„Amazon organizuje obowiązkowe spotkanie w sprawie możliwości złamania jego systemów przez sztuczną inteligencję” – napisał Olejnik.
„Zachowuj ostrożność” – odpowiedział Musk.
Rzecznik Amazona powiedział Fortune, że spotkanie TWiST to regularne cotygodniowe spotkanie operacyjne z grupą liderów i zespołów ds. technologii sprzedaży detalicznej w celu przeglądu wyników operacyjnych.
„W ramach normalnej pracy spotkanie obejmie przegląd dostępności naszej strony internetowej i aplikacji, ponieważ skupiamy się na ciągłym doskonaleniu” – oznajmił rzecznik w oświadczeniu.
Firma potwierdziła, że w incydentach nie brał udziału Amazon Web Services (AWS). Amazon stwierdził, że tylko jeden omawiany incydent był związany ze sztuczną inteligencją, ale żaden nie dotyczył kodu napisanego przez sztuczną inteligencję. Według firmy inżynierowie młodszego i średniego szczebla również nie mają obowiązku zatwierdzania zmian wspomaganych sztuczną inteligencją przez starszych inżynierów.
Zagrożenia związane z szybkim wdrożeniem sztucznej inteligencji
Awarie i późniejsze spotkania wzbudziły obawy ekspertów ds. cyberbezpieczeństwa co do zagrożeń związanych z szybkim wdrażaniem narzędzi sztucznej inteligencji. Funkcje takie jak asystent Q AI firmy Amazon mogą przyspieszyć proces kodowania, umożliwiając szybsze tworzenie większej ilości kodu, ale mogą nieść ryzyko zakłócenia systemów w sposobie pisania, weryfikowania i wdrażania tego kodu, przez co platformy będą bardziej podatne na awarie, powiedział Olejnik Fortune.
„Nie sprzeciwiam się wdrażaniu sztucznej inteligencji” – powiedział. „Nie ma takiego. Nie da się tego zatrzymać. Wszyscy zamierzają wdrożyć sztuczną inteligencję. To argument przeciwko szybkości samej w sobie lub wykorzystywaniu sztucznej inteligencji dla tego celu”.
Pod koniec ubiegłego roku Amazon rozpoczął proces zwalniania tysięcy pracowników, powołując się na chęć zwiększenia wydajności i dostosowania kulturowego firmy. Zwolnienia były kontynuowane w tym roku, a w styczniu firma zredukowała zatrudnienie o dodatkowe 16 000 osób. W międzyczasie Amazon w dalszym ciągu przeznacza pieniądze na sztuczną inteligencję, prognozując, że wydatki kapitałowe wyniosą 200 miliardów dolarów w 2026 r., w porównaniu z 131 miliardami dolarów w 2025 r.
Ze swojej strony Musk powiedział wcześniej, że sztuczna inteligencja całkowicie uniknie kodowania do końca 2026 r.
Olejnik ostrzegł, że zbyt szybkie przejście od kodowania skoncentrowanego na człowieku do systemów zarządzanych przez sztuczną inteligencję może prowadzić do braku kontroli bezpieczeństwa, co może prowadzić do przedłużających się przestojów lub utraty danych, co może spowodować „eksplozję” firmy z powodu nieodpowiedzialnego wdrożenia sztucznej inteligencji.
Zapytany, powiedział, że zgadza się z Muskiem co do poziomu uwagi, jakiego powinno wymagać wdrażanie sztucznej inteligencji w technologii.
„Zgadzam się z nim” – powiedział Olejnik. „Sztuczna inteligencja oferuje wiele możliwości, ale istnieje złoty środek między staniem się przestarzałym w wyniku jej nieużywania a wysadzeniem przedsiębiorstw w powietrze z powodu błędnie obliczonych wdrożeń”.
