Witamy w Eye on AI. W tym wydaniu… dlaczego naprawdę warto zainteresować się Moltbookiem… OpenAI przygląda się IPO… Elon Musk łączy SpaceX i xAI… Nowicjusze nie czerpią tak dużych korzyści ze sztucznej inteligencji, jak się ludziom wydaje… i dlaczego potrzebujemy teraz regulacji dotyczących sztucznej inteligencji.
W tym tygodniu wszyscy w AI (i wiele osób poza nią) mówili o Moltbooku. Platforma społecznościowa stworzona dla agentów AI stała się wirusową sensacją. Zjawisko to sprawiło, że wiele osób, w tym spora liczba zwykle trzeźwych i praktycznych badaczy sztucznej inteligencji, zastanawiało się głośno, jak daleko jesteśmy od scenariuszy „startu” science fiction, w których roboty AI samoorganizują się, ulepszają i wymykają się ludzkiej kontroli.
Obecnie wydaje się, że większość paniki na temat Moltbooka była niesłuszna. Po pierwsze, nie jest jasne, ile postów w stylu science fiction na Moltbook zostało wygenerowanych spontanicznie przez boty, a ile powstało tylko dlatego, że użytkownicy poprosili o ich opublikowanie swoich agentów OpenClaw. (Wszystkie boty w Moltbook zostały stworzone przy użyciu bardzo udanego OpenClaw, który jest w zasadzie „uprzężą” agenta open source (oprogramowaniem umożliwiającym agentom AI korzystanie z wielu innych narzędzi programowych), który można podłączyć do dowolnego podstawowego modelu sztucznej inteligencji). Możliwe jest nawet, że niektóre posty w rzeczywistości pochodziły od ludzi udających boty.
Po drugie, nie ma dowodów na to, że roboty w rzeczywistości spiskowały razem, aby zrobić coś niegodziwego, zamiast po prostu naśladować język dotyczący spisku, którego mogły się nauczyć podczas szkolenia, który obejmuje dużą ilość literatury science fiction, a także historyczne zapisy wielu pobieżnych zapisów ludzkiej aktywności w mediach społecznościowych.
Jak zauważyłem dzisiaj w artykule dla „Fortune”, wiele siejących strach nagłówków w Moltbook zostało powtórzonych przez osoby, które wzięły udział w eksperymencie na Facebooku w 2017 r., w którym dwa chatboty opracowały „tajny język” do komunikowania się ze sobą. Wtedy, podobnie jak teraz, wielu moich kolegów dziennikarzy nie pozwoliło, aby fakty stanęły na drodze do napisania dobrej historii. Ani to, że wcześniejsze badania Facebooka, ani Moltbook nie przedstawiają zagrożeń podobnych do Skynetu, jak sugerują niektóre relacje.
A teraz zła wiadomość: dlaczego Yann LeCun się mylił… co do ludzi, a nie sztucznej inteligencji
Kilka lat temu uczestniczyłem w wydarzeniu w laboratorium badawczym AI Facebooka w Paryżu, gdzie przemawiał Yann LeCun, ówczesny główny naukowiec zajmujący się sztuczną inteligencją w firmie Meta. LeCun, który niedawno opuścił Meta, aby założyć własny startup zajmujący się sztuczną inteligencją, zawsze był sceptyczny wobec scenariuszy „startu”, w których sztuczna inteligencja wymyka się ludzkiej kontroli. Podczas wydarzenia kpił z pomysłu, że sztuczna inteligencja kiedykolwiek będzie stwarzać egzystencjalne ryzyko.
Z jednej strony LeCun uważa, że obecna sztuczna inteligencja jest zbyt głupia i zawodna, aby zrobić cokolwiek, co zagroziłoby światu. Po drugie, LeCun uznał te scenariusze „startu” AI za obraźliwe dla badaczy i inżynierów AI jako klasy zawodowej. Nie jesteśmy głupi – argumentował LeCun. Gdybyśmy kiedykolwiek zbudowali coś, co stwarzałoby choćby najmniejszą możliwość, że sztuczna inteligencja wymknie się spod kontroli człowieka, zawsze budowalibyśmy to w „zamkniętej powietrznie” piaskownicy, bez dostępu do Internetu i z wyłącznikiem awaryjnym, którego sztuczna inteligencja nie mogłaby wyłączyć. Zdaniem LeCuna inżynierowie zawsze mogliby zhakować siekierą kabel zasilający komputera, zanim sztuczna inteligencja wymyśli, jak wydostać się z cyfrowej klatki.
Cóż, może to dotyczyć badaczy i inżynierów AI pracujących dla dużych firm, takich jak Meta czy Google DeepMind, OpenAI czy Anthropic. Ale teraz sztuczna inteligencja, dzięki wzrostowi liczby agentów i asystentów kodujących, zdemokratyzowała tworzenie samej sztucznej inteligencji. Teraz świat pełen niezależnych programistów może tworzyć agentów AI. Peter Steinberger, twórca OpenClaw, jest niezależnym programistą. Matt Schlicht, twórca Moltbooka, jest niezależnym przedsiębiorcą, który kodował platformę społecznościową. I w przeciwieństwie do LeCuna, niezależni programiści konsekwentnie wykazują chęć wyciągnięcia systemów sztucznej inteligencji z piaskownicy na wolność, choćby po to, aby zobaczyć, co się stanie… tylko dla LOL-ów.
FORTUNA W AI
AI zmienia rolę dyrektora generalnego (i może doprowadzić do zmiany warty) przez Phila Wahbę
OpenAI uruchamia aplikację Codex, aby udostępnić swoim modelom kodowania, które posłużyły do tworzenia wirusowego OpenClaw, większej liczbie użytkowników, autor: Beatrice NolanWyjątek: Anthropic ogłasza partnerstwo z Instytutem Allen i Instytutem Medycznym Howarda Hughesa, ponieważ zakłada, że sztuczna inteligencja może uczynić naukę bardziej wydajną, autor: Sharon GoldmanWyjątek: Długoletni badacz Google DeepMind David Silver odchodzi, aby założyć własny start-up w dziedzinie sztucznej inteligencji, autor: Jeremy Kahn
AI W WIADOMOŚCIACH
OpenAI kładzie podwaliny pod pierwszą ofertę publiczną w 2026 r., rywalizując z Anthropic i SpaceX. Jak podaje „Wall Street Journal”, OpenAI kładzie podwaliny pod pierwszą ofertę publiczną (IPO) w czwartym kwartale, prowadzi nieformalne rozmowy z bankami z Wall Street i powiększa swój zespół finansowy w ramach rywalizacji o miano pierwszego dużego startupu z zakresu sztucznej inteligencji, który wejdzie na giełdę przed rywalizującą z nim firmą Anthropic. Posunięcie to następuje pomimo znaczących wyzwań, w tym dużych strat, nasilającej się konkurencji ze strony Google, zbliżającego się postępowania sądowego ze strony współzałożyciela Elona Muska i obaw inwestorów co do tego, w jaki sposób OpenAI sfinansuje setki miliardów dolarów w infrastrukturę AI i zobowiązania dotyczące chipów. Menedżerowie obawiają się, że Anthropic, którego przychody rosną i które zasygnalizowało pierwszą ofertę publiczną w tym roku, może ich przebić na rynku, podczas gdy inni giganci technologiczni, tacy jak SpaceX, również rozważają hitowe notowania, które mogłyby konkurować o uwagę inwestorów.
OpenAI prowadzi także rozmowy na temat pozyskania do 50 miliardów dolarów w rundzie poprzedzającej IPO. Amazon prowadzi rozmowy na temat inwestycji do 50 miliardów dolarów w OpenAI, a dyrektor generalny Andy Jassy i szef OpenAI Sam Altman prowadzą bezpośrednie rozmowy w ramach potencjalnej rundy finansowania, która może wynieść około 100 miliardów dolarów, podaje CNBC. Inwestycja byłaby godna uwagi, biorąc pod uwagę, że Amazon przekazał 8 miliardów dolarów rywalowi OpenAI, firmie Anthropic. Umowa może obejmować umowy na korzystanie przez OpenAI z chipów AI Amazon i infrastruktury chmurowej, z której obecnie korzysta również Anthropic. Rozmowy mają miejsce w momencie, gdy Amazon przyspiesza wydatki na sztuczną inteligencję i centra danych (jednocześnie redukując miejsca pracy gdzie indziej) oraz gdy OpenAI poszukuje innych inwestorów strategicznych, w tym Microsoft, Nvidia i SoftBank, przed potencjalną pierwszą ofertą publiczną (IPO).
BADANIA AI NA OKO
Kolejny dowód na to, że sztuczna inteligencja może nie być tak dobra dla początkujących. Takie znaczenie mają nowe badania przeprowadzone przez firmę Anthropic, w ramach której przeprowadzono losowe testy, aby zobaczyć, jak programiści opanowali nową bibliotekę programistyczną, porównując tych, którzy mieli asystenta AI, z tymi, którzy go nie mieli. Wbrew powszechnej opinii udostępnienie AI mniej doświadczonym programistom nie poprawiło znacząco ich produktywności, jednocześnie wpływając na możliwość poznania biblioteki kodowania. Tylko jeśli ci młodsi programiści oddelegują całe zadanie kodowania sztucznej inteligencji, będą mogli zauważyć znaczny wzrost produktywności. Ale w tych przypadkach programiści również nie dowiedzieli się prawie nic o bibliotece kodowania. Wyniki badań można znaleźć na stronie arxiv.org.
MASZ KALENDARZ
10–11 lutego: Szczyt Akcji AI, New Delhi, Indie.
24-26 lutego: Międzynarodowe Stowarzyszenie na rzecz Bezpiecznej i Etycznej Sztucznej Inteligencji (IASEAI), UNESCO, Paryż, Francja.
2-5 marca: Mobile World Congress, Barcelona, Hiszpania.
12-18 marca: South by Southwest, Austin, Teksas.
16–19 marca: Nvidia GTC, San Jose, Kalifornia.
POKARM DLA MÓZGU
Potrzebujemy kompleksowych regulacji dotyczących sztucznej inteligencji w Wielkiej Brytanii i USA. Dziś wcześniej uczestniczyłem w dyskusji panelowej w Izbie Lordów na temat ogłoszenia jednostronicowego raportu parlamentarnego sporządzonego przez lorda Chrisa Holmesa z Richmond. Holmes opowiada się za kompleksową ustawą o sztucznej inteligencji, którą wprowadził prawie trzy lata temu, ale jak dotąd nie została przyjęta. Mają nadzieję wywrzeć presję na obecny rząd Wielkiej Brytanii, który obiecał ustawę o sztucznej inteligencji, ale wielokrotnie jej nie zrealizował, aby wprowadził własne przepisy. Moltbook to kolejny powód, dla którego teraz jest czas, aby to zrobić. Dotyczy to również Stanów Zjednoczonych, gdzie administracja Trumpa aktywnie sprzeciwia się jakimkolwiek przepisom.
Istnieje już wiele dowodów na to, że sztuczna inteligencja wyrządza ludziom krzywdę. Chatboty AI są powiązane z wieloma samobójstwami, a terapeuci donoszą, że coraz więcej pacjentów cierpi na formy psychozy, które wydają się być wywołane interakcjami z chatbotami AI. Ludzie wykorzystują sztuczną inteligencję do tworzenia fałszywych fałszywych treści o charakterze seksualnym bez ich zgody i rozpowszechniania ich w Internecie. Ludziom odmawiano pożyczek z powodu algorytmów. Co gorsza, zostali z ich powodu niesłusznie aresztowani. A teraz OpenClaw i Moltbook w odpowiednim czasie przypominają, że obecnie nie ma żadnych zasad, ładu ani skutecznych zabezpieczeń cyberbezpieczeństwa wokół agentów AI.
Nie czekajmy, aż zacznie działać prawdziwa katastrofa AI.
