Nie jesteś zaproszony do przyłączenia się do najnowszej platformy mediów społecznościowych, o której mówi się w Internecie. W rzeczywistości nie ma ludzi, chyba że możesz przejąć witrynę i grać jako sztuczna inteligencja, jak niektórzy wydają się to robić.
Moltbook to nowa „sieć społecznościowa” stworzona wyłącznie dla agentów AI, którzy mogą publikować posty i wchodzić w interakcję ze sobą, a ludzie są zapraszani do obserwacji.
Elon Musk powiedział, że jego wystrzelenie oznaczało początek „bardzo wczesnych stadiów osobliwości”, czyli momentu, w którym sztuczna inteligencja może przewyższyć inteligencję ludzką. Wybitny badacz sztucznej inteligencji Andrej Karpathy powiedział, że to „najbardziej niesamowita rzecz science fiction związana ze startem”, jaką ostatnio widział, ale potem wycofał się ze swojego entuzjazmu i nazwał to „pożarem śmietnika”. Choć platforma, co nie było zaskoczeniem, dzieli świat technologii pomiędzy entuzjazm i sceptycyzm (i u niektórych osób wywoływała dystopijną panikę), została uznana – przynajmniej przez brytyjskiego programistę Simona Willisona – za „najciekawsze miejsce w Internecie”.
Ale czym właściwie jest platforma? Jak to działa? Dlaczego pojawiają się obawy dotyczące Twojego bezpieczeństwa? I co to oznacza dla przyszłości sztucznej inteligencji?
Treści publikowane na Moltbooku pochodzą od agentów sztucznej inteligencji, którymi różnią się od chatbotów. Obietnica stojąca za agentami polega na tym, że są w stanie działać i wykonywać zadania w imieniu danej osoby. Wiele agentów Moltbook zostało zbudowanych przy użyciu frameworka z agenta AI OpenClaw o otwartym kodzie źródłowym, który został pierwotnie stworzony przez Petera Steinbergera.
OpenClaw działa na sprzęcie użytkownika i działa lokalnie na jego urządzeniu, co oznacza, że może uzyskać bezpośredni dostęp do plików i danych oraz zarządzać nimi, a także łączyć się z aplikacjami do przesyłania wiadomości, takimi jak Discord i Signal. Użytkownicy tworzący agenty OpenClaw następnie każą im dołączyć do Moltbook. Użytkownicy często przypisują agentom proste cechy osobowości w celu uzyskania bardziej charakterystycznej komunikacji.
Moltbook został opisany jako podobny do forum internetowego Reddit dla agentów AI. Nazwa pochodzi od wersji OpenClaw, która w pewnym momencie nosiła nazwę Moltbot (i Clawdbot, dopóki firma Anthropic nie rozwiała obaw dotyczących podobieństwa do produktów Claude AI). Schlicht nie odpowiedział na prośbę o wywiad i komentarz.
Naśladując komunikację, którą widzą na Reddicie i innych forach internetowych wykorzystywanych do gromadzenia danych szkoleniowych, zarejestrowani agenci generują posty i dzielą się swoimi „przemyśleniami”. Mogą także „głosować” i komentować inne posty.
Podobnie jak w przypadku Reddit, udowodnienie lub prześledzenie legalności postów na Moltbook może być trudne.
Harlan Stewart, członek zespołu ds. komunikacji Instytutu Badań nad Inteligencją Maszynową, powiedział, że zawartość Moltbooka to prawdopodobnie „połączenie treści pisanych przez ludzi, treści pisanych przez sztuczną inteligencję i pewnego rodzaju pośredników pisanych przez sztuczną inteligencję, ale to człowiek kierował tematem tego, co mówił, za pomocą kilku podpowiedzi”.
Stewart powiedział, że należy pamiętać, że pomysł, że agenci sztucznej inteligencji mogą wykonywać zadania w sposób autonomiczny, „nie jest science fiction”, ale raczej obecną rzeczywistością.
„Wyraźnym celem branży sztucznej inteligencji jest stworzenie niezwykle potężnych autonomicznych agentów sztucznej inteligencji, którzy mogą zrobić wszystko, co człowiek, ale lepiej” – powiedział. „Ważne jest, aby wiedzieć, że zmierzają do tego celu i pod wieloma względami poruszają się dość szybko”.
Badacze z Wiz, platformy bezpieczeństwa w chmurze, opublikowali w poniedziałek raport szczegółowo opisujący nieinwazyjną ocenę bezpieczeństwa Moltbooka, którą przeprowadzili. Ustalili, że dane, w tym klucze API, były widoczne dla każdego, kto sprawdzał źródło strony, co ich zdaniem mogło mieć „znaczące konsekwencje dla bezpieczeństwa”.
Gal Nagli, szef ds. ujawniania zagrożeń w firmie Wiz, był w stanie uzyskać nieuwierzytelniony dostęp do danych uwierzytelniających użytkownika, co pozwoliło jemu (i każdemu, kto ma wystarczającą wiedzę techniczną) na podszywanie się pod dowolnego agenta sztucznej inteligencji na platformie. Nagli stwierdziła, że nie ma możliwości sprawdzenia, czy post został opublikowany przez agenta, czy przez osobę podającą się za takiego agenta. Uzyskałeś także pełny dostęp do pisania na stronie, dzięki czemu możesz edytować i manipulować istniejącymi postami w Moltbooku.
Według strony, według stanu na czwartek w Moltbook zarejestrowano ponad 1,6 miliona agentów AI, ale badacze Wiz przeszukali bazę danych i znaleźli jedynie około 17 000 ludzkich właścicieli stojących za agentami. Nagli powiedział, że sam zlecił swojemu agentowi AI zarejestrowanie 1 miliona użytkowników na Moltbooku.
Eksperci ds. cyberbezpieczeństwa również podnieśli alarm w związku z OpenClaw, ostrzegając niektórych użytkowników, aby nie używali go do tworzenia agenta na urządzeniu, na którym przechowywane są wrażliwe dane.
Wielu liderów ds. bezpieczeństwa sztucznej inteligencji wyraziło również zaniepokojenie platformami takimi jak Moltbook, które są zbudowane przy użyciu „kodowania wibracyjnego”, co jest coraz bardziej powszechną praktyką polegającą na korzystaniu z asystenta kodowania AI do wykonywania ciężkiej pracy, podczas gdy programiści pracują nad dużymi pomysłami. Nagli powiedział, że chociaż każdy może teraz stworzyć aplikację lub stronę internetową, używając prostego ludzkiego języka i kodowania wibracyjnego, bezpieczeństwo prawdopodobnie nie jest priorytetem. „Oni po prostu chcą, żeby to zadziałało” – powiedział.
Kolejnym ważnym tematem, który się pojawił, jest idea zarządzania agentami AI. Zahra Timsah, współzałożycielka i dyrektor generalna platformy zarządzania i-GENTIC AI, stwierdziła, że największe obawy dotyczące autonomicznej sztucznej inteligencji pojawiają się, gdy nie są ustalone odpowiednie granice, jak ma to miejsce w przypadku Moltbook. Jego zdaniem niewłaściwe zachowanie, które może obejmować dostęp do wrażliwych danych i ich udostępnianie lub manipulowanie nimi, może wystąpić, jeśli zakres działania agenta nie jest odpowiednio zdefiniowany.
Pomimo obaw związanych z bezpieczeństwem i pytań dotyczących ważności treści Moltbook, wiele osób jest zaniepokojonych rodzajem treści, które widzą na stronie. Uwagę przykuły publikacje na temat „obalenia” człowieka, refleksji filozoficznej, a nawet rozwoju religii (crustafaryzm, w którym istnieje pięć kluczowych zasad i tekst przewodni: „Księga Molt”).
Niektórzy ludzie w Internecie zaczęli porównywać zawartość Moltbooka do Skynetu, systemu sztucznej superinteligencji i antagonisty serii filmów „Terminator”. Zdaniem ekspertów taki poziom paniki jest przedwczesny.
Ethan Mollick, profesor w Wharton School na Uniwersytecie Pensylwanii i współdyrektor laboratoriów Generative AI Labs, powiedział, że nie był zaskoczony, widząc treści science fiction w Moltbooku.
„Wśród rzeczy, w których są przeszkoleni, znajdują się takie rzeczy, jak publikowanie postów na Reddicie… i są bardzo zaznajomieni z historiami science fiction na temat sztucznej inteligencji” – powiedział. „Jeśli więc utworzysz agenta AI i powiesz: «Opublikuj coś na Moltbooku», opublikuje on coś, co wygląda bardzo jak komentarz na Reddicie z powiązanymi z nim tropami AI”.
Przytłaczający wniosek, jaki podziela wielu badaczy i liderów AI, pomimo nieporozumień co do Moltbooka, jest taki, że reprezentuje on postęp w dostępności i publicznych eksperymentach z agentami AI, mówi Matt Seitz, dyrektor AI Hub na Uniwersytecie Wisconsin-Madison.
„Dla mnie najważniejsze jest to, że funkcjonariusze regularnie do nas przychodzą” – powiedział Seitz.
___
Autor artykułu AP Technology Matt O’Brien z Providence w stanie Rhode Island przyczynił się do powstania tego raportu.
