Londyński startup założony przez dwóch neurobiologów z wykształceniem w Cambridge zebrał 10,25 miliona dolarów dla swojego startupu Callosum, który tworzy oprogramowanie koordynujące obciążenia sztucznej inteligencji na różnych typach chipów, co stanowi wyzwanie dla uzależnienia branży od uruchamiania coraz większych modeli na bankach identycznych procesorów graficznych Nvidia.
Firma ogłosiła również, że otrzyma fundusze na badania od rządu Wielkiej Brytanii, który szuka sposobów na zbudowanie tzw. infrastruktury „suwerennej chmury” dla sztucznej inteligencji, która byłaby niezależna, a przynajmniej nie zależna wyłącznie od amerykańskich dostawców technologii.
Współzałożyciele Callosum, Danyal Akarca i Jascha Achterberg, którzy poznali się podczas doktoratów w Cambridge około 2019 roku, dysponują oprogramowaniem, które może rozdzielać zadania AI na chipy różnych producentów, niezależnie od tego, czy są to procesory graficzne Nvidia, procesory AMD, krzem Trainium i niestandardowa Inferentia z Amazon Web Services, czy nowsze projekty start-upów, takich jak Cerebras i SambaNova, wydobywając przewagę wydajnościową z każdego z nich.
Rundę finansowania prowadził Plural, europejski fundusz venture capital zalążkowy, którego współzałożycielami są Taavet Hinrikus z Wise i Ian Hogarth, który był także pierwszym prezesem brytyjskiego Instytutu Bezpieczeństwa AI. Udział w nim wzięli także aniołowie biznesu, tacy jak Charlie Songhurst, Stan Boland z FiveAI i John Lazar z Królewskiej Akademii Inżynierii. Niezależnie od tego Agencja Zaawansowanych Badań i Wynalazków (ARIA) brytyjskiego rządu przyznaje firmie dotacje na przyspieszenie badań i rozwoju w zakresie integracji nowych technologii chipowych ze swoją platformą, chociaż ARIA nie jest inwestorem w samą rundę, Akarca powiedziała w wywiadzie dla Fortune.
Teza firmy opiera się na badaniach akademickich współzałożycieli na styku neuronauki i informatyki: ludzki mózg nie osiąga inteligencji poprzez kopiowanie jednego rodzaju neuronów miliardy razy, ale poprzez połączenie wielu różnych typów wyspecjalizowanych komórek i obwodów, które współpracują ze sobą. Uważają, że przetwarzanie sztucznej inteligencji powinno opierać się na tej samej zasadzie.
„Wielkie laboratoria obstawiają obecnie, że jeden model będzie rządził wszystkimi. Uważamy, że to błędne założenie i nasza praca to potwierdza” – stwierdził Akarca. „Natura pokazuje, że prawdziwa inteligencja powstaje w wyniku współpracy wielu systemów”.
Callosum wkracza na rynek, który przechodzi głębokie zmiany strukturalne. Po latach, w których wydatki na sztuczną inteligencję były zdominowane przez szkolenie ogromnych modeli podstawowych na stojakach z identycznymi procesorami graficznymi Nvidia, branża zwraca się obecnie w stronę wnioskowania: procesu uruchamiania wyszkolonych modeli w celu uzyskania wyników. Deloitte oszacował, że obciążenia związane z wnioskowaniem będą stanowić około dwóch trzecich całego przetwarzania AI w 2026 r., w porównaniu z jedną trzecią w 2023 r., a rynek chipów zoptymalizowanych pod kątem wnioskowania wzrośnie w tym roku do ponad 50 miliardów dolarów. Ta zmiana stwarza różnym producentom chipów możliwości rzucenia wyzwania dominacji Nvidii.
Callosum obstawia, że może to być warstwa oprogramowania, która jednoczy ten coraz bardziej rozdrobniony krajobraz sprzętowy. Jego platforma współpracuje z wieloma dostawcami usług w chmurze, w tym AWS, Google Cloud i Microsoft Azure, i została zaprojektowana tak, aby klienci nie musieli przeprojektowywać istniejących konfiguracji chmur, aby z niej korzystać. „To oprogramowanie, które przejmuje obciążenie sztucznej inteligencji i organizuje je w różne konfiguracje wielu chmur, z których można korzystać” – powiedział Akarca.
Współzałożyciele twierdzą, że podejście to przynosi duże korzyści w przypadku złożonych zadań w świecie rzeczywistym, które wymagają wielu różnych typów decyzji, takich jak automatyzacja korzystania z komputera lub przetwarzanie przepływów pracy w firmie. Callosum twierdzi, że w przypadku takich zadań jego system może zapewnić dwukrotnie większą dokładność, siedmiokrotnie większą wydajność i czterokrotnie niższy koszt w porównaniu do uruchamiania tych samych obciążeń na identycznym sprzęcie.
Achterberg wyjaśnił, że wzrost precyzji wynika z natury rozwiązywanych problemów. „Proste problemy, poszczególne modele są w porządku” – powiedział. Ale złożone zadania biznesowe to inna sprawa. „Na przykład automatyzacja korzystania z komputera, automatyzacja płatności to problemy, na których się koncentrujemy. Są one z natury heterogeniczne” – powiedział Achterberg. „W rzeczywistości rozwiązanie problemu składa się z wielu, wielu, wielu etapów, a pojedynczy model nie zawsze jest optymalny”.
Różne części złożonego przepływu pracy mogą wymagać różnych rzeczy: niektóre kroki wymagają bardzo szybkich i niedrogich modeli, które można szybko iterować metodą prób i błędów, podczas gdy inne wymagają szerszego i bardziej kompetentnego rozumowania. Callosum twierdzi, że dopasowując każde podzadanie do odpowiedniego modelu działającego na odpowiednim sprzęcie, może przezwyciężyć konwencjonalne podejście polegające na rzucaniu potężnego modelu na cały problem.
Callosum jest skierowany do dwóch typów klientów: firm budujących wieloagentowe systemy AI, które wymagają doskonałej wydajności w złożonych przepływach pracy, oraz wschodzących producentów chipów, którzy chcą zademonstrować możliwości swojego sprzętu na dużą skalę. „Chcemy, aby wszystkie te nowe technologie chipów, które są niesamowite, mają niesamowitą wydajność i niesamowite korzyści, znalazły sposób na wejście na rynek, na którym będziemy mogli je faktycznie wdrożyć” – powiedział Achterberg.
Firma współpracuje także z firmami pracującymi nad nowymi sposobami łączenia stojaków z chipami AI w centrach danych (tzw. „interconnection”), w tym z firmami rozwijającymi sieci oparte na fotonice, technologii przesyłającej dane za pomocą światła zamiast impulsów elektrycznych. Technologie te mają na celu eliminowanie wąskich gardeł wynikających z konieczności mieszania danych w centrum danych, co staje się coraz bardziej złożonym wyzwaniem, ponieważ różne typy chipów muszą się ze sobą komunikować.
Patrząc w przyszłość, współzałożyciele mówią, że planują wykorzystać fundusze na rozbudowę swojego londyńskiego zespołu, rozpoczęcie ekspansji na rynek USA i rozpoczęcie budowy własnej, uzupełniającej infrastruktury sprzętowej. Jej długoterminowe ambicje wykraczają poza oprogramowanie i obejmują fundamentalne przemyślenie projektu centrum danych.
„Wszyscy zakładali, że różnorodność chipów jest wadą, którą należy opanować. Widzieliśmy coś przeciwnego, czyli zaletę, którą należy wykorzystać” – powiedział Achterberg. „Nie optymalizujemy algorytmu na podstawie istniejącego zestawu. Używamy oprogramowania do kontrolowania wszystkich dźwigni w całym systemie, czerpiąc korzyści z różnorodności, którą inni odrzucają”.
Ian Hogarth, partner w firmie Plural, powiedział w oświadczeniu: „Wizja (Callosum) dotycząca przyszłości obejmującej wiele modeli i chipów może mieć charakter transformacyjny i umożliwić firmie konkurowanie z największymi na świecie producentami chipów i modeli. Są to poważni założyciele podejmujący poważną misję”.
