Grin Lord, współzałożyciel i dyrektor generalny mmatic. (Zdjęcie empatyczne)
Ponieważ miliony użytkowników (w tym duża liczba młodych ludzi) coraz częściej zwracają się do chatbotów opartych na sztucznej inteligencji jako swoich „doradców” i powierników na pierwszej linii frontu, wkracza start-up mpathic z siedzibą w Seattle, aby mieć pewność, że ci agenci cyfrowi nie będą udzielać niebezpiecznych porad wtedy, gdy jest to najważniejsze.
Firma, założona w 2020 roku w celu wniesienia większej empatii do komunikacji korporacyjnej, ogłosiła w poniedziałek, że rozszerzy swoją działalność, aby wspierać twórców podstawowych modeli i zespoły aplikacyjne oparte na LLM.
Celem jest udostępnienie oprogramowania mpathic szerszemu gronu twórców sztucznej inteligencji i partnerów biznesowych, ponieważ sztuczna inteligencja stanie się interfejsem do wsparcia medycznego i zdrowia psychicznego.
„Zasadniczo tworzymy zestawy ewaluacyjne lub zestawy danych szkoleniowych, aby uczynić modele bezpieczniejszymi dla bezbronnych użytkowników, takich jak dzieci, osoby z problemami zdrowia psychicznego, osoby w kryzysie” – powiedział współzałożyciel i dyrektor generalny mpati Grin Lord, certyfikowany psycholog i badacz NLP.
Startup opiera się na latach pracy w badaniach klinicznych i warunkach szpitalnych, pomagając zespołom AI testować zachowanie modeli przed wdrożeniem, oceniać odpowiedzi i monitorować interakcje na żywo za pomocą zabezpieczeń, które w razie potrzeby mogą oznaczać, przekierowywać lub interweniować.
„To przypomina sytuację, w której ludzie tworzą syntetyczne dane na potrzeby wizualnej sztucznej inteligencji” – powiedział Lord. „Nie codziennie dziecko biegnie przed Waymo, ale za pomocą danych syntetycznych możemy to symulować na 10 000 sposobów. Zasadniczo właśnie to robimy, ale z psychologicznego punktu widzenia i za pomocą języka”.
Podczas jednej z wczesnych interakcji firma mmatic stwierdziła, że jej program prowadzony przez lekarzy pomógł twórcy modeli zredukować niepożądane lub niebezpieczne reakcje o ponad 70%.
Aby napędzać swój rozwój, w 2025 r. firma mmatic zebrała dodatkowe 15 milionów dolarów pod przewodnictwem Foundry VC. Firma twierdzi, że przejście w stronę podstawowych zabezpieczeń zaowocowało pod koniec ubiegłego roku pięciokrotnym wzrostem kwartał do kwartału.
Choć firma Mpathic rozpoczęła tworzenie oprogramowania do analizy rozmów toczących się w korporacyjnych wiadomościach tekstowych, e-mailach, połączeniach audio i nie tylko, od 2021 r. opracowuje modele sytuacji klinicznych wysokiego ryzyka. Obecnie skala infrastruktury „human-in-the-loop” startupu obejmuje globalną sieć tysięcy licencjonowanych ekspertów klinicznych. Co tydzień dodaje setki kolejnych, aby dotrzymać kroku popytowi.
„To zupełnie inna firma niż kilka kwartałów temu” – powiedział Lord.
Lord, finalista nagrody Startup CEO of the Year w konkursie GeekWire Awards 2023, nazywa siebie „technooptymistą” i „realistą”, jeśli chodzi o sztuczną inteligencję, dodając, że „radykalnie akceptuje” użyteczność tej technologii.
„Wcale mnie nie dziwi, że jeśli jest coś, co jest dostępne 24 godziny na dobę, 7 dni w tygodniu i działa jak terapeuta, to z nim porozmawiasz i skorzystasz z tego. A to może być lepsze niż nic” – powiedział. „Myślę, że potencjał tej technologii, który może wywrzeć naprawdę pozytywny wpływ, jest bardzo duży. Myślę, że możemy wyszkolić zarówno ludzi, jak i sztuczną inteligencję, aby dobrze i dokładnie słuchali i nie wyrządzali krzywdy”.
Nie wymieniając konkretnych firm ani modeli, Mpathic potwierdziło, że współpracuje z czołowymi twórcami podstawowych modeli sztucznej inteligencji, które służą dziesiątkom milionów użytkowników. Startup ma także partnerów klinicznych, w tym Panasonic WELL, Seattle Children’s Hospital, Transcend i innych.
Firma Mpathic, która zatrudnia około 34 osoby i według Lorda „rekrutuje błyskawicznie”, również powiększyła swój zespół kierowniczy dzięki zatrudnieniu dyrektor ds. marketingu Rebeki Bastian (Zillow, AllTrail, Glowforge); oraz dyrektor naukowa Alison Cerezo (doradca AI, Amerykańskie Towarzystwo Psychologiczne).
