Błądzić jest rzeczą ludzką; wybacz, boski. Ale jeśli chodzi o autonomicznych „agentów” AI podejmujących się zadań, które wcześniej wykonywał człowiek, jaki jest margines błędu?
Podczas niedawnej burzy mózgów poświęconej sztucznej inteligencji organizowanej przez magazyn Fortune w San Francisco okrągły stół ekspertów zajął się tym pytaniem, podczas gdy eksperci dzielili się tym, jak ich firmy radzą sobie z bezpieczeństwem i zarządzaniem, czyli kwestią, która pozwala pokonać jeszcze bardziej praktyczne wyzwania, takie jak dane i moc obliczeniowa. Przedsiębiorstwa biorą udział w wyścigu zbrojeń, aby wrzucić agentów AI do swoich przepływów pracy, które mogą wykonywać zadania samodzielnie i przy niewielkim nadzorze człowieka. Jednak wiele osób boryka się z fundamentalnym paradoksem spowalniającym adopcję: szybkie działanie wymaga zaufania, a jednak budowanie zaufania zajmuje dużo czasu.
Dev Rishi, dyrektor generalny Rubrik zajmujący się sztuczną inteligencją, dołączył do firmy zajmującej się bezpieczeństwem zeszłego lata po przejęciu jej start-upu zajmującego się sztuczną inteligencją do głębokiego uczenia się, Predibase. Następnie spędził następne cztery miesiące na spotkaniach z kadrą kierowniczą ze 180 firm. Wykorzystał te spostrzeżenia, aby podzielić wdrażanie sztucznej inteligencji agentów na cztery etapy, powiedział słuchaczom Brainstorm AI. (Na ustalonym poziomie przyjęcie agenta odnosi się do firm wdrażających systemy sztucznej inteligencji, które działają autonomicznie, a nie reagują na podpowiedzi).
Jak dowiedział się Rishi, cztery fazy, które odkrył, obejmują wczesną fazę eksperymentów, podczas której firmy ciężko pracują nad stworzeniem prototypów swoich agentów i określeniem celów, które ich zdaniem można zintegrować z ich przepływami pracy. Druga faza, powiedział Rishi, jest najbardziej skomplikowana. To wtedy firmy przenoszą swoich agentów z prototypów do formalnej produkcji. Trzecia faza polega na skalowaniu tych autonomicznych agentów w całym przedsiębiorstwie. Czwartym i ostatnim etapem, o którym nikt nie rozmawiał z Rishi, jest autonomiczna sztuczna inteligencja.
Rishi odkrył, że około połowa ze 180 firm znajdowała się w fazie eksperymentów i prototypowania, a 25% ciężko pracowało, aby sformalizować swoje prototypy. Kolejne 13% zajmowało się skalowaniem, a pozostałe 12% nie rozpoczęło żadnych projektów AI. Rishi przewiduje jednak radykalną zmianę w przyszłości: zgodnie ze swoimi planami działania osoby z grupy 50% przewidują, że w ciągu najbliższych dwóch lat przejdą do fazy drugiej.
„Myślę, że bardzo szybko będziemy świadkami wielu adopcji” – powiedziała Rishi publiczności.
Zauważył jednak, że istnieje znaczne ryzyko, które uniemożliwia firmom podjęcie „szybkiego i zdecydowanego” działania na rzecz przyspieszenia wdrażania agentów AI wśród siły roboczej. Powiedział, że tym ryzykiem i główną przeszkodą w szerszym rozmieszczeniu agentów jest bezpieczeństwo i zarządzanie. Z tego powodu firmy mają trudności z przejściem od wykorzystywania agentów do wyszukiwania wiedzy do skupiania się na działaniu.
„Właściwie naszym celem jest przyspieszenie transformacji sztucznej inteligencji” – powiedział Rishi. „Myślę, że najważniejszym czynnikiem ryzyka i przeszkodą numer jeden jest ryzyko (samo w sobie)”.
Integracja agentów z personelem
Kathleen Peters, dyrektor ds. innowacji w Experian, która kieruje strategią produktu, stwierdziła, że spowolnienie wynika z niepełnego zrozumienia zagrożeń, jakie stwarza agenci sztucznej inteligencji naruszający bariery ustanowione przez firmy oraz zabezpieczenia potrzebne w takiej sytuacji.
„Jeśli coś pójdzie nie tak, jeśli wystąpią halucynacje, jeśli nastąpi przerwa w dostawie prądu, do czego możemy się zwrócić?” – zapytał. „To jedna z tych rzeczy, w przypadku których niektórzy menedżerowie, w zależności od branży, chcą zrozumieć: «Jak możemy czuć się bezpiecznie?»”
Ustalenie, że ten element będzie inny dla każdej firmy i prawdopodobnie okaże się szczególnie drażliwe dla firm z branż podlegających ścisłym regulacjom, powiedział. Chandhu Nair, starszy wiceprezes ds. danych, sztucznej inteligencji i innowacji w firmie Lowe’s, sprzedawcy artykułów wyposażenia wnętrz, powiedział, że „całkiem łatwo” jest tworzyć agentów, ale ludzie nie rozumieją, kim oni są: czy są pracownikami cyfrowymi? Czy jest to siła robocza? W jaki sposób zostanie on włączony do tkanki organizacyjnej?
„To prawie jak zatrudnienie grupy osób bez funkcji HR” – powiedział Nair. „Mamy więc wielu agentów i nie mamy żadnego sposobu, aby ich odpowiednio zmapować, i takie jest podejście”.
Firma pracuje nad niektórymi z tych pytań, w tym kto może być odpowiedzialny, jeśli coś pójdzie nie tak. „Trudno to wyśledzić” – powiedział Nair.
Peters z Experian przewidział, że w nadchodzących latach wiele z tych samych kwestii będzie przedmiotem debat publicznych, nawet jeśli rozmowy będą toczyć się jednocześnie za zamkniętymi drzwiami w salach posiedzeń oraz w gronie wyższych komisji ds. zgodności i strategii.
Duże wybuchy przyciągną wiele uwagi, kontynuował Peters, a stawką będzie ryzyko utraty reputacji. Wymusi to kwestię niewygodnych rozmów na temat obowiązków w odniesieniu do oprogramowania i agentów, a wszystko to prawdopodobnie doprowadzi do większej liczby regulacji, powiedział.
„Myślę, że będzie to część naszego ogólnego zarządzania zmianami społecznymi, gdy będziemy myśleć o nowych sposobach pracy” – powiedział Peters.
Istnieją jednak konkretne przykłady tego, jak sztuczna inteligencja może przynieść korzyści firmom, jeśli zostanie wdrożona w sposób przemawiający do pracowników i klientów.
Nair powiedział, że rozwiązanie Lowe’s zostało szybko przyjęte i zapewnia „namacalny” zwrot z inwestycji dzięki sztucznej inteligencji, którą do tej pory zintegrował z działalnością firmy. Na przykład każdy spośród 250 000 pracowników sklepów ma towarzyszącego agenta z rozległą wiedzą o produktach w sklepach o powierzchni 100 000 stóp kwadratowych, które sprzedają wszystko, od sprzętu elektrycznego po farby i materiały hydrauliczne. Nair powiedział, że wielu nowych pracowników Lowe nie jest handlarzami, a agenci eskortujący stali się jak dotąd „najczęściej przyjętą technologią”.
„Ważne było, aby trafić do przypadków użycia, które naprawdę przemawiają do klienta” – powiedział. Jeśli chodzi o zarządzanie zmianami w sklepach, „jeśli produkt jest dobry i może stanowić wartość dodaną, jego przyjęcie gwałtownie rośnie”.
Kto obserwuje agenta?
Jednak w przypadku osób pracujących w centrali techniki zarządzania zmianami muszą być inne, dodał, co jeszcze bardziej komplikuje sytuację.
Wiele firm utknęło w obliczu innego początkowego pytania: czy powinny tworzyć własnych agentów, czy też polegać na możliwościach sztucznej inteligencji opracowanych przez głównych dostawców oprogramowania.
Rakesh Jain, dyrektor wykonawczy ds. inżynierii chmur i sztucznej inteligencji w Mass General Brigham Health System, powiedział, że jego organizacja przyjmuje podejście wyczekiwania. Ponieważ główne platformy, takie jak Salesforce, Workday i ServiceNow, tworzą własnych agentów, może to spowodować zwolnienia, jeśli Twoja organizacja zbuduje w tym samym czasie własnych agentów.
„Jeśli są luki, chcemy stworzyć własnych agentów” – powiedział Jain. „W przeciwnym razie bylibyśmy zależni od kupowania agentów, których tworzą dostawcy produktów”.
W obszarze opieki zdrowotnej Jain stwierdziła, że ze względu na wysoką stawkę niezbędny jest nadzór ze strony człowieka.
„Algorytmy nie mogą określić złożoności pacjenta” – powiedział. „Musi być w to zaangażowany człowiek”. Z ich doświadczenia wynika, że agenci mogą przyspieszyć podejmowanie decyzji, ale ostateczną decyzję musi podjąć człowiek, a lekarze sprawdzają wszystko przed podjęciem jakichkolwiek działań.
Mimo to Jain widzi także ogromny potencjał wzrostu w miarę dojrzewania technologii. Na przykład w radiologii agent przeszkolony na podstawie doświadczenia kilku lekarzy może wykryć guzy w gęstej tkance, które mógłby przeoczyć pojedynczy radiolog. Jednak nawet w przypadku funkcjonariuszy przeszkolonych pod okiem wielu lekarzy „nadal konieczna jest humanitarna ocena sytuacji” – stwierdziła Jain.
A zagrożenie przekroczenia granic przez agenta, który ma być podmiotem zaufanym, jest zawsze obecne. Porównał fałszywy środek do choroby autoimmunologicznej, która jest jedną z najtrudniejszych do zdiagnozowania i leczenia przez lekarzy chorób, ponieważ zagrożenie ma charakter wewnętrzny. Jeśli agent w systemie „ulegnie korupcji”, powiedział, „spowoduje to ogromne szkody, których ludzie nie są w stanie tak naprawdę oszacować”.
Pomimo otwartych pytań i grożących wyzwań Rishi stwierdził, że istnieje dalsze rozwiązanie. Zidentyfikował dwa wymagania, aby budować zaufanie do agentów. Po pierwsze, firmy potrzebują systemów dających pewność, że agenci działają w ramach barier politycznych. Po drugie, potrzebują jasnych zasad i procedur na wypadek, gdyby coś nieuchronnie poszło nie tak – mocnej polityki. Nair dodał także trzy czynniki umożliwiające budowanie zaufania i inteligentne posuwanie się do przodu: tożsamość i odpowiedzialność oraz wiedza, kim jest agent; ocenić, jak spójna jest jakość wyników każdego agenta; i przejrzyj zapis sekcji zwłok, który może wyjaśnić, dlaczego i kiedy wystąpiły błędy.
„Systemy mogą popełniać błędy, podobnie jak ludzie” – powiedział Nair. „Ale możliwość wyjaśnienia i wyzdrowienia jest równie ważna”.
