Kiedy Salesforce niedawno uruchomił agenta AI na swojej stronie internetowej, agent zaczął halucynować i nie dał spójnych rezultatów.
Salesforce skończył tymczasowo, powiedział Shibani Ahuja, starszy wiceprezes ds. Strategii IT biznesu, podczas okrągłego stołu na konferencji technologii Fortune Blastorm w Park City w stanie Utah.
Ale okazało się, że agent nie był problemem. „Zauważyliśmy, że z naszymi danymi pojawił się problem z naszymi danymi” – powiedział Ahuja. Kiedy jego zespół zbadał, co się stało, odkryli, że Salesforce opublikował „artykuły wiedzy” sprzeczne na swojej stronie internetowej.
„To nie był agent. To agent pomógł nam zidentyfikować problem, który zawsze istniał” – powiedział Ahuja. „Uczyniliśmy go agentem audytora, który naprawdę zweryfikował naszą treść na naszej witrynie publicznej dla anomalii. Po wyczyszczeniu naszych podstawowych danych wskazujemy, i było to funkcjonalne”.
Według Ahuja i innych mówców, którzy uczestniczyli w dyskusji, nowe produkty AI będą tak dobre jak dane bazowe. Ashok Srivastava, starszy wiceprezes i dyrektor AI w Intuit, powiedział, że nie było zaskoczone wyników niedawnego badania MIT, które wykazało, że 95% pilotów AI w dużych korporacjach zawiodło z powodu archaicznych systemów w dużych firmach.
„Faktem jest, że podstawa sztucznej inteligencji, czyli danych, ludzie nie inwestują w nie” – powiedział Srivastava. „Więc masz dane z lat 90. w bardzo drogiej i bezimiennej bazie danych tutaj, masz tutaj, masz, że CEO każe ci coś zrobić, a po prostu nie zadziała”.
Sean Bruich, starszy wiceprezes ds. Sztucznej inteligencji i danych w Amgen, dodał, że największym korporacjom trudno jest przejść z pilota do przyjęcia całej firmy.
„Piloci w dużych firmach nigdy nie dostarczają ROI” – powiedział. „Mogą dostarczyć naukę, mogą dostarczyć punkty testowe, mogą zapewnić inspirację. Ale droga do skali polegają na tym, że uzyskasz zwrot inwestycji w każdy duży program technologiczny”.
Aby firmy mogły zobaczyć zwrot z inwestycji nowych narzędzi AI, będą musiały sklasyfikować zarówno dane, jak i problem z skalą.
Globalna forma Fortune powraca od 26 do 27 października 2025 r. W Riad. Dyrektor generalny i światowej liderzy spotkają się na dynamicznym wydarzeniu i tylko na zaproszeniu, które kształtuje przyszłość biznesu. Poproś o zaproszenie.
