OpenAI wprowadziło ChatGPT Health na początku tego roku. Usługa obiecała zebrać Twoje rozproszone dane medyczne i połączyć je w jednym miejscu. Dla osób, które już korzystają z Internetu, wydaje się to wygodą.
Jednakże obciążenie chorobami przewlekłymi w Stanach Zjednoczonych najbardziej spada na populacje o niskich dochodach. I to właśnie te grupy najrzadziej korzystają z nowych narzędzi cyfrowych. Dla kogo więc tak naprawdę są te innowacje? Nie są projektowane z myślą o ich potrzebach. W ogóle nie są dla nich ustawione.
Gdy asystent ma halucynacje
Sergey Polevikov jest ekspertem w dziedzinie technologii i założycielem AI Health Uncut. Aby zrozumieć, jak działa platforma, przesłał swoją dokumentację medyczną.
Ten proces był dla niego trudny.
System wygenerował fikcyjne fragmenty jego historii medycznej. Już przy próbie zalogowania się do systemu natrafiał na bariery biurokratyczne. Polevikov podsumował sytuację bardzo szczerze. Tak, rozumie korzyści płynące z wydajności i oszczędności czasu. Ale nie potrzebuje sztucznej inteligencji, żeby mu wytłumaczyć, co dzieje się z jego ciałem.
„Rozpowszechnienie tych narzędzi jest nierówne, a ludzie tacy jak ja, eksperci, potrzebują ich najmniej”.
Jeśli eksperci mają trudności, jak radzi sobie reszta z nas?
Polevikov z łatwością radzi sobie z przeszkodami. Ale co dzieje się z osobami o niskim poziomie umiejętności cyfrowych? Ci, których głosów brakowało na spotkaniach poświęconych projektowaniu interfejsów?
Technologie nie są odrzucane, ale ignorowane
Niedawno odwiedziłem Mobile w Alabamie i rozmawiałem z kilkoma mieszkańcami.
Różnica jest oczywista. Livonis Fisher kieruje Koalicją Kobiet Bay Area. Kiedy zaczęli rozmawiać o sztucznej inteligencji, jej reakcja była natychmiastowa.
„Myślę, że to wszystko jest fałszywe”.
Ona ma iPhone’a. Na co dzień korzysta z Siri, Alexy i rozpoznawania mowy. Nie jest jednak świadoma, że funkcje te opierają się na technologii, której nie ufa. Dla Fishera sztuczna inteligencja nie jest asystentem. To modne hasło określające zwodnicze roboty komputerowe, które tworzą fałszywe filmy.
To nie jest tylko nieporozumienie. To porażka projektowa. Inżynierowie tworzą produkty zapewniające wydajność. Tworzą je z myślą o użytkownikach, którzy nie potrzebują aż tak bardzo pomocy. Tymczasem ci, którzy mogliby na tym skorzystać, zostają w tyle. Fisher nie wie, że korzysta ze sztucznej inteligencji, ponieważ marketing nie mówi w jej języku. Nie jest to część procesu projektowania.
Nie będzie kupować urządzeń do noszenia. Nie wejdzie na portale medyczne.
Wmawiamy sobie, że ci ludzie nie lubią technologii. To jest błędne. Ich technologia jest ignorowana. Nikt ich nie zaprosił na tę grę. Nikt nie pokazał im praktycznych korzyści. Dopóki tego nie naprawimy, różnica będzie nadal rosła.
A jeśli chodzi o gospodarkę, bądźmy szczerzy. Ignorowanie niedostatecznie obsługiwanych rynków również szkodzi biznesowi. Cały potencjał technologii medycznej zostanie utracony, jeśli będzie służyć wyłącznie najzdrowszym ludziom o najwyższym poziomie umiejętności czytania i pisania.
Czy naprawdę czujemy się komfortowo, zostawiając miliony w tyle tylko dlatego, że interfejs nie jest wystarczająco intuicyjny?
Kto kontroluje statek
To nie jest sytuacja beznadziejna. Ruch się rozpoczął.
Jesienią ubiegłego roku Fundacja MacArthur dołączyła do sieci Omidyar. Wraz z ośmioma innymi organizacjami uruchomiły inicjatywę Humanity AI.
Projekt pięcioletni. Pięćset milionów dolarów. Cel jest jasny: sztuczną inteligencję muszą kształtować ludzie i dla ludzi. Michele Yawando z Omidyar Network ujmuje to prosto.
„Przyszłości nie napiszą algorytmy. Piszą ją ludzie.”
To mocny początek.
Ale powoli zbliżamy się do konsensusu. Potrzebujemy czegoś więcej niż tylko obietnic. Potrzebujemy kontekstu. Musimy słuchać tych, których stale spychamy na margines rozmowy. Dopóki to nie nastąpi, narzędzia będą działać dla tych nielicznych, którzy już umieli z nich korzystać. Reszta czeka.
