OpenAI heeft ChatGPT Health eerder dit jaar laten vallen. Het beloofde uw verspreide medische gegevens te verzamelen. Om alles op één plek te zetten. Het klinkt handig voor mensen die al op internet leven.
De Amerikaanse last van chronische ziekten treft achtergestelde gemeenschappen het hardst. Dit zijn precies de groepen die het minst waarschijnlijk nieuwe digitale hulpmiddelen zullen gebruiken. Voor wie is deze innovatie eigenlijk bedoeld? Het is niet gebouwd met hen in gedachten. Het wordt elders op de markt gebracht.
Wanneer de assistent hallucineert
Sergei Polevikov is een technologie-expert. Oprichter van AI Health Uncut. Hij uploadde zijn gegevens om te zien hoe het platform werkte.
Het was niet soepel.
Het systeem hallucineerde delen van zijn medische geschiedenis. Hij liep tegen administratieve muren aan door alleen maar in te loggen. Polevikov vatte het botweg samen. Hij krijgt de efficiëntiewinst. Hij bespaart tijd. Maar hij heeft geen AI nodig om hem te vertellen wat zijn lichaam doet.
“De distributie van deze tools is eenzijdig en mensen zoals ik, die experts zijn, hebben ze het minst nodig.”
Als een expert het moeilijk heeft, denk dan aan de rest.
Polevikov navigeert gemakkelijk genoeg door wegversperringen. Maar wat gebeurt er met mensen met een lage digitale geletterdheid? Degenen wier stem afwezig was tijdens de ontwerpbijeenkomsten?
Tech-genegeerd, niet afkerig
Ik ging onlangs naar Mobile, Alabama. Praatte met mensen op straat.
De kloof is groot. Leevonis Fisher leidt de Bay Area Women Coalition. Toen haar werd gevraagd naar AI, was haar antwoord onmiddellijk.
“Ik denk dat het allemaal nep is.”
Ze heeft een iPhone. Ze gebruikt Siri. Alexa. Spraak-naar-tekst. Bijna elke dag. Toch heeft ze geen idee dat deze functies afhankelijk zijn van de technologie die ze wantrouwt. Voor Fisher is AI geen helper. Het is een modewoord voor misleidende computerrobots die nepvideo’s genereren.
Dit is niet zomaar een misverstand. Het is een ontwerpfout. Ingenieurs bouwen voor efficiëntie. Ze zijn gebouwd voor gebruikers die niet echt hoeven te sparen. Ondertussen worden degenen die hiervan zouden kunnen profiteren, buitengesloten. Fisher weet niet dat ze AI gebruikt, omdat de marketing haar taal niet sprak. Ze maakt geen deel uit van het ontwerpgesprek.
Ze wil de wearables niet kopen. Ze wil niet inloggen op de portalen.
We zeggen tegen onszelf dat deze mensen een tech-averse zijn. Dat zijn ze niet. Ze worden door technologie genegeerd. Niemand nodigde ze binnen. Niemand liet ze het hulpprogramma zien. Totdat we dat oplossen, wordt de kloof groter.
En laten we eerlijk zijn over de economie. Het missen van onderbediende markten is ook slecht voor het bedrijfsleven. Het volledige potentieel van gezondheidstechnologie sterft als het alleen de gezondste mensen met het hoogste geletterdheidsniveau dient.
Vinden we het eigenlijk oké om miljoenen achter te laten omdat de interface niet intuïtief genoeg is?
Wie het schip bestuurt
Het is geen verloren zaak. Geld is in beweging.
Afgelopen herfst sloot de MacArthur Foundation zich aan bij het Omidyar Network. Samen met acht andere groepen. Ze lanceerden Humanity AI.
Een vijfjarig initiatief. Vijfhonderd miljoen dollar. Het doel is duidelijk: AI moet worden gevormd door mensen, voor mensen. Michele Jawando van Omidyar Network zegt het eenvoudig.
“De toekomst zal niet door algoritmen worden geschreven. Ze zal door mensen worden geschreven.”
Dat is een sterk begin.
Maar consensus komt langzaam. We hebben meer nodig dan toezeggingen. We hebben context nodig. We moeten luisteren naar de mensen die we naar de marge van het gesprek blijven duwen. Tot die tijd werkt de tool voor de weinigen die al wisten hoe ze deze moesten gebruiken. De rest van ons wacht.
