OpenAI představil ChatGPT Health na začátku tohoto roku. Služba slíbila, že shromáždí vaše rozptýlená lékařská data a spojí je na jednom místě. Pro lidi, kteří již žijí online, to zní jako pohodlí.
Břemeno chronických onemocnění ve Spojených státech však nejvíce dopadá na populaci s nízkými příjmy. A to jsou skupiny, u kterých je nejméně pravděpodobné, že budou používat nové digitální nástroje. Pro koho jsou tedy tyto inovace skutečně určeny? Nejsou navrženy s ohledem na jejich potřeby. Nejsou pro ně vůbec polohovány.
Když má asistent halucinace
Sergey Polevikov je technologický expert a zakladatel AI Health Uncut. Aby pochopil, jak platforma funguje, nahrál své lékařské záznamy.
Proces byl pro něj náročný.
Systém vygeneroval fiktivní části jeho lékařské historie. I při pouhém pokusu o přihlášení do systému narazil na byrokratické překážky. Polevikov shrnul situaci velmi upřímně. Ano, chápe výhody efektivity a úspory času. Nepotřebuje ale umělou inteligenci, aby mu vysvětlila, co se děje s jeho tělem.
“Distribuce těchto nástrojů je nevyvážená a lidé jako já, odborníci, je potřebují nejméně.”
Pokud se odborníci trápí, jak jsme na tom my ostatní?
Polevikov se snadno vyrovná s překážkami. Co se ale stane s lidmi s nízkou digitální gramotností? Ti, jejichž hlasy chyběly na setkáních týkajících se designu rozhraní?
Technologie se neodmítají, ale ignorují
Nedávno jsem navštívil Mobile v Alabamě a mluvil s některými místními obyvateli.
Mezera je zřejmá. Livonis Fisher řídí ženskou koalici Bay Area. Když začali mluvit o AI, její reakce byla okamžitá.
“Myslím, že je to všechno falešné.”
Má iPhone. Každý den používá Siri, Alexu a rozpoznávání řeči. Netuší však, že tyto funkce jsou založeny na technologii, které nedůvěřuje. Pro Fishera není AI asistent. Toto je módní slovo pro podvodné počítačové roboty, kteří vytvářejí falešná videa.
Nejde jen o nedorozumění. Toto je konstrukční selhání. Inženýři vytvářejí produkty pro efektivitu. Vytvářejí je pro uživatele, kteří pomoc tolik nepotřebují. Mezitím ti, kteří by mohli mít prospěch, zůstávají pozadu. Fisher neví, že používá AI, protože marketing nemluví jejím jazykem. Není součástí procesu návrhu.
Nebude kupovat oblečení. Na lékařské portály nevstoupí.
Říkáme si, že tito lidé nemají rádi technologie. To je špatně. Jejich technologie je ignorována. Nikdo je do této hry nepozval. Nikdo jim neukázal praktické výhody. Dokud to nenapravíme, propast se bude dále zvětšovat.
A buďme upřímní ohledně ekonomiky. Ignorování nedostatečně obsluhovaných trhů také poškozuje podnikání. Plný potenciál lékařské technologie je ztracen, pokud slouží pouze nejzdravějším lidem s nejvyšší úrovní gramotnosti.
Jsme opravdu ochotni nechat za sebou miliony jen proto, že rozhraní není dostatečně intuitivní?
Kdo řídí loď
To není beznadějná situace. Hnutí začalo.
Loni na podzim se MacArthur Foundation připojila k síti Omidyar. Společně s osmi dalšími organizacemi zahájili iniciativu Humanity AI.
Pětiletý projekt. Pět set milionů dolarů. Cíl je jasný: AI musí být formována lidmi, pro lidi. Michele Yawando z Omidyar Network to říká jednoduše.
“Budoucnost nebude psána algoritmy. Budou ji psát lidé.”
To je silný začátek.
Ale ke konsensu směřujeme pomalu. Potřebujeme víc než jen sliby. Potřebujeme kontext. Musíme naslouchat těm, které neustále odsouváme na okraj konverzace. Dokud se tak nestane, budou nástroje fungovat pro těch pár, kteří již věděli, jak je používat. Zbytek čeká.
