OpenAI abandonou o ChatGPT Health no início deste ano. Prometeu reunir seus dados médicos dispersos. Para colocar tudo em um só lugar. Parece conveniente para pessoas que já vivem na Internet.
O fardo das doenças crónicas nos EUA atinge mais duramente as comunidades carenciadas. Estes são exatamente os grupos com menor probabilidade de utilizar novas ferramentas digitais. Então, para quem é realmente essa inovação? Não foi construído pensando neles. É comercializado em outro lugar.
Quando o Assistente tem alucinações
Sergei Polevikov é um especialista em tecnologia. Fundador da AI Health Uncut. Ele carregou seus registros para ver como a plataforma funcionava.
Não foi tranquilo.
O sistema alucinou partes de seu histórico médico. Ele bateu em barreiras administrativas apenas tentando fazer login. Polevikov resumiu sem rodeios. Ele obtém o ganho de eficiência. Ele economiza tempo. Mas ele não precisa de uma IA para lhe dizer o que seu corpo está fazendo.
“A distribuição destas ferramentas é unilateral e pessoas como eu, que são especialistas, são as que menos precisam delas.”
Se um especialista tiver dificuldades, pense no resto.
Polevikov supera obstáculos com bastante facilidade. Mas o que acontece com aqueles com baixo nível de alfabetização digital? Aqueles cujas vozes estiveram ausentes nas reuniões de design?
Ignorado pela tecnologia, não avesso
Fui para Mobile, Alabama, recentemente. Conversei com pessoas na rua.
A lacuna é gritante. Leevonis Fisher lidera a Coalizão de Mulheres da Bay Area. Quando questionada sobre IA, sua resposta foi instantânea.
“Acho que é tudo falso.”
Ela possui um iPhone. Ela usa Siri. Alexa. Voz para texto. Quase todos os dias. No entanto, ela não tem ideia de que esses recursos dependem da tecnologia da qual ela desconfia. Para Fisher, a IA não é uma ajudante. É uma palavra da moda para robôs de computador enganosos que geram vídeos falsos.
Isto não é apenas um mal-entendido. É uma falha de design. Engenheiros constroem para eficiência. Eles são desenvolvidos para usuários que realmente não precisam ser salvos. Enquanto isso, aqueles que poderiam se beneficiar ficam de fora. Fisher não sabe que está usando IA porque o marketing não fala a língua dela. Ela não faz parte da conversa sobre design.
Ela não vai comprar os wearables. Ela não entrará nos portais.
Dizemos a nós mesmos que essas pessoas são avessas à tecnologia. Eles não são. Eles são ignorados pela tecnologia. Ninguém os convidou para entrar. Ninguém lhes mostrou a utilidade. Até corrigirmos isso, a lacuna aumenta.
E sejamos realistas sobre a economia. A falta de mercados mal atendidos também é ruim para os negócios. Todo o potencial da tecnologia da saúde morre se servir apenas as pessoas mais saudáveis e com os mais elevados níveis de alfabetização.
Estamos realmente de acordo em deixar milhões para trás porque a interface não é intuitiva o suficiente?
Quem dirige o navio
Não é uma causa perdida. O dinheiro está se movendo.
No outono passado, a Fundação MacArthur juntou-se à Omidyar Network. Junto com outros oito grupos. Eles lançaram a Humanidade AI.
Uma iniciativa de cinco anos. Quinhentos milhões de dólares. O objetivo é claro: a IA deve ser moldada por pessoas, para pessoas. Michele Jawando, da Omidyar Network, coloca isso de forma simples.
“O futuro não será escrito por algoritmos. Será escrito por pessoas.”
Esse é um começo forte.
Mas o consenso é lento. Precisamos de mais do que promessas. Precisamos de contexto. Precisamos ouvir as pessoas que continuamos empurrando para as margens da conversa. Até então, a ferramenta funciona para poucos que já sabiam utilizá-la. O resto de nós espera.
