OpenAI eliminó ChatGPT Health a principios de este año. Prometió recopilar sus datos médicos dispersos. Para ponerlo todo en un solo lugar. Suena conveniente para las personas que ya viven en Internet.
La carga de enfermedades crónicas en Estados Unidos afecta con mayor dureza a las comunidades desatendidas. Estos son exactamente los grupos con menos probabilidades de utilizar nuevas herramientas digitales. Entonces, ¿para quién es realmente esta innovación? No está construido pensando en ellos. Se comercializa en otros lugares.
Cuando el asistente alucina
Sergei Polevikov es un experto en tecnología. Fundador de AI Health Uncut. Subió sus registros para ver cómo funcionaba la plataforma.
No fue sencillo.
El sistema alucinó partes de su historial médico. Se topó con muros administrativos simplemente tratando de iniciar sesión. Polevikov lo resumió sin rodeos. Obtiene la ganancia de eficiencia. Él ahorra tiempo. Pero no necesita una IA que le diga qué está haciendo su cuerpo.
“La distribución de estas herramientas es unilateral y la gente como yo, que somos expertos, somos los que menos las necesitamos”.
Si un experto tiene dificultades, piense en el resto.
Polevikov sortea los obstáculos con bastante facilidad. Pero, ¿qué pasa con quienes tienen un bajo nivel de alfabetización digital? ¿Aquellos cuyas voces estuvieron ausentes en las reuniones de diseño?
Tecnología ignorada, no reacia
Fui a Mobile, Alabama, recientemente. Habló con la gente en la calle.
La brecha es marcada. Leevonis Fisher lidera la Coalición de Mujeres del Área de la Bahía. Cuando se le preguntó sobre la IA, su respuesta fue instantánea.
“Creo que todo es falso”.
Ella posee un iPhone. Ella usa Siri. Alexa. Voz a texto. Casi todos los días. Sin embargo, no tiene idea de que esas características dependen de la tecnología de la que desconfía. Para Fisher, la IA no es una ayuda. Es una palabra de moda para los robots informáticos engañosos que generan vídeos falsos.
Esto no es sólo un malentendido. Es un fracaso de diseño. Los ingenieros construyen para la eficiencia. Se crean para usuarios que realmente no necesitan guardar. Mientras tanto, quienes podrían beneficiarse quedan fuera. Fisher no sabe que está usando IA porque el marketing no hablaba su idioma. Ella no es parte de la conversación sobre diseño.
Ella no comprará los wearables. Ella no iniciará sesión en los portales.
Nos decimos a nosotros mismos que estas personas son reacias a la tecnología. No lo son. Son ignorados por la tecnología. Nadie los invitó a entrar. Nadie les mostró la utilidad. Hasta que solucionemos eso, la brecha se ampliará.
Y seamos realistas en cuanto a la economía. Perder mercados desatendidos también es malo para los negocios. Todo el potencial de la tecnología sanitaria muere si sólo sirve a las personas más sanas y con mayores niveles de alfabetización.
¿Estamos realmente de acuerdo con dejar a millones atrás porque la interfaz no es lo suficientemente intuitiva?
¿Quién gobierna el barco?
No es una causa perdida. El dinero se está moviendo.
El otoño pasado, la Fundación MacArthur se unió a Omidyar Network. Junto con otros ocho grupos. Lanzaron Humanity AI.
Una iniciativa de cinco años. Quinientos millones de dólares. El objetivo es claro: la IA debe ser moldeada por personas y para personas. Michele Jawando, de Omidyar Network, lo expresa de forma sencilla.
“El futuro no lo escribirán los algoritmos, lo escribirán las personas”.
Ese es un buen comienzo.
Pero el consenso es lento. Necesitamos más que promesas. Necesitamos contexto. Necesitamos escuchar a las personas a las que seguimos empujando a los márgenes de la conversación. Hasta entonces, la herramienta funciona para los pocos que ya sabían utilizarla. El resto esperamos.
