OpenAI a abandonné ChatGPT Health plus tôt cette année. Il a promis de rassembler vos données médicales dispersées. Pour tout mettre au même endroit. Cela semble pratique pour les personnes qui vivent déjà sur Internet.
Aux États-Unis, le fardeau des maladies chroniques frappe le plus durement les communautés mal desservies. Ce sont précisément les groupes les moins susceptibles d’utiliser les nouveaux outils numériques. Alors, à qui s’adresse réellement cette innovation ? Il n’est pas construit en pensant à eux. Il est commercialisé ailleurs.
Quand l’assistant hallucine
Sergei Polevikov est un expert en technologie. Fondateur d’AI Health Uncut. Il a téléchargé ses enregistrements pour voir comment fonctionnait la plateforme.
Ce n’était pas fluide.
Le système a halluciné des parties de ses antécédents médicaux. Il s’est heurté aux murs administratifs rien qu’en essayant de se connecter. Polevikov a résumé la situation sans ambages. Il obtient le gain d’efficacité. Il gagne du temps. Mais il n’a pas besoin d’une IA pour lui dire ce que fait son corps.
« La répartition de ces outils est unilatérale et ce sont les gens comme moi, qui sont des experts, qui en ont le moins besoin. »
Si un expert a du mal, pensez au reste.
Polevikov franchit assez facilement les barrages routiers. Mais qu’arrive-t-il à ceux qui ont un faible niveau de culture numérique ? Ceux dont les voix étaient absentes des réunions de design ?
Ignoré par la technologie, pas opposé
Je suis allé récemment à Mobile, en Alabama. J’ai parlé aux gens dans la rue.
L’écart est flagrant. Leevonis Fisher dirige la Bay Area Women Coalition. Lorsqu’on lui a posé des questions sur l’IA, sa réponse a été instantanée.
“Je pense que tout est faux.”
Elle possède un iPhone. Elle utilise Siri. Alexa. Voix-texte. Presque tous les jours. Pourtant, elle n’a aucune idée que ces fonctionnalités reposent sur une technologie dont elle se méfie. Pour Fisher, l’IA n’est pas une aide. C’est un mot à la mode pour désigner les robots informatiques trompeurs générant de fausses vidéos.
Ce n’est pas seulement un malentendu. C’est un échec de conception. Les ingénieurs construisent pour l’efficacité. Ils sont conçus pour les utilisateurs qui n’ont pas vraiment besoin d’être sauvegardés. Pendant ce temps, ceux qui pourraient en bénéficier sont laissés pour compte. Fisher ne sait pas qu’elle utilise l’IA parce que le marketing ne parlait pas sa langue. Elle ne fait pas partie de la conversation sur le design.
Elle n’achètera pas les appareils portables. Elle ne se connectera pas aux portails.
On se dit que ces gens-là sont réfractaires à la technologie. Ce n’est pas le cas. Ils sont ignorés par la technologie. Personne ne les a invités. Personne ne leur a montré l’utilité. Tant que nous n’aurons pas résolu ce problème, l’écart se creusera.
Et soyons réalistes sur le plan économique. L’absence de marchés mal desservis est également néfaste pour les affaires. Le plein potentiel des technologies de la santé disparaît si elles servent uniquement les personnes les plus en bonne santé et les plus alphabétisées.
Sommes-nous réellement d’accord avec le fait de laisser des millions de personnes derrière nous parce que l’interface n’est pas assez intuitive ?
Qui dirige le navire
Ce n’est pas une cause perdue. L’argent bouge.
L’automne dernier, la Fondation MacArthur a rejoint le réseau Omidyar. Avec huit autres groupes. Ils ont lancé Humanity AI.
Une initiative quinquennale. Cinq cents millions de dollars. L’objectif est clair : l’IA doit être façonnée par les personnes, pour les personnes. Michele Jawando du réseau Omidyar le dit simplement.
“L’avenir ne sera pas écrit par des algorithmes. Il sera écrit par des personnes.”
C’est un bon début.
Mais le consensus tarde. Nous avons besoin de plus que des promesses. Nous avons besoin de contexte. Nous devons écouter les personnes que nous continuons de repousser en marge de la conversation. En attendant, l’outil fonctionne pour quelques-uns qui savaient déjà comment l’utiliser. Le reste d’entre nous attend.
