OpenAI ha abbandonato ChatGPT Health all’inizio di quest’anno. Ha promesso di raccogliere i tuoi dati medici sparsi. Per mettere tutto in un unico posto. Sembra conveniente per le persone che già vivono su Internet.
Il peso delle malattie croniche negli Stati Uniti colpisce più duramente le comunità svantaggiate. Questi sono i gruppi esatti che hanno meno probabilità di utilizzare i nuovi strumenti digitali. Allora, a chi è realmente rivolta questa innovazione? Non è stato costruito pensando a loro. È commercializzato altrove.
Quando l’assistente ha le allucinazioni
Sergei Polevikov è un esperto di tecnologia. Fondatore di AI Health Uncut. Ha caricato i suoi record per vedere come funzionava la piattaforma.
Non è stato tutto liscio.
Il sistema allucinava parti della sua storia medica. Ha urtato i muri amministrativi solo cercando di accedere. Polevikov ha riassunto il tutto senza mezzi termini. Ottiene il guadagno di efficienza. Risparmia tempo. Ma non ha bisogno di un’intelligenza artificiale che gli dica cosa sta facendo il suo corpo.
“La distribuzione di questi strumenti è unilaterale e le persone come me, che sono esperte, ne hanno meno bisogno.”
Se un esperto ha difficoltà, pensa al resto.
Polevikov supera gli ostacoli abbastanza facilmente. Ma cosa succede a chi ha una scarsa alfabetizzazione digitale? Coloro le cui voci erano assenti agli incontri di progettazione?
Ignorato dalla tecnologia, non contrario
Di recente sono stato a Mobile, in Alabama. Ho parlato con la gente per strada.
Il divario è netto. Leevonis Fisher guida la Bay Area Women Coalition. Alla domanda sull’intelligenza artificiale, la sua risposta è stata immediata.
“Penso che sia tutto falso.”
Possiede un iPhone. Usa Siri. Alexa. Da voce a testo. Quasi ogni singolo giorno. Tuttavia, non ha idea che tali funzionalità dipendano dalla tecnologia di cui diffida. Per Fisher, l’intelligenza artificiale non è un aiuto. È una parola d’ordine per i robot informatici ingannevoli che generano video falsi.
Questo non è solo un malinteso. È un fallimento progettuale. Gli ingegneri costruiscono per l’efficienza. Costruiscono per gli utenti che non hanno realmente bisogno di essere salvati. Nel frattempo, coloro che potrebbero trarne vantaggio vengono esclusi. Fisher non sa che sta utilizzando l’intelligenza artificiale perché il marketing non parlava la sua lingua. Non fa parte della conversazione sul design.
Non comprerà i dispositivi indossabili. Non accederà ai portali.
Ci diciamo che queste persone sono avverse alla tecnologia. Non lo sono. Sono ignorati dalla tecnologia. Nessuno li ha invitati ad entrare. Nessuno ha mostrato loro l’utilità. Fino a quando non risolveremo questo problema, il divario si allargherà.
E siamo sinceri riguardo all’economia. La mancanza di mercati sottoserviti è dannosa anche per gli affari. Il pieno potenziale della tecnologia sanitaria muore se serve solo le persone più sane con i più alti livelli di alfabetizzazione.
Siamo davvero d’accordo nel lasciare indietro milioni di persone perché l’interfaccia non è abbastanza intuitiva?
Chi governa la nave
Non è una causa persa. Il denaro si sta muovendo.
Lo scorso autunno, la Fondazione MacArthur si è unita a Omidyar Network. Insieme ad altri otto gruppi. Hanno lanciato l’intelligenza artificiale dell’umanità.
Un’iniziativa quinquennale. Cinquecento milioni di dollari. L’obiettivo è chiaro: l’intelligenza artificiale deve essere modellata dalle persone, per le persone. Michele Jawando di Omidyar Network lo dice semplicemente.
“Il futuro non sarà scritto da algoritmi. Sarà scritto da persone.”
È un ottimo inizio.
Ma il consenso è lento. Abbiamo bisogno di più che semplici promesse. Abbiamo bisogno di contesto. Dobbiamo ascoltare le persone che continuiamo a relegare ai margini della conversazione. Fino ad allora, lo strumento funziona per i pochi che già sanno come usarlo. Il resto di noi aspetta.
