OpenAI hat ChatGPT Health Anfang des Jahres eingestellt. Es versprach, Ihre verstreuten medizinischen Daten zu sammeln. Um alles an einem Ort zu bündeln. Es klingt praktisch für Leute, die bereits im Internet leben.
Die Belastung durch chronische Krankheiten in den USA trifft unterversorgte Gemeinden am härtesten. Dies sind genau die Gruppen, die mit der geringsten Wahrscheinlichkeit neue digitale Tools nutzen. Für wen ist diese Innovation eigentlich gedacht? Es ist nicht für sie konzipiert. Es wird anderswo vermarktet.
Wenn der Assistent halluziniert
Sergei Polevikov ist ein Technologieexperte. Gründer von AI Health Uncut. Er hat seine Aufzeichnungen hochgeladen, um zu sehen, wie die Plattform funktioniert.
Es war nicht glatt.
Das System halluzinierte Teile seiner Krankengeschichte. Schon beim Versuch, sich einzuloggen, stößt er auf Verwaltungsbarrieren. Polevikov bringt es auf den Punkt. Er erhält den Effizienzgewinn. Er spart Zeit. Aber er braucht keine KI, die ihm sagt, was sein Körper tut.
„Die Verteilung dieser Tools ist einseitig und Leute wie ich, die Experten sind, brauchen sie am wenigsten.“
Wenn ein Experte Schwierigkeiten hat, denken Sie an den Rest.
Polevikov überwindet Hindernisse problemlos. Aber was passiert mit Menschen mit geringer digitaler Kompetenz? Diejenigen, deren Stimmen bei den Designtreffen fehlten?
Von der Technik ignoriert, nicht abgeneigt
Ich war kürzlich in Mobile, Alabama. Habe mit Leuten auf der Straße gesprochen.
Die Kluft ist groß. Leevonis Fisher leitet die Bay Area Women Coalition. Als sie nach KI gefragt wurde, antwortete sie sofort.
„Ich glaube, das ist alles Fake.“
Sie besitzt ein iPhone. Sie benutzt Siri. Alexa. Voice-to-Text. Fast jeden Tag. Sie hat jedoch keine Ahnung, dass diese Funktionen auf der Technologie beruhen, der sie misstraut. Für Fisher ist KI kein Helfer. Es ist ein Schlagwort für betrügerische Computerroboter, die gefälschte Videos erstellen.
Das ist nicht nur ein Missverständnis. Es ist ein Designfehler. Ingenieure bauen auf Effizienz. Sie werden für Benutzer erstellt, die nicht wirklich gespeichert werden müssen. Währenddessen werden diejenigen außen vor gelassen, die davon profitieren könnten. Fisher weiß nicht, dass sie KI nutzt, weil das Marketing ihre Sprache nicht sprach. Sie ist nicht Teil des Designgesprächs.
Sie wird die Wearables nicht kaufen. Sie wird sich nicht in die Portale einloggen.
Wir sagen uns, dass diese Leute technikscheu sind. Das sind sie nicht. Sie werden von der Technik ignoriert. Niemand lud sie ein. Niemand zeigte ihnen den Nutzen. Bis wir das beheben, wird die Kluft größer.
Und seien wir ehrlich, wenn es um die Wirtschaft geht. Auch das Verpassen unterversorgter Märkte schadet dem Geschäft. Das volle Potenzial der Gesundheitstechnologie geht verloren, wenn sie nur den gesündesten Menschen mit dem höchsten Alphabetisierungsgrad dient.
Sind wir eigentlich damit einverstanden, Millionen zurückzulassen, weil die Benutzeroberfläche nicht intuitiv genug ist?
Wer steuert das Schiff?
Es ist keine verlorene Sache. Geld bewegt sich.
Im vergangenen Herbst trat die MacArthur Foundation dem Omidyar Network bei. Zusammen mit acht anderen Gruppen. Sie haben Humanity AI ins Leben gerufen.
Eine fünfjährige Initiative. Fünfhundert Millionen Dollar. Das Ziel ist klar: KI muss von Menschen für Menschen gestaltet werden. Michele Jawando von Omidyar Network bringt es auf den Punkt.
„Die Zukunft wird nicht von Algorithmen geschrieben. Sie wird von Menschen geschrieben.“
Das ist ein starker Anfang.
Aber der Konsens ist langsam. Wir brauchen mehr als Zusagen. Wir brauchen Kontext. Wir müssen den Menschen zuhören, die wir immer wieder an den Rand des Gesprächs drängen. Bis dahin funktioniert das Tool für die wenigen, die bereits wussten, wie man es benutzt. Der Rest von uns wartet.
