В начале этого года OpenAI представила ChatGPT Health. Сервис обещал собрать ваши разрозненные медицинские данные и объединить их в одном месте. Для людей, которые уже живут в интернете, это звучит как удобство.
Однако бремя хронических заболеваний в США ложится тяжелее всего на малообеспеченные группы населения. И именно эти группы с наименьшей вероятностью будут использовать новые цифровые инструменты. Так для кого же на самом деле созданы эти инновации? Они не разработаны с учетом их потребностей. Они позиционируются совсем не для них.
Когда ассистент выдает галлюцинации
Сергей Полевиков — технологический эксперт и основатель AI Health Uncut. Чтобы понять, как работает платформа, он загрузил свои медицинские записи.
Процесс дался ему с трудом.
Система сгенерировала вымышленные фрагменты его медицинской истории. Он столкнулся с бюрократическими барьерами, даже просто пытаясь войти в систему. Полевиков резюмировал ситуацию предельно честно. Да, он понимает выгоду в эффективности и экономит время. Но ему не нужен искусственный интеллект, чтобы объяснять ему, что происходит с его организмом.
«Распространение этих инструментов носит однобокий характер, и такие люди, как я, эксперты, нуждаются в них меньше всего».
Если испытывают трудности эксперты, то как дела у остальных?
Полевиков легко справляется с препятствиями. Но что происходит с людьми, имеющими низкую цифровую грамотность? С теми, чьи голоса отсутствовали на встречах по проектированию интерфейсов?
Технологии не отвергаются, а игнорируются
Недавно я побывал в Мобиле, штат Алабама, и пообщался с местными жителями.
Разрыв очевиден. Ливонис Фишер руководит Коалицией женщин залива. Когда заговорили об ИИ, ее реакция была мгновенной.
«Я думаю, что это все ненастоящее».
У нее есть iPhone. Она ежедневно пользуется Siri, Alexa и функцией распознавания речи. Тем не менее, она не подозревает, что эти функции основаны на технологии, которой она не доверяет. Для Фишер ИИ — это не помощник. Это модное слово для обманчивых компьютерных роботов, создающих фейковые видео.
Это не просто недоразумение. Это провал в проектировании. Инженеры создают продукты ради эффективности. Они создают их для пользователей, которым помощь не так уж критична. Тем временем те, кто мог бы извлечь пользу, остаются за бортом. Фишер не знает, что использует ИИ, потому что маркетинг не говорит на ее языке. Она не часть дизайнерского процесса.
Она не купит носимые устройства. Она не будет заходить в медицинские порталы.
Мы говорим себе, что эти люди не любят технологии. Это не так. Их технологии игнорируют. Их никто не приглашал в эту игру. Им никто не показал практическую пользу. Пока мы это не исправим, пропасть будет расти.
И давайте будем честны насчет экономики. Игнорирование недообслуженных рынков вредит и бизнесу. Полный потенциал медицинских технологий погибает, если они обслуживают только самых здоровых людей с высочайшим уровнем грамотности.
Действительно ли нам комфортно оставлять миллионы позади только потому, что интерфейс недостаточно интуитивно понятен?
Кто управляет кораблем
Это не безысходная ситуация. Движение началось.
Прошлой осенью Фонд Мак-Артура присоединился к сети Omidyar Network. Вместе с еще восемью организациями они запустили инициативу Humanity AI.
Пятилетний проект. Пятьсот миллионов долларов. Цель ясна: ИИ должен формироваться людьми и для людей. Микеле Явандо из Omidyar Network выражает это просто.
«Будущее не будет написано алгоритмами. Оно будет написано людьми».
Это сильный старт.
Но к консенсусу мы идем медленно. Нам нужно больше, чем просто обещания. Нам нужен контекст. Нам нужно слушать тех, кого мы постоянно выталкиваем на окраины разговора. Пока этого не произойдет, инструменты будут работать для тех немногих, кто уже умел ими пользоваться. Остальные же ждут.
