На початку цього року OpenAI презентувала ChatGPT Health. Сервіс обіцяв зібрати ваші розрізнені медичні дані та об’єднати їх в одному місці. Для людей, які вже мешкають в інтернеті, це звучить як зручність.
Однак тягар хронічних захворювань у США лягає найважче на малозабезпечені групи населення. І саме ці групи з найменшою ймовірністю використовуватимуть нові цифрові інструменти. Тож для кого ж насправді створені ці інновації? Вони не розроблені з урахуванням їхніх потреб. Вони позиціонуються не для них.
Коли помічник видає галюцинації
Сергій Полевіков – технологічний експерт та засновник AI Health Uncut. Щоб зрозуміти, як працює платформа, він завантажив свої медичні записи.
Процес дався йому важко.
Система згенерувала вигадані фрагменти його медичної історії. Він зіткнувся з бюрократичними бар’єрами, навіть намагаючись увійти до системи. Полевіков резюмував ситуацію гранично чесно. Так, він розуміє вигоду в ефективності та економить час. Але йому не потрібен штучний інтелект, щоб пояснювати, що відбувається з його організмом.
«Поширення цих інструментів носить односторонній характер, і такі люди, як я, експерти, потребують їх найменше».
Якщо відчувають проблеми експерти, те, як відносини в інших?
Полевіков легко справляється з перешкодами. Але що відбувається з людьми, які мають низьку цифрову грамотність? З тими, чиї голоси були відсутні на зустрічах із проектування інтерфейсів?
Технології не відкидаються, а ігноруються
Нещодавно я побував у Мобілі, штат Алабама, та поспілкувався з місцевими жителями.
Розрив очевидний. Лівоніс Фішер керує Коаліцією жінок затоки. Коли заговорили про ІІ, її реакція була миттєвою.
“Я думаю, що це все несправжнє”.
Має iPhone. Вона щодня користується Siri, Alexa та функцією розпізнавання мови. Тим не менш, вона не підозрює, що ці функції ґрунтуються на технології, якій вона не довіряє. Для Фішер ІІ це не помічник. Це модне слово для оманливих комп’ютерних роботів, які створюють фейкові відео.
Це не просто непорозуміння. Це провал у проектуванні. Інженери виробляють продукти для ефективності. Вони створюють їх для користувачів, яким допомога не така вже критична. Тим часом ті, хто міг би отримати користь, залишаються за бортом. Фішер не знає, що використовує ІІ, тому що маркетинг не говорить її мовою. Вона не є частиною дизайнерського процесу.
Вона не купить пристрої, що носяться. Вона не заходитиме до медичних порталів.
Ми говоримо, що ці люди не люблять технології. Це негаразд. Їхні технології ігнорують. Їх ніхто не запрошував у цю гру. Їм ніхто не показав практичної користі. Поки ми це не виправимо, прірва зростатиме.
І давайте будемо чесними щодо економіки. Ігнорування недообслуговуваних ринків шкодить і бізнесу. Повний потенціал медичних технологій гине, якщо вони обслуговують лише здорових людей з найвищим рівнем грамотності.
Чи дійсно нам комфортно залишати мільйони позаду лише тому, що інтерфейс недостатньо інтуїтивно зрозумілий?
Хто керує кораблем
Це не безвихідна ситуація. Рух почався.
Минулої осені Фонд Мак-Артура приєднався до мережі Omidyar Network. Разом із ще вісьмома організаціями вони запустили ініціативу Humanity AI.
П’ятирічний проект. П’ятсот мільйонів доларів. Мета зрозуміла: ІІ має формуватися людьми і для людей. Мікеле Явандо з Omidyar Network висловлює це просто.
«Майбутнє не буде написано алгоритмами. Воно буде написане людьми».
Це сильний старт.
Але до консенсусу ми йдемо повільно. Нам потрібно більше ніж просто обіцянки. Нам потрібний контекст. Нам треба слухати тих, кого ми постійно виштовхуємо на околиці розмови. Поки цього не станеться, інструменти працюватимуть для тих небагатьох, хто вже умів користуватися ними. Інші ж чекають.
