OpenAI menghentikan ChatGPT Health awal tahun ini. Ia berjanji untuk mengumpulkan data medis Anda yang tersebar. Untuk meletakkan semuanya di satu tempat. Kedengarannya nyaman bagi orang-orang yang sudah hidup di internet.
Beban penyakit kronis di AS merupakan dampak paling berat bagi masyarakat yang kurang terlayani. Kelompok inilah yang paling kecil kemungkinannya untuk menggunakan alat digital baru. Lantas, sebenarnya untuk siapa inovasi ini? Itu tidak dibangun dengan mempertimbangkan mereka. Itu dipasarkan di tempat lain.
Saat Asisten Berhalusinasi
Sergei Polevikov adalah pakar teknologi. Pendiri AI Health Uncut. Dia mengunggah catatannya untuk melihat cara kerja platform tersebut.
Itu tidak mulus.
Sistem berhalusinasi sebagian dari riwayat kesehatannya. Dia menabrak tembok administratif hanya saat mencoba masuk. Polevikov menyimpulkannya dengan terus terang. Dia mendapat keuntungan efisiensi. Dia menghemat waktu. Tapi dia tidak membutuhkan AI untuk memberitahukan apa yang dilakukan tubuhnya.
“Distribusi alat-alat ini bersifat sepihak dan orang-orang seperti saya, yang ahli, paling tidak membutuhkannya.”
Jika seorang ahli kesulitan, pikirkan sisanya.
Polevikov menavigasi hambatan dengan cukup mudah. Namun apa yang terjadi pada mereka yang literasi digitalnya rendah? Mereka yang suaranya tidak hadir dalam rapat desain?
Diabaikan Teknologi, Bukan Menolak
Saya pergi ke Mobile, Alabama, baru-baru ini. Berbicara dengan orang-orang di jalan.
Kesenjangannya sangat mencolok. Leevonis Fisher memimpin Koalisi Perempuan Bay Area. Saat ditanya tentang AI, jawabannya langsung.
“Menurutku itu semua palsu.”
Dia memiliki iPhone. Dia menggunakan Siri. Alexa. Suara-ke-teks. Hampir setiap hari. Namun, dia tidak tahu bahwa fitur-fitur tersebut bergantung pada teknologi yang tidak dia percayai. Bagi Fisher, AI bukanlah penolong. Ini adalah kata kunci untuk robot komputer yang menipu dan menghasilkan video palsu.
Ini bukan sekedar kesalahpahaman. Ini adalah kegagalan desain. Insinyur membangun untuk efisiensi. Mereka membangun untuk pengguna yang tidak terlalu membutuhkan tabungan. Sementara itu, pihak-pihak yang dapat memperoleh manfaat justru tersisih. Fisher tidak tahu dia menggunakan AI karena bagian pemasarannya tidak sesuai dengan bahasanya. Dia bukan bagian dari percakapan desain.
Dia tidak akan membeli perangkat yang dapat dikenakan. Dia tidak akan masuk ke portal.
Kami mengatakan pada diri sendiri bahwa orang-orang ini tidak menyukai teknologi. Sebenarnya tidak. Mereka mengabaikan teknologi. Tidak ada yang mengundang mereka masuk. Tidak ada yang menunjukkan kegunaannya. Sampai kita memperbaikinya, kesenjangan akan semakin melebar.
Dan mari kita bersikap nyata mengenai perekonomian. Hilangnya pasar yang kurang terlayani juga berdampak buruk bagi bisnis. Potensi penuh dari teknologi kesehatan akan hilang jika hanya melayani orang-orang paling sehat dengan tingkat melek huruf tertinggi.
Apakah kita sebenarnya tidak keberatan meninggalkan jutaan orang karena antarmukanya tidak cukup intuitif?
Siapa yang Mengemudikan Kapal
Ini bukanlah suatu hal yang sia-sia. Uang bergerak.
Musim gugur yang lalu, MacArthur Foundation bergabung dengan Omidyar Network. Bersama delapan kelompok lainnya. Mereka meluncurkan Humanity AI.
Inisiatif lima tahun. Lima ratus juta dolar. Tujuannya jelas: AI harus dibentuk oleh manusia, untuk manusia. Michele Jawando dari Omidyar Network menjelaskannya secara sederhana.
“Masa depan tidak akan ditentukan oleh algoritma, melainkan ditentukan oleh manusia.”
Itu adalah awal yang baik.
Namun konsensusnya lambat. Kita membutuhkan lebih dari sekadar janji. Kita memerlukan konteks. Kita perlu mendengarkan orang-orang yang selalu kita singkirkan dari pembicaraan. Sampai saat itu, alat tersebut berfungsi untuk beberapa orang yang sudah mengetahui cara menggunakannya. Kita semua menunggu.
