Oleh Rose Hoban
Ketika kecerdasan buatan menjadi banyak digunakan dalam perawatan kesehatan, para peneliti yang mempelajari teknologi memperingatkan bahwa itu adalah alat yang membutuhkan pemantauan dan revisi yang konstan.
“Anda selalu membutuhkan manusia di loop, terutama dalam perawatan kesehatan,” Fay Cobb PaytonProfesor Emeritus Universitas Negeri NC, kata minggu lalu.
Cobb Payton, yang bidang keahliannya adalah teknologi informasi dan analisis bisnis, adalah salah satu dari dua pembicara utama di Minoritas Tahunan ke -46 Konferensi Kesehatan Minggu lalu di Pusat Konferensi Jumat di UNC Chapel Hill.
Bahkan karena kecerdasan buatan memiliki potensi untuk mengubah perawatan kesehatan menjadi sesuatu yang lebih efisien dan memberikan perawatan kesehatan yang “dipersonalisasi” yang lama dijanjikan oleh teknologi, Penyelenggara Konferensi cacat tercatat. “Sementara inovasi teknologi sangat menjanjikan untuk meningkatkan akses ke perawatan, mereka sering berisiko memperkuat ketidakadilan saat tidak dirancang dengan mempertimbangkan komunitas yang terpinggirkan,” Literatur konferensi menyatakan.
Itulah kenyataan yang ditampilkan oleh Cobb Payton, yang berpendapat bahwa jika tidak ada yang memastikan bahwa pengumpulan dan penggunaan data dilakukan dengan mata ekuitasHasil dapat condong dengan cara yang membahayakan pasien.
“Dalam perawatan kesehatan, Anda tidak menjual widget, Anda tidak menjual buku, Anda tidak membeli pakaian,” katanya. “Kamu masih perlu penegasan.”
Pesannya sangat mengharukan bagi kerumunan kapasitas, mengingat langkah baru -baru ini oleh pemerintahan baru Presiden Donald Trump menghapus program Berfokus pada keragaman, ekuitas, dan inklusi dari program yang didanai oleh dolar federal. Administrasi menekan para pemimpin bisnis untuk mengikutinya, dan beberapa tagihan telah diperkenalkan di Senat negara bagian Dan rumah negara untuk membatasi program semacam itu di sekolah umum dan lembaga negara.
Realitas itu menjulang di konferensi, yang telah terjadi hampir setiap tahun sejak dimulai pada tahun 1977 oleh Kaukus Pelajar Minoritas di UNC. Menurut penyelenggara konferensi, kelompok yang dikelola mahasiswa seperti mahasiswa minoritas kaukus berada di luar kendala baru pada kebijakan universitas yang telah membahas keragaman, keadilan, dan inklusi.
Konferensi dikemas dalam kapasitas, dengan lebih dari 600 orang di Center Friday dan 200 tuning lainnya secara virtual. Topik dan pamerannya luas-mulai dari membantu populasi yang kurang terlayani memahami cara mengakses sumber daya kesehatan yang andal secara online hingga menggunakan telehealth hingga melayani populasi transgender dengan lebih baik yang telah menjadi subjek perintah eksekutif yang membatasi perawatan dari administrasi Trump.
Topik baru, bias lama
Topik kecerdasan buatan memacu diskusi yang kuat.
Kecerdasan buatan memiliki potensi untuk memotong beberapa biaya pengobatan menjadi dua karena kemampuannya untuk pulang dengan diagnosis lebih cepat dan lebih awal dalam proses penyakit, kata Cobb Payton, mengutip penelitian dari Universitas Harvard. Dia mengatakan para peneliti juga percaya bahwa intervensi awal dapat membantu mengarah pada 40 persen hasil kesehatan yang lebih baik.
Cobb Payton mencatat bahwa inovasi AI dalam perawatan kesehatan bisa menjadi pasar senilai $ 200 miliar pada tahun 2030, menawarkan insentif kuat penyedia untuk mengadopsi alat teknologi baru ini – dan pencipta insentif untuk mengembangkannya.
Tetapi mereka perlu diadopsi dengan cermat untuk menghindari potensi bias.
“Sebagian besar pengembang teknologi tidak memiliki pakar kesehatan masyarakat dan pakar klinis di ruangan itu,” katanya. “Perlu ada beberapa transparansi dalam hal bagaimana teknologi sedang dikembangkan, bahkan ketika itu dikembangkan.”
Cobb Payton berbagi contoh alat yang dikembangkan tanpa masukan orang kulit berwarna yang akhirnya memiliki “bias algoritmik” yang condong hasil.
Salah satu contohnya adalah algoritma yang dikembangkan untuk menugaskan pasien ke program manajemen perawatan yang dijalankan oleh perusahaan asuransi untuk 100 juta pasien. Idenya adalah untuk menemukan pasien yang memiliki kondisi kronis seperti tekanan darah tinggi dan diabetes dan memberi mereka sumber daya tambahan untuk membantu mereka menjadi lebih sehat.
Di dalam makalah mani yang diterbitkan pada tahun 2019 Dalam sains, jurnal akademik papan atas yang diterbitkan oleh American Association for Advancement of Science, para peneliti yang mempelajari efektivitas alat tersebut mencatat bahwa algoritma menggunakan biaya sebagai variabel prediktif, bukan diagnosis aktual pasien.
Para peneliti menunjukkan bahwa mengandalkan informasi yang condong penilaian kebutuhan karena pasien kulit hitam yang memiliki kebutuhan yang sama seperti rekan kulit putih mereka sering menghabiskan lebih sedikit dalam sistem perawatan kesehatan karena perbedaan kekayaan dan menghadapi lebih banyak hambatan untuk mengakses perawatan.
“Algoritma ini secara keliru menyimpulkan bahwa pasien kulit hitam lebih sehat untuk pasien kulit putih yang sama sakit,” kata Cobb Payton.
Pada kenyataannya pasien kulit hitam memiliki lebih banyak penyakit dan sebenarnya lebih berisiko hasil kesehatan yang buruk tanpa intervensi. Jika biaya telah dikeluarkan dari persamaan, atau jika ras telah ditambahkan ke algoritma, penelitian menunjukkan, persentase pasien kulit hitam secara otomatis ditugaskan ke program manajemen perawatan akan meningkat dari 17,7 persen menjadi 47 persen.
Ketika Cobb Payton berbicara tentang temuan ini, kerumunan terkesiap secara kolektif.
“Di sini, skor risiko menjadi sangat kritis karena pasien kulit hitam dianggap lebih sakit daripada pasien kulit putih yang diberi skor risiko yang sama tetapi menerima alokasi sumber daya yang lebih sedikit,” katanya.
Cobb Payton memberikan beberapa contoh lain tentang bagaimana bias algoritmik telah menyebabkan prioritas yang lebih rendah untuk kandidat transplantasi ginjal hitam dan lebih banyak pengiriman caesar untuk ibu kulit hitam. “Teknologi ini berjalan liar sementara kebijakan kesehatan masih berusaha mencari tahu,” tambahnya.
Kerja keras, peremajaan
Justin Wang, senior UNC Chapel Hill jurusan kesehatan masyarakat dan salah satu dari dua siswa yang menyelenggarakan acara tersebut, mencatat minat “booming” dalam kecerdasan buatan selama setahun terakhir. “Penting bagi kita untuk sadar akan semua bias ini yang dibangun dalam pembelajaran mesin, algoritma AI yang kita hadapi setiap hari,” katanya.
Wang datang pada masalah yang muncul dengan kemajuan kecerdasan buatan dengan perspektif siswa dalam kesehatan masyarakat dengan konsentrasi dalam biostatistik.
“Saya telah banyak berpikir tentang bagaimana statistik dapat mengikat kesehatan minoritas dan bagaimana statistik dapat memperburuk perbedaan kesehatan, tetapi juga bagaimana hal itu dapat memperbaikinya,” kata Wang. “Dan di situlah aku mulai memikirkan semua hal ini.”
Pikiran -pikiran itu mengarah pada diskusi lebih lanjut dengan Mercy Adekola, yang membantu mengatur konferensi – dan dengan demikian tema 2025 lahir. “Kesehatan minoritas selalu menjadi sesuatu yang saya minati, hanya pengalaman saya di dalam klinik dan melihat bagaimana minoritas dapat diperlakukan secara berbeda hanya karena latar belakang mereka – atau bahkan tidak diperlakukan secara berbeda, tetapi pengalaman mereka berbeda,” kata Wang.
Keduanya bermitra dengan lebih dari 30 siswa lain untuk membuat program untuk konferensi, yang selalu dipimpin oleh siswa.
Sebagian besar dari para peserta adalah anggota kelompok mahasiswa minoritas, dan Wang dan Adekola mengatakan bahwa peristiwa terkini ada di pikiran banyak orang.
“Banyak orang telah berjuang untuk sampai di sini, untuk dapat menggunakan kata -kata seperti keragaman, keadilan, inklusi, rasisme, bias, prasangka – dan semuanya datang dari hal -hal seperti perbudakan, hak -hak sipil,” kata Adekola, yang lahir di Nigeria tetapi tumbuh di Connecticut.
Wang, yang kakek neneknya beremigrasi dari Taiwan, menambahkan: “Ada banyak hal yang mengecilkan hati yang terjadi di dunia saat ini. Tetapi hal yang penting, saya pikir, bahwa saya mencoba untuk mengingat, dan saya pikir konferensi ini benar -benar mencoba untuk menekankan, adalah Anda benar -benar hanya dapat melakukan apa yang dapat Anda lakukan. Terlepas dari apa lagi yang terjadi di luar … selalu ada hal -hal yang dapat Anda lakukan di ruang Anda sendiri, dengan komunitas di sekitar Anda, bahwa Anda dapat membantu atau meningkatkan kehidupan. “
Terlepas dari berjam -jam, para siswa menghabiskan waktu mengembangkan program konferensi, dan lingkungan politik saat ini di mana presiden dan yang lainnya mencoba untuk melucuti program DEI tentang pendanaan dan misi mereka, Adekola mengatakan dia merasa diremajakan setelah konferensi.
“Kami adalah masa depan, Anda tahu? Dan saya merasa besok sekarang, ”katanya. “Saya merasa, sebagai siswa, rasa urgensi itu ada untuk membuat solusi inovatif yang membantu besok, karena besok adalah hari ini, Anda tahu, dan kami adalah hari esok.
“Kita harus mulai terinspirasi untuk berinovasi solusi.”
