Malaysian Buzz

(SeaPRwire) –   Pengamal kesihatan, syarikat, dan lain-lain telah bertahun-tahun memuji keupayaan AI dalam bidang perubatan, daripada meningkatkan kecekapan kepada mengatasi doktor dalam diagnosis. Teknologi transformatif ini malah telah diramalkan oleh peminat AI untuk suatu hari nanti membantu mencari “penawar kepada kanser.”

Tetapi satu kajian baru mendapati bahawa doktor yang kerap menggunakan AI sebenarnya menjadi kurang mahir dalam masa beberapa bulan.

Kajian itu, yang diterbitkan pada hari Rabu dalam jurnal *The Lancet*, mendapati bahawa dalam tempoh enam bulan, doktor menjadi terlalu bergantung pada cadangan AI dan menjadi “kurang bermotivasi, kurang fokus, dan kurang bertanggungjawab apabila membuat keputusan kognitif tanpa bantuan AI.”

Ia merupakan kajian terbaru yang menunjukkan potensi kesan buruk pada pengguna AI. Satu kajian terdahulu oleh Massachusetts Institute of Technology mendapati bahawa ChatGPT menyebarkan maklumat yang salah.

Bagaimana kajian itu dijalankan

Para penyelidik dari pelbagai institusi Eropah menjalankan kajian pemerhatian dengan meninjau empat pusat endoskopi di Poland yang mengambil bahagian dalam percubaan Artificial Intelligence in Colonoscopy for Cancer Prevention (AI-Colon).

Sebagai sebahagian daripada percubaan itu, pusat-pusat tersebut telah memperkenalkan alat AI untuk pengesanan polip—pertumbuhan yang boleh menjadi jinak atau kanser—pada lewat tahun 2021. Kajian itu melihat 1,443 kolonoskopi tanpa bantuan AI daripada sejumlah 2,177 kolonoskopi yang dijalankan antara September 2021 dan Mac 2022. Kolonoskopi dilakukan oleh 19 pakar endoskopi berpengalaman.

Para penyelidik membandingkan kualiti kolonoskopi yang dijalankan tiga bulan sebelum dan tiga bulan selepas AI dilaksanakan. Kolonoskopi dijalankan sama ada dengan atau tanpa bantuan AI, secara rawak. Daripada yang dijalankan tanpa bantuan AI, 795 telah dijalankan sebelum penggunaan AI biasa dilaksanakan dan 648 telah dijalankan selepas alat AI diperkenalkan.

Apa yang kajian itu dapati

Tiga bulan sebelum AI diperkenalkan, kadar pengesanan adenoma (ADR) adalah sekitar 28%. Tiga bulan selepas AI diperkenalkan, kadar itu menurun kepada 22% apabila doktor tidak dibantu oleh AI. ADR ialah penunjuk kualiti yang biasa digunakan untuk kolonoskopi dan mentakrifkan “perkadaran kolonoskopi saringan yang dilakukan oleh doktor yang mengesan sekurang-kurangnya satu adenoma atau adenokarsinoma kolorektal yang disahkan secara histologi.” Adenoma ialah pertumbuhan pra-kanser, dan ADR yang lebih tinggi dikaitkan dengan risiko kanser kolorektal yang lebih rendah.

Kajian itu mendapati bahawa AI memang membantu pakar endoskopi dengan pengesanan apabila digunakan, tetapi sebaik sahaja bantuan itu ditarik balik, doktor menjadi lebih teruk dalam pengesanan.

Para penyelidik mengaitkannya dengan “kecenderungan semula jadi manusia untuk terlalu bergantung” pada cadangan sistem sokongan keputusan seperti AI.

“Bayangkan anda ingin melancong ke mana-mana sahaja, dan anda tidak dapat menggunakan Google Maps,” kata Marcin Romańczyk, penulis bersama kajian itu dan penolong profesor di Medical University of Silesia, kepada TIME. “Kami menyebutnya kesan Google Maps. Kami cuba untuk sampai ke sesuatu tempat, dan adalah mustahil untuk menggunakan peta biasa. Ia berfungsi dengan cara yang sama.”

Implikasi kajian

Omer Ahmad, seorang pakar gastroenterologi perunding di University College Hospital London yang menulis editorial bersama kajian itu tetapi tidak terlibat dalam penyelidikannya, memberitahu TIME bahawa kemungkinan pendedahan kepada AI melemahkan tabiat carian visual dan corak pandangan berjaga-jaga doktor, yang kritikal untuk mengesan polip.

“Pada dasarnya, pergantungan pada pengesanan AI boleh menumpulkan pengecaman corak manusia,” kata Ahmad. Beliau menambah bahawa penggunaan AI yang kerap juga boleh “mengurangkan keyakinan diagnostik” apabila bantuan AI ditarik balik, atau kemahiran pakar endoskopi mengendalikan kolonoskop boleh dikurangkan.

Dalam komen kepada Catherine Menon, pensyarah utama di Department of Computer Science, University of Hertfordshire, berkata: “Walaupun penurunan kemahiran akibat penggunaan AI telah dibangkitkan sebagai risiko teori dalam kajian sebelumnya, kajian ini adalah yang pertama untuk membentangkan data dunia sebenar yang berpotensi menunjukkan penurunan kemahiran yang timbul daripada penggunaan AI dalam kolonoskopi diagnostik.” Menon membangkitkan kebimbangan bahawa terlalu bergantung pada AI boleh menyebabkan pengamal kesihatan berisiko terhadap kompromi teknologi.

Pakar lain lebih berhati-hati tentang membuat kesimpulan daripada satu kajian.

Venet Osmani, seorang profesor AI klinikal dan pembelajaran mesin di Queen Mary University of London, menyatakan kepada SMC bahawa jumlah keseluruhan kolonoskopi—termasuk yang dibantu AI dan yang tidak dibantu AI—meningkat sepanjang kajian. Peningkatan beban kerja, Osmani mencadangkan, mungkin telah membawa kepada keletihan doktor dan kadar pengesanan yang lebih rendah.

Allan Tucker, seorang profesor kecerdasan buatan di Brunel University of London, juga menyatakan bahawa dengan bantuan AI, prestasi doktor bertambah baik secara keseluruhan. Kebimbangan tentang penurunan kemahiran disebabkan oleh bias automasi, tambah Tucker kepada SMC, “bukan unik kepada sistem AI dan merupakan risiko dengan pengenalan sebarang teknologi baharu.”

“Persoalan etika kemudiannya ialah sama ada kita mempercayai AI berbanding manusia,” kata Tucker. “Selalunya, kita menjangkakan akan ada manusia yang menyelia semua membuat keputusan AI tetapi jika pakar manusia kurang berusaha dalam keputusan mereka sendiri akibat daripada memperkenalkan sistem AI ini boleh menjadi bermasalah.”

“Ini bukan semata-mata tentang pemantauan teknologi,” kata Ahmad. “Ini tentang menavigasi kerumitan ekosistem klinikal manusia-AI baharu.” Mewujudkan perlindungan adalah kritikal, tambahnya, mencadangkan bahawa di luar kajian ini, orang ramai mungkin perlu memberi tumpuan kepada “memelihara kemahiran penting dalam dunia di mana AI menjadi di mana-mana.”

“`