Apa yang kita perlukan untuk membangun sistem AI yang dapat dijelaskan untuk domain medis?

  • Bagikan
Apa yang kita perlukan untuk membangun sistem AI yang dapat dijelaskan untuk domain medis?


Machine Learning, atau ML, memiliki aplikasi luas dalam domain medis, seperti pendidikan kedokteran, penelitian, dan pengambilan keputusan klinis. Salah satu argumen yang dibuat untuk mempromosikan ML di ranah medis adalah bahwa semua pasien harus memiliki akses ke “Dokter terbaik di dunia”. Secara teoritis, ML bisa menjadi Dokter ini.

Fakta bahwa ‘Dokter’ ini membaik dengan setiap pasien semakin menarik. Namun, ketidakmampuan algoritma ML untuk menjelaskan hasil kepada ahli manusia telah menyebabkan penerapannya terbatas pada domain medis.

Dalam makalah penelitian mereka, Andreas Holzinger, Chris Biemann, Constantinos S. Pattichis, dan Douglas B. Kell telah membahas sistem AI yang dapat dijelaskan yang ditargetkan untuk aplikasi dalam domain medis. Makalah penelitian ini berjudul “Apa yang kita butuhkan untuk membangun sistem AI yang dapat dijelaskan untuk domain medis?” yang menjadi dasar teks berikut.

Pentingnya penelitian ini

Jika profesional medis dapat memahami mengapa ML mengambil keputusan khusus terkait pasien tertentu, ini akan meningkatkan adaptasi algoritme ML ini di domain medis.

Selain itu, Peraturan Perlindungan Data Umum Eropa yang baru (GDPR 2016/679 dan ISO/IEC 27001) mengamanatkan bahwa harus ada kemungkinan untuk membuat hasil penelusuran ulang sesuai permintaan. Tanpa AI yang dapat dijelaskan, itu akan membuat pendekatan ML yang ada menjadi sulit untuk digunakan.

Apa itu AI yang bisa dijelaskan?

Dalam ranah medis, ini berarti profesional medis harus memiliki kemampuan untuk memahami bagaimana dan mengapa keputusan mesin telah dibuat.

Tantang dengan Model ML yang dapat dijelaskan

Seringkali metode dengan kinerja terbaik (misalnya, pembelajaran mendalam) adalah yang paling tidak transparan, dan metode yang memberikan penjelasan yang jelas (misalnya, pohon keputusan) paling tidak akurat.

Penjelasan AI dapat secara luas diklasifikasikan dalam dua kategori di bawah ini:

  1. Sistem Post-hoc: Sistem post-hoc bertujuan untuk memberikan penjelasan lokal untuk keputusan tertentu dan membuatnya dapat direproduksi sesuai permintaan
  2. Sistem Ante-hoc: Di sini, kemampuan menjelaskan terjadi sebelum peristiwa yang dimaksud terjadi. Oleh karena itu sistem ini juga disebut sebagai explainability by design.

Para peneliti telah membahas cara kerja Neural Network & kemudian membahas contoh interpretasi Deep Neural Network (DNN) dalam makalah penelitian. Para peneliti juga telah membahas model yang dapat dijelaskan untuk data gambar dan kemudian, dalam data Gambar dan *omics. Mereka juga telah membahas model-model yang dapat dijelaskan untuk teks dalam makalah penelitian. Dalam kata-kata para peneliti,

Dalam domain medis, sejumlah besar pengetahuan direpresentasikan dalam bentuk tekstual, dan teks tertulis dari laporan medis mengikat secara hukum, tidak seperti data gambar atau *omics. Di sini sangat penting untuk mendukung keluaran mesin dengan alasan yang dapat diverifikasi manusia dan di mana presisi tinggi sangat penting untuk mendukung, tidak mengganggu para ahli medis. Satu-satunya jalan ke depan tampaknya integrasi pendekatan berbasis pengetahuan dan saraf untuk menggabungkan interpretasi yang pertama dengan efisiensi tinggi yang terakhir. Menjanjikan untuk AI yang dapat dijelaskan dalam domain medis tampaknya adalah penggunaan model distribusi hibrida yang menggabungkan representasi berbasis grafik yang jarang dengan representasi vektor padat dan menghubungkannya ke sumber daya leksikal dan basis pengetahuan. Last but not least, kami menekankan bahwa sistem AI yang dapat dijelaskan dengan sukses membutuhkan antarmuka pengguna yang efektif, mendorong strategi baru untuk menyajikan penjelasan yang dapat dipahami manusia.

Kesimpulan

ML menawarkan kemungkinan besar dalam domain medis untuk meningkatkan kualitas perawatan kesehatan. Namun, penjelasan terakhir membuatnya menjadi alat aplikasi yang terbatas. Para peneliti telah membahas alat yang kita butuhkan untuk membangun sistem AI yang dapat dijelaskan dalam makalah penelitian.

Sumber: Andreas Holzinger, Chris Biemann, Constantinos S. Pattichis, Douglas B. Kell’s “Apa yang kita perlukan untuk membangun sistem AI yang dapat dijelaskan untuk domain medis?





Source link

  • Bagikan

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *