Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, sağlık alanında yapay zekâ kullanımının yaygınlaştığına dikkat çekerek, yalnızca yüksek doğruluk oranlarına sahip olmanın güvenilirlik anlamına gelmediğinin altını çizdi. Baydar, yapay zekânın kararlarının anlaşılabilirliğinin önemine vurgu yaptı.
Yapay zekânın sağlık uygulamaları
Dr. Baydar, yapay zekâ sistemlerinin tıbbi görüntüleme, hastalık riski tahmini ve genomik veri analizi gibi alanlarda sağlık profesyonellerine katkı sağladığını ifade etti. Ancak, bu sistemlerin başarısının çoğu zaman tahmin doğruluğu ile değerlendirildiğini belirtti. Baydar, "Sağlık gibi hayati bir alanda doğru sonuca ulaşmanın yeterli olmayabileceği" uyarısında bulundu.
Açıklanabilir yapay zekâ gerekliliği
Baydar, modelin karar alma sürecinin anlaşılmasının önemine dikkat çekerek, derin öğrenme modellerinin çoğu zaman kara kutu olarak tanımlandığını belirtti. Bu modellerin, verilerden karmaşık örüntüler öğrenebildiğini, ancak bu süreçlerin nedenlerinin her zaman net olmadığını ifade etti. "Yüksek doğrulukla tahmin yapan bir modelin sonuçlarının güvenilirliğini artırmak için hangi bilgilere dayanarak sonuca ulaştığını bilmek gerekir" dedi.
Yapay zekâ sistemlerinin yalnızca sonuç odaklı değerlendirilmemesi gerektiğini savunan Baydar, karar destek sistemlerinin her bir bulgusunun arkasındaki nedenleri anlamanın sağlık profesyonelleri için kritik öneme sahip olduğunu vurguladı. Sağlıkta açıklanabilirlik sayesinde hekimlerin karar süreçlerinin desteklenebileceğine dikkat çekti.
Baydar ayrıca, yapay zekânın sunduğu açıklamaların bilimsel olarak değerlendirilmesi gerektiğini, bu şekilde hekimlerin karar destek sistemlerini daha etkili bir biçimde kullanabileceğini vurguladı. Modelin hangi verilere dayanarak karar verdiğinin ortaya konması, kararların daha güvenilir ve makul bir temele oturtulmasını sağlayabilir.
Son olarak, Baydar, yapay zekânın sağlık profesyonellerinin yerini alacak bir sistem olarak değil, onların karar süreçlerini destekleyen bir araç olarak değerlendirilmesi gerektiğini vurgulayarak, "Güvenilir yapay zekâ sistemleri, yalnızca doğru tahminler değil, aynı zamanda kararların açıklanabilirliğini sağlayan yapılar olmalıdır" dedi.
BİRUNİ ÜNİVERSİTESİ MÜHENDİSLİK VE DOĞA BİLİMLERİ FAKÜLTESİ BİLGİSAYAR MÜHENDİSLİĞİ BÖLÜMÜ DR. ÖĞR. ÜYESİ DAMLA ÖVEK BAYDAR
Henüz yorum yapılmamış
Bu içerik hakkında ilk yorumu siz yapın!