İngiltere’nin Manchester kentinde yaşayan Abi, bir yıldır sağlıkla ilgili sorularında yapay zekayı kullanıyor. Özellikle doktora ulaşmanın zor olduğu durumlarda ChatGPT gibi sohbet botlarının hızlı yanıt vermesi onu bu sistemlere yönlendirmiş durumda. Abi, yapay zekayı “birlikte problem çözüyor gibi hissettiren bir araç” olarak tanımlıyor. Ancak yaşadığı deneyimler, bu sistemlerin her zaman güvenilir olmayabileceğini de gösteriyor.
Yapay zeka sağlıkta kolay erişim sağlıyor ama risk de taşıyor
Abi, yapay zekayı ilk olarak idrar yolu enfeksiyonu şüphesi yaşadığında kullandı. Belirtilerini yazdıktan sonra ChatGPT ona eczaneye gitmesini önerdi ve bu yönlendirme sonucunda antibiyotik tedavisi aldı. Bu durum, onun gözünde yapay zekayı pratik bir bilgi kaynağı haline getirdi. Özellikle İngiltere Ulusal Sağlık Sistemi’ne (NHS) erişimin zor olduğu durumlarda bu araçları tercih ettiğini söylüyor. Ancak aynı süreç her zaman doğru sonuçlar vermedi. Bir yürüyüş sırasında düşüp yaralandığında yapay zekanın kendisine “organ delinmesi” ihtimalinden bahsettiğini ve acile gitmesini söylediğini aktardı. Hastanede saatler süren bekleyişin ardından ciddi bir durum olmadığı ortaya çıktı. Bu olay, yapay zekanın zaman zaman gereksiz panik oluşturabileceğini gösterdi.
Yapay zeka kendinden emin ama yanlış olabilir
İngiltere hükümetinin baş sağlık danışmanı Profesör Chris Whitty, yapay zekanın sağlık alanında kritik bir eşikte olduğunu belirtiyor. Whitty, bu sistemlerin “kendinden emin ama yanlış” yanıtlar verebildiğini ve bunun risk oluşturduğunu ifade ediyor. Uzmanlara göre özellikle kullanıcıların yanlış veya eksik bilgi vermesi, yapay zekanın hatalı sonuç üretmesine neden oluyor. Oxford Üniversitesi’nde yapılan bir araştırma da bu durumu destekliyor. Doktor gözetiminde verilen doğru ve eksiksiz bilgilerle yapay zekanın doğruluk oranı yüzde 95’e kadar çıkarken, kullanıcıların kendi başına sohbet ettiği senaryolarda bu oran yüzde 35’e kadar düşüyor. Araştırmacılar, insanların belirtileri eksik ya da yanlış aktarmasının sonuçları ciddi şekilde değiştirdiğini vurguluyor.
Sohbet botları kişisel gibi görünse de yanıltıcı olabilir
Uzmanlara göre yapay zekayı cazip hale getiren en önemli unsur, kullanıcıya “kişisel bir doktorla konuşuyormuş” hissi vermesi. Ancak bu durum yanıltıcı olabiliyor. Pratisyen hekimler, bu sistemlerin güvenilirlik unsurlarını ayırt edemediğini ve bilgiyi sadece dil kalıplarına göre oluşturduğunu belirtiyor. Bu da özellikle sağlık gibi kritik alanlarda risk yaratıyor. Dr. Margaret McCartney, kullanıcıların sohbet botlarıyla kurduğu etkileşimin Google aramalarından farklı olduğunu söylüyor. Ona göre yapay zeka, güven veren bir tonla konuştuğu için kullanıcılar verilen bilgiyi daha kolay doğru kabul ediyor. Bu da yanlış yönlendirmelerin fark edilmesini zorlaştırıyor. Uzmanlar, internet aramalarında kaynak kontrolü yapılabilirken yapay zekada bu sürecin daha belirsiz olduğunu ifade ediyor.
Araştırmalar: Yanıtların yarısından fazlası sorunlu olabilir
ABD’de yapılan bir başka çalışma da yapay zekanın sağlık alanındaki risklerini ortaya koydu. ChatGPT, Gemini ve Grok gibi sistemler farklı sağlık konularında test edildi. Sonuçlara göre verilen yanıtların yarısından fazlası bir şekilde problemli bulundu. Özellikle alternatif tedaviler ve kanser gibi kritik konularda hatalı yönlendirmeler tespit edildi. Araştırmayı yürüten uzmanlar, bu sistemlerin kendinden emin bir dille konuşmasının kullanıcıda güven hissi yarattığını belirtiyor. Bu durum, yanlış bilgilerin fark edilmesini zorlaştırıyor. Uzmanlara göre yapay zekanın temel çalışma prensibi, bilgi doğrulamak değil metin tahmini yapmak olduğu için sağlık gibi alanlarda dikkatli olunması gerekiyor.
Profesyonel tıbbi tavsiye yerine geçmez
OpenAI tarafından yapılan açıklamada ise yapay zekanın sağlık alanında yardımcı bir bilgi aracı olarak görüldüğü, ancak profesyonel tıbbi tavsiyenin yerine geçmemesi gerektiği vurgulandı. Şirket, sistemlerin güvenilirliğini artırmak için klinisyenlerle birlikte çalıştığını belirtiyor. Buna rağmen kullanıcıların dikkatli olması gerektiği ifade ediliyor. Uzmanlar ise net bir uyarıda bulunuyor: Yapay zeka sağlık konusunda ilk başvuru noktası olabilir ancak nihai karar için mutlaka doktor kontrolü gerekiyor. Özellikle ciddi semptomlarda yalnızca sohbet botlarına güvenmek yanlış teşhise ve gecikmiş tedaviye yol açabiliyor. Yapay zekayı kullanan birçok kişi ise artık daha temkinli yaklaşılması gerektiği konusunda hemfikir.
