Çin’in Anhui eyaletine bağlı Chuzhou kentinde yaşayan 67 yaşındaki bir çiftçinin, tarımsal işlemler konusunda yaklaşık bir yıldır yapay zekâ uygulamasından yararlandığı aktarıldı. Gübreleme ve ekim takvimi gibi konularda uygulamadan tavsiyeler alan çiftçi, bu kez susam tarlasındaki yabani ot ve zararlılarla mücadele etmek için yapay zekâya danıştı. Uygulamanın önerdiği yöntemi başka kaynaklardan doğrulamadan uygulayan çiftçi, tavsiye edilen tarım ilacını yaklaşık 25 dönümlük arazisinde kullandı. İlacın uygulanmasının ardından tarladaki filizlerin tamamının kuruduğu belirtildi.
Mahsulün kurumasına kullanılan ilaç neden oldu
Olayın ardından yapılan incelemelerde, mahsullerin zarar görmesine flufenaset etken maddesini içeren ot ilacının neden olduğu tespit edildi. Ziraat uzmanları, söz konusu etken maddenin uygun olmayan şekilde veya yanlış hedef üzerinde kullanılması halinde susam gibi ürünlere zarar verebileceğine dikkat çekti. Böylece yapay zekânın verdiği tavsiyenin, uzman kontrolünden geçirilmeden uygulanmasının ciddi bir tarımsal kayba yol açtığı ortaya çıktı. Yapay zekâ uygulamasının ekranında ise verilen bilgilerin hatalı olabileceğine ilişkin “Yapay zekâ içeriği hatalı olabilir, lütfen doğrulayın” uyarısının bulunduğu bildirildi.
Yapay zeka tavsiyesi sağlıkta da risk yaratmıştı
Yapay zekâ tarafından verilen bilgilerin doğrulanmadan uygulanmasının daha önce sağlık alanında da ciddi sonuçlara yol açtığı belirtildi. Geçtiğimiz yıl bir kullanıcı, sofra tuzu tüketimini azaltma tavsiyesi üzerine yapay zekânın yönlendirmesiyle gıdalarına sodyum bromür ekledi. Yaklaşık üç ay boyunca bu kimyasalı tüketen kişi, brom zehirlenmesi nedeniyle hastaneye kaldırıldı ve psikoz tedavisi gördü.
Uzmanlardan kritik uyarı
Annals of Internal Medicine dergisinde yayımlanan bir incelemede de yapay zekâ uygulamalarının bilimsel açıdan hatalı bilgiler üretebileceğine dikkat çekildi. Çin’deki olayın, özellikle tarım ilaçları, kimyasallar ve sağlık gibi doğrudan fiziksel sonuçlara yol açabilecek alanlarda yapay zekâdan alınan bilgilerin uzman görüşü ve güvenilir kaynaklarla doğrulanması gerektiğini bir kez daha ortaya koyduğu belirtildi.
