Yapay zekâ teknolojisindeki hızlı gelişim, dijital içerik üretimini kolaylaştırırken dolandırıcılık yöntemlerini de değiştirdi. Özellikle gerçek kişileri taklit eden deepfake görüntüler, son yıllarda hem bireyleri hem de şirketleri hedef alan milyonlarca dolarlık dolandırıcılık olaylarında kullanılmaya başlandı.

25 milyon dolarlık deepfake dolandırıcılığı

Araştırmanın çıkış noktalarından biri, 2024 yılında Hong Kong'da yaşanan dikkat çekici bir dolandırıcılık vakası oldu. Bir finans çalışanı, görüntülü toplantıda şirket yöneticileriyle görüştüğünü düşünerek 25 milyon dolarlık ödeme gerçekleştirdi. Daha sonra toplantıya katılan herkesin, şirketin finans müdürü dahil, yapay zekâ ile oluşturulmuş deepfake görüntüler olduğu ortaya çıktı. Danışmanlık şirketi Deloitte'un 2024 tarihli raporuna göre ise üretken yapay zekâ destekli dolandırıcılıkların yalnızca ABD ekonomisine gelecek yıl yaklaşık 40 milyar dolara mal olacağı tahmin ediliyor.

Doç. Dr. Amy Dawel: Yapay zekâ yüzlerini tanımakta çok kötüyüz

Araştırmayı yürüten Avustralya Ulusal Üniversitesi (ANU) Psikoloji Bölümü Öğretim Üyesi Doç. Dr. Amy Dawel, insanların yapay zekâ tarafından oluşturulan yüzleri gerçek insanlardan ayırma konusunda düşündüklerinden çok daha başarısız olduğunu söyledi. Dawel, bu durumun yalnızca teknolojiyle ilgili bir sorun olmadığını belirterek, sahte kimliklerden arkadaşlık uygulamalarındaki dolandırıcılıklara ve banka hesaplarını hedef alan saldırılara kadar birçok alanda ciddi risk oluşturduğunu ifade etti.

Yapay zekâ yüzleri neden daha gerçek görünüyor?

Araştırmaya göre yapay zekâ sistemleri, binlerce gerçek insan yüzünün ortak özelliklerini temel alarak "ortalama" bir yüz oluşturuyor. Bu nedenle yapay zekâ tarafından üretilen yüzler çoğu zaman daha simetrik, daha dengeli ve daha çekici görünüyor. Doç. Dr. Amy Dawel ve ekibi bu durumu "yapay zekâ hipergerçekçiliği" olarak tanımlıyor. Araştırmacılara göre bu durum, insanların sahte yüzleri gerçek insanlardan daha güvenilir bulmasına neden olabiliyor.

Kusur aramak yerine yüzün tamamına odaklanıldı

Araştırmacılar, önceki çalışmalarda önerilen bozuk küpe, hatalı kulak ya da deforme olmuş yüz detaylarını arama yönteminden farklı bir yaklaşım benimsedi.

Katılımcılardan yüzleri;

gibi genel özellikler açısından değerlendirmeleri istendi. Araştırmacılar, insanların yüzü tek tek ayrıntılar yerine bir bütün olarak değerlendirdiğinde yapay zekâ görüntülerini daha doğru ayırt edebildiğini belirledi.

Başarı oranı yüzde 41'den yüzde 81'e yükseldi

Araştırmada ilk aşamada katılımcılar yapay zekâ ile oluşturulan yüzleri ortalama yüzde 41 doğrulukla tespit edebildi. Yaklaşık bir saat süren eğitimin ardından aynı kişilerin doğruluk oranı yüzde 81'e çıktı. Çalışmanın devamı Kanada'da farklı gönüllüler üzerinde tekrarlandı ve benzer sonuçlara ulaşıldı.

Dr. Estudillo: İnsan beyni yüzleri bütün olarak algılıyor

Araştırmada yer almayan Bournemouth Üniversitesi Psikoloji Bölümü Öğretim Üyesi Dr. Alejandro Estudillo da çalışmanın dikkat çekici olduğunu belirtti. Estudillo, insanların yüzleri tek tek ayrıntılar üzerinden değil, "bütüncül işleme" yöntemiyle algıladığını ifade ederek geliştirilen eğitim modelinin bu doğal algı biçiminden yararlanmasının önemli bir avantaj sağladığını söyledi.

Yarış devam edecek

Araştırmacılar, geliştirilen yöntemin umut verici sonuçlar verdiğini ancak yapay zekâ teknolojisinin sürekli geliştiğine dikkat çekiyor. Doç. Dr. Amy Dawel, gelecekte yalnızca sahte yüzlerin değil, yapay zekâ ile oluşturulan ses ve videoların da benzer eğitim yöntemleriyle tespit edilebileceğini belirterek, deepfake teknolojisiyle mücadelenin sürekli devam eden bir "kedi-fare oyunu" olduğunu vurguladı. İstersen bunu daha haber diliyle sıkılaştırıp 500-600 kelimeye indirebilir, İzmir'de Son Dakika'nın kullandığı daha sert ve hızlı okunan üsluba da uyarlayabilirim.

Kaynak: bbc