Hızlı karar, yüksek risk tartışması
Uzmanlara göre yapay zekanın savaş planlamasına dahil edilmesi, hedeflerin yeterince doğrulanmadan vurulmasına neden olabilir. Özellikle yoğun veri akışı içinde çalışan sistemlerin, yanlış ya da eksik verilerle hatalı sonuçlar üretme ihtimali endişe yaratıyor. Akademisyenler, zaman baskısı altında çalışan askeri personelin yapay zekanın önerilerini sorgulamadan uygulama riskine dikkat çekiyor. Bu eleştiriler, İran’da sivillerin hayatını kaybettiği bazı saldırıların ardından daha da yoğunlaştı. Yapay zeka destekli sistemlerin bu tür operasyonlarda kullanılıp kullanılmadığına dair sorular henüz net bir şekilde yanıtlanmış değil. ABD Savunma Bakanlığı ise operasyonel güvenlik gerekçesiyle detaylı açıklama yapmaktan kaçınıyor.
Sorumluluk kimde?
Palantir yetkilileri, sistemin bir “otomatik hedefleme aracı” olmadığını, yalnızca askeri personele veri analizi desteği sunduğunu belirtiyor. Şirkete göre, bu teknolojilerin nasıl ve hangi koşullarda kullanılacağı tamamen askeri kurumların sorumluluğunda bulunuyor. Öte yandan ABD Kongresi’nde bazı isimler, yapay zeka kullanımının daha sıkı denetlenmesi gerektiğini savunuyor. Özellikle ölümcül güç kullanımına ilişkin karar süreçlerinde insan kontrolünün kesin şekilde korunması gerektiği vurgulanıyor. Uzmanlar, yapay zekanın yüzde 100 güvenilir olmadığını ve küçük hataların bile büyük sonuçlar doğurabileceğini ifade ediyor.
Yapay zeka kalıcı hale geliyor
Tartışmalara rağmen ABD ordusunun yapay zeka teknolojilerini daha da yaygınlaştırmaya hazırlandığı belirtiliyor. Pentagon’un Maven sistemini uzun vadeli bir program olarak konumlandırması, bu teknolojinin gelecekte askeri operasyonların vazgeçilmez bir parçası olacağını gösteriyor. Yetkililer, yapay zekanın sağladığı hız ve veri işleme kapasitesinin sahadaki avantajını vurgularken, eleştirmenler ise bu dönüşümün etik ve insani sonuçlarının göz ardı edilmemesi gerektiğini dile getiriyor. Yapay zekanın savaş alanındaki rolü büyürken, bu teknolojinin nasıl sınırlandırılacağı sorusu ise şimdilik yanıt beklemeye devam ediyor.