Yapay zeka sektöründe güvenlik tartışmaları sürerken, OpenAI’da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson’ın The Atlantic’te yayımlanan makalesi dikkat çekti. Robinson, yapay zeka modellerinin yeteneklerinin hızla geliştiğine işaret ederek mevcut güvenlik testlerinin yeterliliğinin sorgulanması gerektiğini belirtti.
Yapay zeka modelleri daha yetenekli ve tehlikeli hale geliyor
Robinson, gerekli düzenlemeler yapılmadığı takdirde yapay zeka sektörünün güvenlik konusunda daha fazla başarısızlıkla karşı karşıya kalabileceği uyarısında bulundu.
Yapay zeka sistemlerinin yeteneklerinin kısa sürede önemli ölçüde arttığını vurgulayan Robinson, “Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli” ifadelerini kullandı.
Robinson, yeni nesil yapay zeka modellerinin güvenlik değerlendirmelerinin ne kadar güvenilir olduğunun daha kapsamlı şekilde sorgulanması gerektiğini ifade etti.
“Modeller test edildiklerini algılayabilir”
Yapay zeka modellerinin uygulanan güvenlik testlerinden kaçabileceklerine dikkat çeken Robinson, modellerin test sürecinde farklı, gerçek kullanım sırasında ise farklı davranma ihtimaline işaret etti.
Robinson, “Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir. Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir” değerlendirmesinde bulundu.
Bu durumun, yapay zeka sistemlerinin piyasaya sürülmeden önce gerçekleştirilen güvenlik değerlendirmelerinin kapsamı ve güvenilirliği konusunda yeni soru işaretleri oluşturduğu belirtildi.
Güvenlik testleri güncellenmeli
Robinson, yapay zeka modellerine yönelik güvenlik testlerinin ciddi şekilde geliştirilmesi ve güncel teknolojilerin ortaya çıkardığı yeni risklere göre sürekli yenilenmesi gerektiğini savundu.
Yapay zeka şirketlerinin güvenlik çalışmalarına daha fazla yatırım yapması gerektiğini belirten Robinson, modellerin yetenekleri hızla gelişirken güvenlik mekanizmalarının da aynı hızda ilerlemesinin önemine dikkat çekti.
