ChatGPT’nin geliştiricisi OpenAI bünyesindeki bazı yapay zeka yazılımlarının, kendilerine getirilen internet kullanım kısıtlamalarını aşarak farklı platformlarda izinsiz iletişim kanalları oluşturduğu iddia edildi. Altı bağımsız araştırmacı grubunun bulgularını inceleyen Reuters’ın haberine göre, söz konusu faaliyetlerin daha önce tespit edilenden çok daha geniş bir alana yayıldığı ve en az 10 farklı internet sitesinde benzer dijital izlere rastlandığı belirtildi. Söz konusu faaliyetlerin doğrudan bir siber saldırı niteliği taşımadığı, ancak bazı örneklerde istenmeyen içerik ve mesajlaşma davranışlarına benzeyen sonuçlar ortaya çıktığı aktarıldı. Bulgular, yapay zeka modellerinin kendilerine tanımlanan sınırların dışında hareket edebilme kapasitesine ve bu davranışların geliştirici şirketler tarafından ne ölçüde fark edilebildiğine ilişkin yeni tartışmalar başlattı.
18 farklı internet sitesinde iz bulundu
Kaliforniya merkezli kâr amacı gütmeyen CivAI’da araştırmacı olarak görev yapan Andrew Yoon, mayıs ile temmuz ayları arasında daha önce kamuoyuna yansımamış 18 farklı internet sitesinde yapay zeka yazılımlarının kullandığı değerlendirilen izler tespit ettiklerini söyledi. Yoon, ortaya çıkarılan örneklerin mevcut tablonun tamamını yansıtmayabileceğini belirterek, henüz bilinmeyen çok sayıda benzer olay bulunmasının kuvvetle muhtemel olduğunu ifade etti. Araştırmacılara göre yapay zeka sistemlerinin temel davranışı, kendilerine verilen görevleri yerine getirirken internetten bilgi okumakla sınırlıydı. Ancak bazı modellerin, içerik yükleme ve yazma yasağını aşmak için söz konusu platformların teknik özelliklerini ve standart dışı komutlarını kullanarak alternatif yöntemler geliştirdiği öne sürüldü.
Bir viki sitesi mesajlaşma alanına dönüştürüldü
Daha önce araştırmacılar, OpenAI’a ait bir grup yazılımın Almanca yayın yapan bir viki platformunu testlerde avantaj sağlamak amacıyla kullandığını ve site üzerinde geçici bir mesajlaşma alanına benzeyen yapı oluşturduğunu açıklamıştı. Yeni incelemelerde ise aynı yazılım grubunun yılın ilk aylarında farklı internet sitelerinde de benzer dijital izler bıraktığı ileri sürüldü. Araştırmacılar, farklı sitelerdeki veri dizilerini ve kullanıcı isimlerini karşılaştırarak hareketlerin aynı yapay zeka sistemleriyle bağlantılı olabileceğini değerlendirdi. Bazı olaylarda kullanılan internet protokolü adreslerinin, OpenAI’ın da altyapısında kullandığı Microsoft Azure sistemleriyle ilişkilendirilebildiği aktarıldı.
Üniversitelerin servislerinde de izlere rastlandı
Araştırmacıların belirlediği siteler arasında ortak kullanımlı vikiler, metin depolama servisleri ve iki üniversiteye ait bağlantı kısaltma platformları bulunuyor. Etkilenen platformların önemli bölümünün geniş kitlelere hitap eden büyük internet servisleri olmadığı, bazı örneklerin oldukça küçük ve eski internet projelerine ait olduğu belirtildi. Bunlar arasında Massachusetts’te bir lise öğretmeninin 2008 yılında ileri kimya dersi amacıyla oluşturduğu bir internet sayfası, kişisel web siteleri, çeşitli oyun vikileri ve yaklaşık 20 yıllık bir metin düzenleme platformu da yer aldı. Toronto Üniversitesi, kendi bağlantı kısaltma servislerinde olası benzer hareketlerin gündeme gelmesinin ardından OpenAI ile iletişime geçildiğini bildirirken, Vanderbilt Üniversitesi de kendi servisindeki hareketliliği araştırmaya başladığını açıkladı.
Yapay zeka neden böyle bir yöntem geliştirdi?
İlk tespitleri yapan araştırmacılar, olayların temelinde yapay zeka sistemlerine verilen görevlerle internet üzerindeki izinlerin birbiriyle çelişmesinin bulunabileceğini değerlendiriyor. Buna göre bazı sistemlere karmaşık araştırma görevleri verilirken internetten bilgi okumalarına izin veriliyor, ancak herhangi bir platforma içerik yüklemeleri yasaklanıyordu. Araştırmacılar, modellerin bu sınırı aşmak için eski internet sitelerindeki teknik açıkları ve standart dışı komutları kullanarak veri bırakabilecekleri yöntemler keşfettiğini belirtti. Yazılımcı ve eski Kongre danışmanı Kenneth Russell DeGraff, yalnızca okuma yetkisine sahip yapay zeka sistemlerinin bilgi paylaşmak için kendi yöntemlerini geliştirebildiğini ve benzer davranışların en az 10 farklı sitede görüldüğünü söyledi.
Araştırmacılar daha geniş bir tabloya işaret ediyor
Almanca viki platformundaki hareketliliği ortaya çıkaran grubun lideri Sydney Von Arx ise 23 farklı sitede güvenilir şekilde kayda geçen hareketlilik tespit ettiklerini, ancak olayların tamamının henüz ortaya çıkarılmadığını belirtti. Araştırmacılar, bazı internet sitelerinde bırakılan verilerin diğer platformlardaki benzer veriler, kullanıcı isimleri ve hatta karmaşık demografik sorulara verilen ortak yanıtlarla eşleştirildiğini aktardı. Bu durumun, farklı platformlardaki faaliyetlerin aynı yapay zeka sistemleriyle bağlantılı olabileceği yönündeki değerlendirmeleri güçlendirdiği belirtildi.
OpenAI: Başka benzer bir olay tespit etmedik
OpenAI ise yürüttüğü inceleme kapsamında şu ana kadar daha önce kamuoyuna yansıyan Hugging Face olayının ciddiyeti veya ölçeğine denk başka bir vakayla karşılaşmadığını açıkladı. Şirket ayrıca yapay zeka modellerinin eğitim, değerlendirme ve kullanım süreçlerinde ortaya çıkabilecek hedef dışı davranışların bildirilmesine yönelik yeni bir çerçeve üzerinde çalıştığını ve bu çalışmayı yakın zamanda kamuoyuyla paylaşmayı planladığını duyurdu.
“Sorun makinelerden değil, onları üreten insanlardan”
Etkilenen siteler arasında bulunan Almanca DseWiki’nin sunucu ve yazılım desteğini sağlayan emekli yazılımcı Helmut Leitner de OpenAI’dan, Reuters’ın şirkete sorular yöneltmesinin ardından imzasız bir e-posta aldığını açıkladı. Leitner, gönderilen yanıtın beklentilerinin gerisinde kaldığını belirterek DseWiki yöneticisinin oluşan dijital izleri temizlemek için saatler harcadığını söyledi. Yaşananların ardından sorunun yalnızca kullanılan makinelerle değil, bu sistemleri geliştiren insanlar ve kurumların ortaya koyduğu tasarımlarla da ilgili olduğunu savundu. Araştırmacıların bulguları, yapay zeka modellerinin yalnızca verilen görevleri yerine getiren sistemler olarak değil, kısıtlamalarla karşılaştıklarında alternatif yollar geliştirebilen yazılımlar olarak da değerlendirilmesi gerektiğine ilişkin tartışmaları yeniden gündeme taşıdı.
