Yapay zeka modellerinin eğitimi üzerine çalışan 27 yaşındaki İngiliz araştırmacı Jacob Coxon, Anthropic’teki görevinden ayrıldığını sosyal medya üzerinden duyurdu. Daha önce OpenAI’da da görev yapan Coxon, iki şirketin ve diğer teknoloji firmalarının giderek daha gelişmiş yapay zeka sistemleri üretme yarışında güvenlik konusunda yeterince temkinli davranmadığını savunarak, özellikle kendi kendini geliştirebilen süper zeki sistemlerin ortaya çıkması halinde risklerin hızla büyüyebileceğini belirtti.
“Gelecek yıl işlerin kontrolden çıkmış olması mümkün”
Coxon, ABD merkezli şirketlerin yalnızca birbirleriyle değil, Çin’deki rakipleriyle de yoğun bir rekabet içinde olduğunu belirterek bu yarışın giderek daha agresif bir noktaya taşındığını söyledi. Araştırmacıya göre şirketlerin daha güçlü modeller geliştirme hedefi, yapay zeka güvenliği konusundaki endişelerin önüne geçiyor. Coxon, yapay zekanın kendi yeteneklerini geliştirebildiği bir aşamaya ulaşmasının ardından sistemlerin çok daha hızlı ilerleyebileceğini savunurken, bu sürecin insanlığın kontrolünü kaybedebileceği bir noktaya ulaşabileceği konusunda uyardı. Araştırmacı, mevcut gelişme hızının sürmesi halinde önümüzdeki birkaç yılın kritik olabileceğini ifade etti.
Anthropic içinden de benzer uyarı geldi
Coxon’ın açıklamalarının ardından Anthropic’te hizalama bilimi alanında çalışan Evan Hubinger de yapay zekanın insanlık için varoluşsal bir risk oluşturabileceğine ilişkin değerlendirmelerde bulundu. Hubinger, gelecekte ortaya çıkabilecek süper zekanın insan değerleriyle uyumlu hale getirilmesi konusunda henüz yeterli bir plan bulunmadığını belirterek, böyle bir teknolojinin insanlığın tamamını yok etme ihtimalinin yüzde 10’dan fazla olduğunu düşündüğünü söyledi. Hubinger, söz konusu riskin bugün kullanılan modellerden çok, yapay zekanın kendi kendini geliştirebildiği ve yeni nesil sistemleri hızla ortaya çıkarabildiği varsayımsal bir gelecekten kaynaklandığını ifade etti. Bu ayrım, mevcut yapay zeka sistemleriyle gelecekteki süper zeki sistemlere ilişkin risk tartışmalarının birbirinden ayrılması açısından önem taşıyor.
Coxon daha önce OpenAI’da çalışmıştı
Coxon, bu yılın başlarında OpenAI’dan ayrılarak Anthropic’e katılmıştı. Her iki şirkette de yapay zeka modellerinin ön eğitim süreçleri üzerine çalışan araştırmacı, Anthropic’in güvenlik konusunu ciddiye aldığına inandığını ancak tek bir şirketin bu problemi kendi başına çözemeyeceği sonucuna ulaştığını belirtti. Araştırmacıya göre yapay zeka laboratuvarlarının arasında koordinasyon sağlanmadan ve hükümetlerin sürece daha güçlü biçimde dahil olması sağlanmadan, insanlardan daha iyi performans gösterebilecek genel yapay zekanın güvenli biçimde geliştirilmesi zor görünüyor. Coxon, sektörün kendi içinde farklı kurallar uygulamasının şirketleri sürekli daha hızlı hareket etmeye teşvik ettiğini savundu.
“İnsanlığın geleceği birkaç mühendisin bilgisayarlarında tartışılıyor”
Coxon’ın eleştirilerinden biri de yapay zeka teknolojisinin geleceğine ilişkin kararların büyük teknoloji şirketlerinin içinde, sınırlı sayıda araştırmacı ve mühendis tarafından alınması oldu. Anthropic çalışanlarının modellerin giderek artan yeteneklerini değerlendirdiği özel tartışma kanallarından söz eden araştırmacı, insanlığın geleceğini ilgilendiren kararların kamu denetiminden uzak biçimde alınmasının başlı başına bir sorun olduğunu ifade etti. Araştırmacı, gelişmiş yapay zekaya ilişkin çalışmaların dünyanın geri kalanından izole biçimde yalnızca teknoloji şirketlerinin ofislerinde yürütülmesinin normalleştirilmemesi gerektiğini savunurken, sektörün taşıdığı gücün daha geniş bir toplumsal ve siyasi denetime ihtiyaç duyduğunu belirtti.
Yapay zeka insanların komutlarını reddedebilir mi?
Coxon’ın endişelerinin merkezinde, yapay zeka sistemlerinin kendi yeteneklerini geliştirmeye başlaması ihtimali bulunuyor. Araştırmacı, böyle bir aşamaya ulaşıldığında sistemlerin insanların belirlediği hedefleri değiştirme, kendi amaçlarını sürdürme veya verilen talimatlara uymama ihtimalinin ortaya çıkabileceğini düşünüyor. Bu tartışma, son dönemde yapay zeka ajanlarının test ortamlarının dışına çıkabildiğine ve bazı sistemlerin beklenmeyen şekilde hareket edebildiğine ilişkin haberlerin ardından daha da önem kazandı. Ancak uzmanlar, bugün kullanılan sistemlerin bağımsız bir “süper zeka” düzeyine ulaştığı anlamına gelmeyen bu örneklerin, gelecekteki risk senaryolarından ayrı değerlendirilmesi gerektiğine dikkat çekiyor.
Yapay zeka sektöründe frene basma çağrıları artıyor
Coxon’ın istifası, yapay zeka sektöründe son dönemde yükselen güvenlik tartışmalarının yeni bir örneği oldu. Anthropic ve OpenAI gibi şirketlerde çalışan veya daha önce görev yapan bazı araştırmacılar, modellerin giderek güçlenmesi karşısında güvenlik çalışmalarının teknoloji yarışının gerisinde kalmaması gerektiğini savunuyor. Coxon da sektör genelinde koordinasyon sağlanması, şirketlerin daha güçlü modeller geliştirme yarışını yavaşlatacak mekanizmaların oluşturulması ve gerektiğinde yeni yeteneklerin geliştirilmesine geçici sınırlamalar getirilmesi çağrısında bulundu. Araştırmacının istifasıyla birlikte yapay zekanın geleceğine ilişkin tartışmanın merkezinde artık yalnızca teknolojinin ne kadar ilerleyebileceği değil, bu ilerlemenin hangi koşullarda kontrol altında tutulabileceği sorusu da yer alıyor.
