Yapay zekanın gelecekte insanlık için oluşturabileceği risklere ilişkin tartışmalar sürerken, Anthropic araştırmacısı Evan Hubinger’dan dikkat çeken bir değerlendirme geldi. Hubinger, yapay zekanın 10 yıl içinde tüm insanları öldürebilecek kapasiteye ulaşma ihtimalinin yüzde 10’dan fazla olduğunu savundu.
“Gerçekten, içtenlikle inanıyoruz”
Anthropic’te yapay zekanın insan değerleriyle uyumu üzerine çalışan Evan Hubinger, X sosyal medya platformundaki hesabından, Anthropic’ten istifa eden Jacob Coxon’un paylaşımına ilişkin açıklamada bulundu.
Coxon’un “Yapay zeka geliştirenler, bu teknolojinin 10 yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyorlar” yönündeki paylaşımını alıntılayan Hubinger, “Jacob bu konuda haklı, yapay zekanın tüm insanları öldürebileceğine gerçekten, içtenlikle inanıyoruz” ifadesini kullandı.
Hubinger, 10 yıl içinde bu olasılığın yüzde 10’dan fazla olduğunu düşündüğünü belirterek, “Anthropic’in elinden geleni yaptığını düşünüyorum ancak süper zeka ile uyum sorununu çözecek planımız henüz yok ve bu yönde net bir yol haritası da izlemiyoruz” değerlendirmesinde bulundu.
Coxon’un istifası
Son üç yıldır yapay zeka alanında faaliyet gösteren OpenAI ve Anthropic bünyesinde araştırmacı olarak görev yaptığını belirten Jacob Coxon, X hesabından yaptığı açıklamada Anthropic’ten istifa ettiğini duyurdu.
Coxon, her iki şirketin de yapay zeka geliştirme sürecinde yeterince sorumlu davranmadığını savundu. Şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz bir yarış içinde olduğunu ifade eden Coxon, yapay zeka teknolojilerinin oluşturabileceği risklerin hafife alınmaması gerektiğini söyledi.
“İnsanüstü sistemler haline gelecek”
Coxon, yapay zeka sistemlerinin yakın gelecekte çok daha güçlü ve bağımsız hale gelebileceğini savunarak, “Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek. Bu alanların her birindeki ilerlemeye tanık olduk ve bu süreç yavaşlamıyor” değerlendirmesinde bulundu.
Coxon ayrıca yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı “öldürebileceğine” ciddi şekilde inandığını öne sürdü. Yöneticilerin kamuoyu önünde daha ılımlı açıklamalar yaptığını savunan Coxon, kapalı kapılar ardında ise yapay zekanın oluşturabileceği risklere ilişkin büyük bir korku yaşandığını iddia etti.
