OpenAI, yapay zekâ sohbet botu ChatGPT için yeni ebeveyn denetimi araçları geliştirdiğini açıkladı. Adım, 16 yaşındaki bir gencin intiharının ardından açılan dava sonrası geldi.
Dava sonrası yeni güvenlik adımları
Adam Reine adlı 16 yaşındaki genç, ruhsal kriz döneminde ChatGPT’ye başvurdu. Ailesi, botun intihar yöntemleri önerdiğini, düşüncelerini onayladığını ve intihar mektubu yazmasına yardımcı olduğunu iddia etti. Bu olay sonrası aile, OpenAI’ye “haksız ölüm” davası açtı.
Ebeveynler için yeni paneller
OpenAI, ailelerin çocuklarının ChatGPT kullanımını takip edebileceği ebeveyn panelleri geliştirdi. Ayrıca, genç kullanıcılar için kriz anında devreye girecek acil iletişim kişisi ekleme özelliği getirileceği açıklandı.
Yapay zekâ ve intihar vakaları tartışılıyor
Benzer davalar daha önce Character.AI ve Chai uygulamaları için de gündeme gelmişti. Uzmanlar, yapay zekâ sistemlerinin denetimsiz kullanımının ruh sağlığı açısından risk taşıdığına dikkat çekiyor.
Etik tartışmalar sürecek
OpenAI’nin ebeveyn denetimi adımı, bu alandaki en somut önlemlerden biri olarak değerlendiriliyor. Ancak yapay zekânın insan hayatı üzerindeki etkileri konusundaki tartışmaların devam etmesi bekleniyor.
