OpenAI, ChatGPT’de çocukların güvenliği için yeni önlemler almaya hazırlanıyor ve bu ay içinde ebeveyn kontrolü özelliğini devreye sokmayı planlıyor. Şirketin yaş tahmini sistemi ile 18 yaş altı kullanıcılar için daha güvenli içerikler sunulacak.
OpenAI, ChatGPT’de çocukların güvenliği için yeni önlemler almaya hazırlanırken, bu ay içinde ebeveyn kontrolü özelliğini devreye sokmayı planlıyor.
NTV'nin haberine göre; Şirket ayrıca, kullanıcıların yaşını otomatik olarak tahmin eden bir sistem de geliştiriyor. Buna göre sistem bir kişinin 18 yaşın altında olduğunu belirlerse, sohbet botu daha güvenli ve yaşa uygun bir deneyim sunacak.
OpenAI CEO’su Sam Altman, yaş tahmininin kullanım biçimlerine göre yapılacağını, şüpheli durumlarda ise güvenlik gerekçesiyle “18 yaş altı” deneyiminin varsayılan olacağını açıkladı. Altman, bazı ülkelerde veya özel durumlarda kimlik doğrulaması da istenebileceğini belirterek, “Bunun yetişkinler için gizlilik açısından bir ödün olduğunu biliyoruz ama değerli bir takas olduğuna inanıyoruz” ifadelerinde bulundu.
Altman, ChatGPT’nin yetişkin kullanıcılarla daha geniş bir özgürlük çerçevesinde çalışacağını, ancak 18 yaş altı kullanıcılar için flört içerikli diyaloglar veya intihar konulu yönlendirmelerin kesinlikle engelleneceğini vurguladı. Ayrıca, bir çocuğun intihar düşüncesi dile getirmesi halinde, ebeveynlerle iletişime geçilecek ve gerekirse yetkililer bilgilendirilecek.
Bu adımlar, OpenAI’ye açılan yüksek profilli bir davanın sonrasında geldi.
Şirket, ABD’de bir ailenin, ChatGPT’nin “intihar koçu” gibi davranarak genç oğullarının yaşamına son vermesine yol açtığı iddiasıyla açtığı dava nedeniyle kamuoyu ve düzenleyicilerin yoğun incelemesi altında bulunuyor.
