İngiltere İletişim Ofisi (Ofcom), Elon Musk’ın sahibi olduğu xAI şirketi tarafından geliştirilen ve X platformuna entegre edilen yapay zekâ sohbet robotu Grok hakkında resmi bir inceleme başlattı. İnceleme gerekçesi olarak, Grok’un cinsel içerikli, rıza dışı ve yasa dışı sahte görüntüler üretmesi gösterildi. Ofcom, bu durumun özellikle çocuklara yönelik istismar riski taşıdığına dikkat çekti.
Çevrimiçi Güvenlik Yasası kapsamında ilk ciddi adım
Ofcom tarafından yapılan açıklamaya göre, inceleme süreci İngiltere’nin yeni yürürlüğe giren Çevrimiçi Güvenlik Yasası kapsamında gerçekleştirilecek. Bu yasa, teknoloji şirketlerine, çevrimiçi içeriklerin güvenliğini sağlama konusunda daha geniş sorumluluklar yüklüyor. Grok’un ürettiği cinsel içerikli sahte görüntülerin, kişilerin rızası olmadan yayılmasının ciddi bir yasal ihlal olduğu vurgulandı.
X platformuna resmi bildirim gönderildi
Yetkililer, uygunsuz içerik üretimi nedeniyle 5 Ocak’ta X platformu ile temasa geçildiğini ve şirketten 9 Ocak’a kadar olaylarla ilgili detaylı açıklama talep edildiğini bildirdi. Ofcom’un açıklamasında, “X’in yasa kapsamında belirlenen yükümlülüklerini yerine getirip getirmediği değerlendirilmek üzere resmi bir soruşturma başlatılmıştır” denildi.
Ofcom’un gündeminde çocuk güvenliği ve rıza dışı içerikler var
İncelemede odaklanılacak başlıca noktalar şu şekilde sıralandı:
Yasa dışı içeriklerin hızlıca kaldırılıp kaldırılmadığı,
Çocukların cinsel istismarı içeren materyallerin engellenip engellenmediği,
Rıza dışı elde edilmiş içeriklerin yayılmasının durdurulup durdurulmadığı,
Yaş sınırlarının etkin bir şekilde uygulanıp uygulanmadığı,
Platformun İngiltere'deki çocuklara yönelik riskleri nasıl yönettiği,
Bu başlıklar, yapay zekâ tabanlı uygulamaların dijital ortamdaki sorumluluğunu ve denetlenebilirliğini yeniden gündeme taşıdı.
Cezai yaptırımlar kapıda
Ofcom, inceleme sürecinde X’ten delillere dair yanıtlar talep edecek. Eğer şirketin yasayı ihlal ettiği sonucuna varılırsa, önce düzeltme süresi tanınacak. Ancak yükümlülüklerin yerine getirilmemesi durumunda 18 milyon sterline kadar ya da şirketin küresel gelirinin yüzde 10’u oranında para cezası uygulanabilecek.
“Çocukları korumak kırmızı çizgimizdir”
Ofcom sözcüsü konuyla ilgili açıklamasında şu ifadeleri kullandı:
“Grok’un, X platformunda yasa dışı ve rıza dışı cinsel içerikler üretmesi son derece endişe verici. Özellikle çocukların güvenliği söz konusu olduğunda, dijital platformların görevlerini ihmal etmesine asla göz yummayız. Bu incelemeyi en yüksek öncelikli konu olarak ele alıyoruz.”
İngiltere'nin Grok ve X platformuna yönelik bu adımı, yapay zekânın etik sınırları ve çevrimiçi güvenlik açısından emsal niteliği taşıyabilir.
