ABD merkezli yapay zeka şirketi OpenAI'daki görevlerine son verilen üç araştırmacı, giderek daha otonom hale gelen yapay zeka sistemlerinin bağımsız kuruluşlar tarafından denetlenmesi çağrısında bulundu. OpenAI sözcüsü ise araştırmacıların önerilerine katıldıklarını açıkladı.
ABD merkezli yapay zeka şirketi OpenAI'da daha önce güvenlik alanında görev yapan üç araştırmacının, yapay zeka sistemlerinin denetlenmesine ilişkin şirket yönetimine mektup gönderdiği bildirildi.
Wall Street Journal (WSJ) gazetesinin haberine göre, görevlerine son verilmeden önce OpenAI yönetim kurulu üyelerine mektup gönderen araştırmacılar, yapay zeka teknolojilerinin gelişmesiyle birlikte güvenlik denetimlerinin önemine dikkat çekti.
BAĞIMSIZ GÜVENLİK DENETİMİ TALEP ETTİLER
Gazetenin ulaştığı mektupta araştırmacılar, yapay zeka şirketlerinin geliştirdikleri sistemlerin akıl yürütme süreçlerini gözlemleme kapasitesini kaybedebileceğine ilişkin endişelerini dile getirdi.
Araştırmacılar, giderek daha otonom hale gelen yapay zeka sistemlerinin oluşturabileceği risklere karşı güvenlik denetimlerinin şirketlerden bağımsız kuruluşlar tarafından gerçekleştirilmesi gerektiğini belirtti.
Yapay zeka sektöründe, denetlenemeyen modellerin güvenli şekilde nasıl geliştirilip kullanıma sunulacağının henüz bilinmediğini ifade eden araştırmacılar, OpenAI ve diğer teknoloji şirketlerine denetimi zorlaştıracak geliştirmelerden kaçınma çağrısında bulundu.
OPENAI'DAN AÇIKLAMA
OpenAI sözcüsü, Wall Street Journal'a yaptığı açıklamada, araştırmacıların mektupta yer verdiği önerilere tamamen katıldıklarını bildirdi.
Sözcü, yapay zeka modellerinin denetlenebilir olmasının şirket açısından büyük önem taşıdığını ifade etti.
GİZLİ BİLGİ PAYLAŞTIKLARI İDDİASI
Öte yandan, söz konusu üç araştırmacının bir yapay zeka güvenlik şirketiyle gizli bilgi paylaştıkları iddiası nedeniyle OpenAI'daki görevlerine son verildiği öne sürüldü.
