Yapay zeka şirketi Anthropic’ten kısa süre önce ayrılan 27 yaşındaki araştırmacı Jacob Coxon, BBC’ye yaptığı açıklamada yapay zeka alanında çalışan bazı kişilerin teknolojinin gelişme hızı ve olası riskleri konusunda ciddi endişeler taşıdığını söyledi. Coxon, mevcut ilerleme hızının yavaşlatılması gerektiğini savundu.
Coxon yapay zekanın gelişme hızına dikkat çekti
Anthropic’ten ayrılmadan önce OpenAI’da da çalışan Coxon’ın, yapay zekanın olası tehlikelerine ilişkin görüşlerini paylaştığı istifa açıklaması gündeme gelmişti.
BBC’den Laura Kuenssberg’e konuşan Coxon, mevcut gelişme hızının devam etmesi durumunda insanlık açısından ciddi risklerin ortaya çıkabileceğini ileri sürdü.
Coxon, yapay zeka şirketlerinde çalışan kişilerin düzenleme taleplerinde ciddi olduklarını belirterek şirketlerin sektör içerisindeki rekabet nedeniyle kendilerini bir yarışın içinde gördüklerini ve bunun sonuçlarından endişe duyduklarını söyledi.
Amodei yapay zekada yavaşlama çağrısı yaptı
Anthropic Başkanı Dario Amodei de yapay zeka geliştirme çalışmalarının yavaşlatılması yönünde çağrıda bulundu.
Amodei, 12 Eylül’de yayımladığı makalede teknolojinin geliştirilmesine karşı olmadığını ancak yapay zekayla bağlantılı risklerin ciddi olduğunu belirtti. Amodei, şirketlere ve hükümetlere bu risklere karşı önlem alabilmeleri için zaman tanınması gerektiğini savundu.
OpenAI CEO’su Sam Altman ve xAI CEO’su Elon Musk’ın da sektör genelinde yavaşlamaya yönelik görüşlere katıldıkları belirtildi.
Coxon ise olası bir yavaşlamanın uluslararası rekabete dönüşmemesi için Çin ile koordineli şekilde gerçekleştirilmesi gerektiğini ifade etti.
Anthropic’ten açıklama geldi
Coxon’ın açıklamalarının ardından Anthropic sözcüsü BBC News’e yaptığı değerlendirmede şirketin yapay zekanın önemli faydaların yanı sıra daha önce görülmemiş riskler de ortaya çıkarabileceği konusunda şeffaf olduğunu söyledi.
Şirket, riskleri azaltmak amacıyla güvenlik önlemleri bulunan modeller geliştirmeye devam ettiğini, modellerin çalışma biçimlerini incelediğini ve test sonuçlarını yayımladığını bildirdi.
Anthropic ayrıca güçlü yapay zeka modellerinin piyasaya sürülmesi konusunda sektör genelinde yasal ve doğrulanabilir bir iş birliği yönteminin faydalı olacağını savundu.
Sektörde farklı görüşler dile getiriliyor
Coxon, bazı meslektaşlarının yapay zekayla bağlantılı ciddi risklerin önümüzdeki iki yıl içerisinde ortaya çıkabileceğinden endişe duyduğunu söyledi. Bazı çalışanların olası toplumsal istikrarsızlığa karşı kişisel planlar yaptıklarını da ileri sürdü.
Anthropic araştırmacısı Evan Hubinger ise önümüzdeki 10 yıl içinde yapay zekanın insanlığın yok olmasına yol açma ihtimalinin yüzde 10’dan fazla olduğunu düşündüğünü açıkladı.
Nobel ödüllü bilgisayar bilimci Geoffrey Hinton da 11 Eylül’de BBC’ye verdiği demeçte, yapay zekanın insanlığı yok etme ihtimalinin yüzde 10 olarak değerlendirilmesinin makul olmayan bir tahmin olmadığını söyledi.
Yapay zeka güvenliği şirketi Faculty’nin CEO’su Marc Warner ise böyle bir olasılığın kesin olarak hesaplanmasının son derece zor olduğunu belirtti.
Yapay zeka risklerine yönelik görüşlere eleştiri
Sektörde Coxon ve Amodei’nin değerlendirmelerine karşı çıkan isimler de bulunuyor.
Hugging Face CEO’su Clement Delangue, Coxon’ın yapay zekanın insanlığın yok olmasına ilişkin riskleri değerlendirmesinin doğru perspektifle ele alınması gerektiğini savundu. Delangue daha sonra Amodei’nin önerdiği olası çözümlere katkı sunmaya hazır olduğunu açıkladı.
Grindr CEO’su George Arison ise yapay zeka şirketlerinin risklere yönelik açıklamalarının yatırımcı ilgisini artırmaya yönelik olabileceğini öne sürdü.
Nvidia CEO’su Jensen Huang da Goldman Sachs tarafından düzenlenen bir konferansta Coxon’ın değerlendirmelerine katılmadığını söyledi.
Trump: Yapay zekada Çin’in önündeyiz
ABD Başkanı Donald Trump, 13 Eylül’de gazetecilere yaptığı açıklamada ABD’nin yapay zeka alanında Çin’in önünde olduğunu belirterek bu konumun korunmasını istediğini söyledi.
Anthropic’in olası bir halka arz için hazırlık yaptığı da belirtilirken, bazı eleştirmenler şirketin düzenleme çağrılarının sektördeki rekabeti sınırlandırabileceğini savundu.
OpenAI’ın da halka arzının beklendiği, ancak CEO Sam Altman’ın 11 Eylül’de yapay zeka güvenliğine ilişkin endişeleri gerekçe göstererek bunun bu yıl gerçekleşmeyeceğini açıkladığı belirtildi.
Coxon ise yapay zekanın geleceğine ilişkin olumlu beklentilerinin de bulunduğunu ifade ederek araştırmacıların teknolojinin hastalıkların çözümüne ve insanların yaşam koşullarının iyileştirilmesine katkıda bulunmasını istediğini söyledi.
