Şirketin kurucu ortaklarından Jack Clark ile Anthropic Enstitüsü Lideri Marina Favaro tarafından kaleme alınan "Yapay zeka kendini inşa ettiğinde" başlıklı blog yazısında, yapay zeka teknolojilerinin geleceğine ilişkin dikkat çekici değerlendirmelere yer verildi.
Yazıda, geçmişte yapay zeka geliştirme süreçlerinin büyük ölçüde insanlar tarafından yürütüldüğü ancak günümüzde bu görevlerin giderek daha fazla yapay zeka sistemlerine devredilmeye başlandığı ifade edildi.
Anthropic'e göre bu değişim, geliştirme süreçlerinin hızlanmasına katkı sağlıyor.
"Kendi haleflerini geliştirebilirler"
Blog yazısında, mevcut eğilimin devam etmesi halinde yapay zeka sistemlerinin gelecekte kendi haleflerini tasarlayıp geliştirebilecek seviyeye ulaşabileceği belirtildi.
Bu süreç, teknoloji dünyasında "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak tanımlanıyor.
Anthropic tarafından yapılan değerlendirmede, "Henüz o noktada değiliz ve özyinelemeli kendini geliştirme kaçınılmaz değil. Ancak çoğu kurumun hazırlandığından daha erken gerçekleşebilir." ifadelerine yer verildi.
Kontrol kaybı riskine dikkat çekildi
Şirket, yapay zeka alanındaki teknik gelişmelerin önümüzdeki yıllarda sistemleri çok daha yetenekli hale getireceğini öngörüyor.
Yazıda, kendi kendini geliştirebilen yapay zeka sistemlerinin bilim, sağlık ve birçok farklı sektörde önemli faydalar sağlayabileceği belirtilirken, aynı zamanda çeşitli riskler de taşıdığı vurgulandı.
Anthropic, özellikle insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme ihtimaline dikkat çekerek, gelişmiş sistemlerin güvenli şekilde yönetilmesinin kritik önem taşıdığını ifade etti.
Blog yazısında, "Sistemler kendi haleflerini tamamen inşa edebilecek kapasiteye sahipse, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha önemli hale gelir." değerlendirmesi yapıldı.
Yapay zeka geliştirme hızının yavaşlatılması önerisi
Yazıda ayrıca, toplumsal yapıların ve düzenleyici mekanizmaların teknolojik gelişmelere uyum sağlayabilmesi amacıyla ileri düzey yapay zeka geliştirme çalışmalarının geçici olarak yavaşlatılması veya belirli dönemlerde durdurulmasının değerlendirilebileceği ifade edildi.
Anthropic, böyle bir yaklaşımın etkili olabilmesi için yalnızca tek bir şirket veya ülke tarafından değil, birden fazla güçlü araştırma merkezi ve ülkenin ortak hareket etmesiyle uygulanmasının anlamlı olacağını belirtti.
Yapay zeka tartışmaları sürüyor
Son yıllarda yapay zekanın hızla gelişmesi, teknoloji dünyasında olduğu kadar hükümetler, akademi çevreleri ve uluslararası kuruluşlar arasında da güvenlik, etik ve denetim konularındaki tartışmaları artırmış durumda.
Anthropic'in yayımladığı son değerlendirme de yapay zekanın geleceğine ilişkin küresel ölçekte devam eden tartışmalara yeni bir boyut kazandırdı.
