Yapay zeka şirketi Anthropic'in güvenlik ve istihbarat yapılanmasına ilişkin dikkat çeken iddialar gündeme geldi. The American Prospect'in araştırmasına göre şirket, yapay zekanın hızlı gelişimine karşı çıkan çalışanları, aktivistleri, protestoları ve olası tehditleri takip edebilecek kapsamlı bir güvenlik sistemi geliştiriyor.
İş ilanındaki görev tanımı dikkat çekti
Araştırmaya göre Anthropic'in Global Safety, Intelligence and Security (GSIS) birimi genişletiliyor. Şirketin yayımladığı "enterprise intelligence specialist" pozisyonu için yıllık 180 bin ile 230 bin dolar arasında maaş öngörülüyor.
Görev tanımında küresel tehditlerin tespit edilmesi, değerlendirilmesi, takip edilmesi ve soruşturulmasının yanı sıra aktivizm, jeopolitik istikrarsızlık, suç, terörizm ve yapay zeka sektörünü hedef alan faaliyetler de bulunuyor.
Protestolar gerçekleşmeden önce takip ediliyor
Haberde, Anthropic'in güvenlik ekibinin yalnızca gerçekleşmiş olayları incelemediği, protestoları önceden tespit ederek olası gelişmeleri tahmin etmeye de çalıştığı belirtildi.
Şirketin Global Security Operations Center yöneticisi Keon Ellison'ın anlattığı bir olayda, bir Anthropic yöneticisinin büyük bir şehre yaptığı seyahat sırasında tehdit istihbaratı şirketi Samdesk üzerinden protesto düzenleneceğine ilişkin bilgi alındığı aktarıldı.
Protestonun başlangıç saatinin değiştirilmesinin ardından Samdesk'in Anthropic'e yaklaşık 60 dakika önceden haber verdiği belirtildi. Bunun üzerine yöneticinin güzergahı değiştirilerek otelin servis girişini kullanması sağlandı.
Belirli kişilerin davranışları da izleniyor
Anthropic'in güvenlik yaklaşımında tartışma yaratan bir diğer konu ise belirli kişilerin davranışlarının zaman içerisinde takip edilmesi oldu. Şirket, temmuz ayında Wall Street Journal'a yaptığı açıklamada "endişe verici davranışları zaman içinde" takip ettiğini ve davranışlardaki olası tırmanmayı erken belirlemek amacıyla bir "ilgili kişi" süreci kullandığını açıkladı.
İddialara göre Anthropic'in güvenlik sistemi şirket içerisindeki çalışmalarla da sınırlı kalmıyor. Şirketin bazı tehditlerle ilgili ABD'deki polis birimlerine bildirim yaptığı aktarıldı.
Örneklerden birinde, Anthropic CEO'su Dario Amodei'yi hedef aldığını söyleyen bir Claude kullanıcısının polise bildirildiği belirtildi. Şirketin kendi politikalarını gerekçe göstererek kullanıcının mesajlarını kolluk kuvvetleriyle paylaşmadığı, söz konusu kişinin ise daha sonra ifadelerinin şaka olduğunu söylediği aktarıldı.
Yapay zeka şirketlerine yönelik protestolar arttı
Anthropic'in güvenlik kapasitesini genişlettiğine yönelik iddialar, ABD'de yapay zeka şirketlerine karşı protestoların arttığı bir dönemde gündeme geldi.
Temmuz ayında San Francisco'da yaklaşık 200 kişi OpenAI, Anthropic ve Google DeepMind ofislerine uzanan bir yürüyüş düzenledi. Protestocular, şirketlerden yapay zeka yarışını durdurmalarını isterken iş kayıpları, yükselen kiralar, veri merkezlerinin çevresel etkileri ve yapay zekanın gelecekte oluşturabileceği risklere tepki gösterdi.
Wall Street Journal da aynı dönemde yapay zeka şirketlerinin artan protestolar ve tehditler nedeniyle güvenlik önlemlerini güçlendirdiğini bildirdi.
Anthropic araştırmacısı şirketten ayrıldı
Güvenlik sistemiyle ilgili tartışmalar sürerken Anthropic araştırmacısı Jacob Coxon'ın istifası da gündeme geldi. Yaklaşık üç yıl boyunca OpenAI ve Anthropic'te araştırmalar yapan Coxon, 9 Eylül'deki açıklamasında iki şirketin yapay zekayı daha ileri taşımak için yürüttüğü rekabetin güvenlik kaygılarının önüne geçtiğini savundu.
Coxon'a göre şirketler, kendi kendini geliştirebilen süper yapay zekaya ulaşma yarışında ortaya çıkabilecek riskleri yeterince ciddiye almıyor. Araştırmacı, yapay zeka yarışını durdurabilecek bir mekanizma oluşturulmaması halinde önümüzdeki birkaç yılın insanlık açısından kritik olabileceğini öne sürdü.
"İnsanlığın sonunu getirebilir" uyarısı
Coxon, gelişmiş yapay zekanın insan kontrolünden çıkması halinde insanlığın yok oluşuna kadar uzanabilecek bir risk oluşturabileceğini savundu.
WIRED'a konuşan araştırmacı, Anthropic'teki bazı çalışma arkadaşlarının mevcut dönemi "son aşama" veya "kritik dönem" olarak değerlendirdiğini söyledi. Coxon'a göre şirketler arasındaki yoğun rekabet, güvenlik konusunda geri adım atılmasına yol açabilecek bir noktaya ulaşmış durumda.
Ayrıca Axios'a göre Coxon, Anthropic'teki hisselerinin hak ediş tarihinden iki ay önce şirketten ayrılarak önemli bir finansal kazançtan vazgeçti.
Anthropic güvenlik çalışmalarını savundu
Anthropic ise Coxon'ın açıklamalarının ardından güvenlik alanındaki çalışmalarını savundu. Şirket, yapay zekanın önemli faydaların yanında daha önce görülmemiş riskler de taşıdığını kabul ederek güçlü modellerin geliştirilme hızının güvenlik çalışmalarıyla birlikte ele alınması gerektiğini belirtti.
Ortaya atılan iddialar, kendisini güvenli ve sorumlu yapay zeka geliştirme yaklaşımıyla konumlandıran Anthropic'in genişleyen güvenlik ve istihbarat yapılanmasını yeniden tartışmaya açtı.
