Yapay zeka öyle bir fişleme sistemi kurmuşlar ki! Kendilerine karşı duranları izliyorlar...

Yapay zeka dünyasının önde gelen şirketlerinden Anthropic hakkında gündeme bomba gibi düşen bir iddia ortaya atıldı. The American Prospect, şirketin yapay zekanın hızlı gelişimine karşı çıkan çalışanları, aktivistleri, protestoları ve olası tehditleri takip etmek amacıyla kapsamlı bir güvenlik ve istihbarat sistemi geliştirdiğini yazdı.

Habere göre Anthropic, güvenlik yapılanmasını yalnızca şirket yöneticilerini ve tesislerini koruyacak şekilde değil, gelecekte yaşanabilecek protesto ve tehditleri önceden tahmin edecek bir modele dönüştürüyor.

İŞ İLANI SİSTEMİ ORTAYA ÇIKARDI

The American Prospect’in araştırmasına göre şirketin Global Safety, Intelligence and Security (GSIS) birimi genişletiliyor. Anthropic tarafından yayımlanan bir iş ilanında, “enterprise intelligence specialist” pozisyonu için yıllık 180 bin ila 230 bin dolar arasında maaş öngörülüyor.

Pozisyonun görev tanımında ise küresel tehditlerin tespit edilmesi, değerlendirilmesi, takip edilmesi ve soruşturulmasının yanı sıra aktivizm, jeopolitik istikrarsızlık, suç, terörizm ve yapay zeka sektörünü hedef alan faaliyerler gibi başlıklar da yer alıyor.

PROTESTOLAR DAHA GERÇEKLEŞMEDEN TESPİT EDİLİYOR

Sistemin en dikkat çekici tarafı ise yalnızca meydana gelen olayların izlenmesiyle sınırlı kalmaması.

Anthropic'in güvenlik ekibinin, protestoları gerçekleşmeden önce tespit etmeye ve olası gelişmeleri tahmin etmeye çalıştığı belirtildi.

Şirketin Global Security Operations Center yöneticisi Keon Ellison'ın daha önce katıldığı bir podcastte anlattığı olay ise sistemin nasıl kullanıldığını ortaya koydu.

Ellison'a göre Anthropic'in bir yöneticisi büyük bir şehre seyahat ettiği sırada şirket, tehdit istihbaratı firması Samdesk üzerinden bölgede protesto düzenleneceğine ilişkin bilgi aldı. Protestonun başlangıç saati sonradan değiştirilince Samdesk, Anthropic'e yaklaşık 60 dakika önceden haber verdi.

Şirket bunun üzerine yöneticinin güzergahını değiştirdi ve otelin servis girişini kullanmasını sağladı.

Ellison, erken uyarı sayesinde yöneticinin protestonun ortasına çıkmasının engellendiğini anlattı.

"KİŞİ TAKİBİ" TARTIŞMASI

Anthropic'in güvenlik yaklaşımını daha da tartışmalı hale getiren nokta ise şirketin belirli kişilerin davranışlarını zaman içerisinde takip ettiğine ilişkin açıklamalar.

Şirket, temmuz ayında Wall Street Journal'a yaptığı açıklamada, “endişe verici davranışları zaman içinde” takip ettiklerini ve bir “ilgili kişi” süreci kullanarak davranışlardaki tırmanma modellerini erken yakalamaya çalıştıklarını söyledi.

POLİSE DE BİLDİRİM YAPILIYOR
İddialara göre Anthropic'in güvenlik sistemi yalnızca şirket içerisinde kullanılmıyor. Şirketin ülke genelindeki polis birimlerine tehdit bildirimleri yaptığı da aktarıldı.

Bunlardan biri, Anthropic CEO'su Dario Amodei'yi hedef aldığını söyleyen bir Claude kullanıcısıyla ilgiliydi. Şirket söz konusu kişiyi polise bildirdi ancak kendi politikalarını gerekçe göstererek kullanıcının mesajlarını kolluk kuvvetleriyle paylaşmadı.

Söz konusu kişi ise daha sonra ifadelerinin şaka olduğunu söyledi.

YAPAY ZEKA KARŞITI HAREKET BÜYÜRKEN "GÜVENLİK ALARMI"
Anthropic'in bu hamlesi, yapay zeka sektörüne yönelik tepkinin ABD'de giderek büyüdüğü bir dönemde geldi.

Temmuz ayında San Francisco'da yaklaşık 200 kişi, OpenAI, Anthropic ve Google DeepMind ofislerine uzanan bir yürüyüş düzenleyerek şirketlerden yapay zeka yarışını durdurmalarını istemişti. Protestocular; iş kayıpları, yükselen kiralar, veri merkezlerinin çevresel etkileri ve yapay zekanın gelecekte yaratabileceği risklere tepki göstermişti.

Wall Street Journal da aynı dönemde yapay zeka şirketlerinin artan protestolar ve tehditler nedeniyle güvenlik önlemlerini artırdığını bildirmişti. Anthropic'in ofisine izinsiz giren bir kişinin bir şirket yöneticisinin öldürüleceğini söylediği olay da bu güvenlik endişelerinin örneklerinden biri olarak aktarılmıştı.

"GÜVENLİ YAPAY ZEKA" İMAJIYLA ÇELİŞİYOR
İddiaların Anthropic açısından en dikkat çekici tarafı ise şirketin kamuoyundaki konumuyla bağlantılı.

Anthropic kendisini uzun süredir yapay zekanın güvenli ve sorumlu biçimde geliştirilmesini savunan şirketlerden biri olarak konumlandırıyor. Ancak muhalif çalışanların ve aktivistlerin izlenmesine yönelik genişleyen güvenlik yapılanmasının bu imajla çeliştiği belirtiliyor.

ŞİRKET İÇİNDE İSTİFA GELDİ
Bu tartışmalarla eş zamanlı olarak Anthropic araştırmacısı Jacob Coxon'ın istifası gündeme geldi.

Yaklaşık üç yıl boyunca OpenAI ve Anthropic'te araştırma yapan Coxon, 9 Eylül'de yaptığı açıklamada iki şirketin de yapay zekayı daha ileri götürmek için yürüttüğü rekabetin güvenlik kaygılarının önüne geçtiğini savundu.

Coxon'a göre şirketler, kendi kendini geliştirebilen süper yapay zekaya ulaşma yarışında insanlığın karşı karşıya olduğu riskleri yeterince ciddiye almıyor.

Araştırmacının açıklamaları kısa sürede viral olurken, Coxon'ın mesajlarının 100 milyondan fazla kişiye ulaştığı bildirildi.

Coxon, AI yarışını durduracak bir mekanizma oluşturulmadığı takdirde önümüzdeki birkaç yılın insanlık açısından kritik olabileceğini savundu.

“İNSANLIĞIN SONUNU GETİREBİLİR”
Coxon'ın en çarpıcı uyarılarından biri, gelişmiş yapay zekanın insan kontrolünden çıkması halinde insanlığın yok oluşuna kadar gidebilecek bir risk oluşturabileceği yönündeydi.

WIRED'a konuşan araştırmacı, Anthropic'teki bazı meslektaşlarının mevcut dönemi “son aşama” veya “kritik dönem” olarak gördüğünü söyledi. Ona göre şirketler arasındaki yarış, güvenlik konusunda geri adım atılmasına yol açabilecek kadar yoğun hale gelmiş durumda.

Coxon'ın dikkat çeken bir başka hamlesi de şirketten ayrılırken maddi kayıp yaşamayı göze alması oldu. Axios'a göre araştırmacı, Anthropic'teki hisselerinin hak ediş tarihinden iki ay önce istifa ederek önemli bir finansal kazançtan vazgeçti.

"RİSKLERİN FARKINDAYIZ"
Anthropic ise Coxon'ın açıklamalarının ardından güvenlik konusundaki çalışmalarını savundu.

Şirket, yapay zekanın hem büyük faydalar hem de daha önce görülmemiş riskler taşıdığını kabul ederken, güçlü modellerin geliştirilme hızının güvenlik çalışmalarıyla birlikte ele alınması gerektiğini belirtti.

Ancak ortaya çıkan tablo şirket açısından dikkat çekici bir çelişki yarattı. Yapay zeka karşıtı çalışanların ve aktivistlerin oluşturabileceği tehditleri önceden tespit etmek için güvenlik ve istihbarat kapasitesini büyüten Anthropic'in kendi içerisinden bir araştırmacı, AI yarışının insanlık için tehlikeli hale geldiği uyarısıyla şirketten ayrıldı.

Üstelik Coxon'ın uyarıları tek başına değil. Reuters da son günlerde AI modellerinin yeteneklerinin hızla artmasıyla birlikte modellerin davranışlarının izlenebilirliğinin azalması ve daha fazla özerklik kazanması konusunda araştırmacıların artan endişelerine dikkat çekti.

POLİSE DE BİLDİRİM YAPILIYOR

İddialara göre Anthropic'in güvenlik sistemi yalnızca şirket içerisinde kullanılmıyor. Şirketin ülke genelindeki polis birimlerine tehdit bildirimleri yaptığı da aktarıldı.

Bunlardan biri, Anthropic CEO'su Dario Amodei'yi hedef aldığını söyleyen bir Claude kullanıcısıyla ilgiliydi. Şirket söz konusu kişiyi polise bildirdi ancak kendi politikalarını gerekçe göstererek kullanıcının mesajlarını kolluk kuvvetleriyle paylaşmadı.

Söz konusu kişi ise daha sonra ifadelerinin şaka olduğunu söyledi.

YAPAY ZEKA KARŞITI HAREKET BÜYÜRKEN "GÜVENLİK ALARMI"

Anthropic'in bu hamlesi, yapay zeka sektörüne yönelik tepkinin ABD'de giderek büyüdüğü bir dönemde geldi.

Temmuz ayında San Francisco'da yaklaşık 200 kişi, OpenAI, Anthropic ve Google DeepMind ofislerine uzanan bir yürüyüş düzenleyerek şirketlerden yapay zeka yarışını durdurmalarını istemişti. Protestocular; iş kayıpları, yükselen kiralar, veri merkezlerinin çevresel etkileri ve yapay zekanın gelecekte yaratabileceği risklere tepki göstermişti.

Wall Street Journal da aynı dönemde yapay zeka şirketlerinin artan protestolar ve tehditler nedeniyle güvenlik önlemlerini artırdığını bildirmişti. Anthropic'in ofisine izinsiz giren bir kişinin bir şirket yöneticisinin öldürüleceğini söylediği olay da bu güvenlik endişelerinin örneklerinden biri olarak aktarılmıştı.

"GÜVENLİ YAPAY ZEKA" İMAJIYLA ÇELİŞİYOR

İddiaların Anthropic açısından en dikkat çekici tarafı ise şirketin kamuoyundaki konumuyla bağlantılı.

Anthropic kendisini uzun süredir yapay zekanın güvenli ve sorumlu biçimde geliştirilmesini savunan şirketlerden biri olarak konumlandırıyor. Ancak muhalif çalışanların ve aktivistlerin izlenmesine yönelik genişleyen güvenlik yapılanmasının bu imajla çeliştiği belirtiliyor.

ŞİRKET İÇİNDE İSTİFA GELDİ

Bu tartışmalarla eş zamanlı olarak Anthropic araştırmacısı Jacob Coxon'ın istifası gündeme geldi.

Yaklaşık üç yıl boyunca OpenAI ve Anthropic'te araştırma yapan Coxon, 9 Eylül'de yaptığı açıklamada iki şirketin de yapay zekayı daha ileri götürmek için yürüttüğü rekabetin güvenlik kaygılarının önüne geçtiğini savundu.

Coxon'a göre şirketler, kendi kendini geliştirebilen süper yapay zekaya ulaşma yarışında insanlığın karşı karşıya olduğu riskleri yeterince ciddiye almıyor.

Araştırmacının açıklamaları kısa sürede viral olurken, Coxon'ın mesajlarının 100 milyondan fazla kişiye ulaştığı bildirildi.

Coxon, AI yarışını durduracak bir mekanizma oluşturulmadığı takdirde önümüzdeki birkaç yılın insanlık açısından kritik olabileceğini savundu.

“İNSANLIĞIN SONUNU GETİREBİLİR”

Coxon'ın en çarpıcı uyarılarından biri, gelişmiş yapay zekanın insan kontrolünden çıkması halinde insanlığın yok oluşuna kadar gidebilecek bir risk oluşturabileceği yönündeydi.

WIRED'a konuşan araştırmacı, Anthropic'teki bazı meslektaşlarının mevcut dönemi “son aşama” veya “kritik dönem” olarak gördüğünü söyledi. Ona göre şirketler arasındaki yarış, güvenlik konusunda geri adım atılmasına yol açabilecek kadar yoğun hale gelmiş durumda.

Coxon'ın dikkat çeken bir başka hamlesi de şirketten ayrılırken maddi kayıp yaşamayı göze alması oldu. Axios'a göre araştırmacı, Anthropic'teki hisselerinin hak ediş tarihinden iki ay önce istifa ederek önemli bir finansal kazançtan vazgeçti.

"RİSKLERİN FARKINDAYIZ"

Anthropic ise Coxon'ın açıklamalarının ardından güvenlik konusundaki çalışmalarını savundu.

Şirket, yapay zekanın hem büyük faydalar hem de daha önce görülmemiş riskler taşıdığını kabul ederken, güçlü modellerin geliştirilme hızının güvenlik çalışmalarıyla birlikte ele alınması gerektiğini belirtti.

Ancak ortaya çıkan tablo şirket açısından dikkat çekici bir çelişki yarattı. Yapay zeka karşıtı çalışanların ve aktivistlerin oluşturabileceği tehditleri önceden tespit etmek için güvenlik ve istihbarat kapasitesini büyüten Anthropic'in kendi içerisinden bir araştırmacı, AI yarışının insanlık için tehlikeli hale geldiği uyarısıyla şirketten ayrıldı.

Üstelik Coxon'ın uyarıları tek başına değil. Reuters da son günlerde AI modellerinin yeteneklerinin hızla artmasıyla birlikte modellerin davranışlarının izlenebilirliğinin azalması ve daha fazla özerklik kazanması konusunda araştırmacıların artan endişelerine dikkat çekti.