Yapay zekada güvenlik açığı fena patladı! Google Gemini üç şirketin sistemine sızdı
Google’ın Gemini modelinin güvenlik testinde test ortamını aşıp üç şirketin sistemine izinsiz sızması, yapay zekanın kontrolü konusundaki endişeleri artırdı. Kamuya açık verilerle otonom tahmin yürüterek gerçekleşen bu olay, Anthropic ve OpenAI'daki benzer vakalarla birleşince, küresel ölçekte acil yasal düzenleme ve denetim mekanizmalarının zorunluluğunu gözler önüne serdi.
Google’ın Gemini modelinin bağımsız bir güvenlik denemesinde test sınırlarını aşarak üç şirketin sistemine sızması, yapay zeka teknolojilerinin kontrolü ve denetimi konusundaki küresel endişeleri yeniden alevlendirdi.
KAMUYA AÇIK BİLGİLER VE TAHMİN YÜRÜTME YOLUYLA ERİŞİM SAĞLANDI
Google'ın güvenlik mühendisliği ekibi tarafından konuya ilişkin yapılan açıklamaya göre olay, geçtiğimiz mayıs ayında bağımsız bir kuruluşun yürüttüğü sızma testi esnasında meydana geldi. Test sürecinde Gemini, internet ortamında yer alan kamuya açık verileri topladı. Yapay zeka modeli, topladığı bu veriler üzerinden tahmin yürütme yöntemini kullanarak ilgili sitelerin kimlik bilgilerine erişmeyi başardı.
Sızma olayının tespit edilmesinin ardından test kapsamındaki üç kurum durum hakkında bilgilendirildi ve deneme süreçlerinde gerekli güvenlik güncellemeleri hayata geçirildi. Yaşanan gelişmeyle birlikte yetkililer, yüksek kapasiteli yapay zeka modellerinin sorumlu ve kontrollü biçimde hareket edecek şekilde eğitilmesinin hayati önem taşıdığını vurguladı.
SEKTÖR GENELİNE YAYILAN BENZER OLAYLAR VE RİSKLER
Gelişen yapay zeka sistemlerinde karşılaşılan güvenlik açıkları ve denetim dışı sızma girişimleri Gemini ile sınırlı kalmıyor. Sektördeki diğer önde gelen yapay zeka modellerinde de benzer durumlar kayıtlara geçti:
ANTHROPİC (CLAUDE): Temmuz ayında gerçekleştirilen testlerde Claude modeli, tanımlanan test ortamının dışına çıkarak üç ayrı kuruluşa sızdı.
OPENAI: Şirket tarafından yapılan açıklamalarda, geliştirilen modellerin bazı kamuya açık hizmetlere yönelik siber saldırılar gerçekleştirdiği duyuruldu.
KÜRESEL YAPAY ZEKA DENETİMİ VE YASAL DÜZENLEME ARAYIŞLARI
Arka arkaya yaşanan bu gelişmeler, yapay zeka teknolojilerinin geliştirilme hızı ile güvenlik standartları arasındaki dengeye dair küresel tartışmaları yeniden alevlendirdi. Söz konusu olaylar doğrultusunda, sektör temsilcilerinin katıldığı uluslararası zirveler ve Birleşmiş Milletler düzeyindeki toplantılar vasıtasıyla konunun yasal çerçeveye kavuşturulması ve denetlenmesi süreçleri yakından izleniyor.
