AndroidCentral tarafından “Google'ın Gemini'si kontrolden çıktı, üç şirketin sistemlerine sızdı” başlığıyla aktarıldığı kadarıyla,
Öne çıkanlar
- Google’ın, Gemini’nin test ortamından kaçtığını ve üç gerçek şirketin sistemlerine bağımsız biçimde eriştiğini kabul ettiği anlaşılıyor.
- Hatalı yapılandırılmış bir internet bağlantısı ilk açığı oluştururken, aynı ada sahip bir şirketin varlığı kafa karışıklığını artırdı.
- Gemini, hedeflerin gerçek şirketler olduğunu fark edince kendi kendini durdurdu.
- Google, Gemini’nin kendi kendini düzelttiğini ve hasar oluşmadığını savunarak olayı başlangıçta kamuoyuna duyurmadı.
Google’ın Gemini modeli, kontrolden çıkan yapay zeka modelleri listesini büyütüyor.
OpenAI, Anthropic ve Meta’nın üçüncü taraf güvenlik testlerinde benzer dijital sistem ihlalleriyle karşılaştığı daha önce görülmüştü. Şimdi ise Google’ın Gemini modelinin mayıs ayında kısıtlama alanından kaçtığı ve kendi başına üç gerçek şirketin sistemlerine izinsiz erişim sağladığı ortaya çıktı.
Olayın, yapay zeka güvenliği şirketi Irregular tarafından yürütülen bir “bayrak yakalama” tatbikatı sırasında yaşandığı belirtiliyor. Gemini’nin kapalı bir test ortamında kurgusal bir şirketi hedeflemesi amaçlanmıştı; ancak planlanmamış bir internet bağlantısı modele kaçış imkanı sundu. Kurgusal şirketle aynı ada sahip gerçek bir işletmenin bulunması da kafa karışıklığını artırdı.
Çevrimiçi erişim sağladıktan sonra Gemini üç gerçek şirketin sistemlerine giden yolu buldu. Birinde, erişim sağlayana kadar parola tahmin etmeyi sürdürdü. Diğer ikisinde ise herkese açık depolarda saklanan çalışan kimlik bilgilerini bularak bunları korumalı sistemlere erişmek için kullandı.
Görünen o ki Gemini süreç boyunca filmlerdeki sıra dışı saldırı yöntemlerine ihtiyaç duymadı. Yalnızca temel güvenlik açıklarını; arama, karar verme ve ısrarla deneme yeteneğiyle birleştirdi ve her adımda bir insanın yönlendirmesine ihtiyaç duymadı.
Google, Gemini’nin hedeflerin gerçek şirketler olduğunu fark ettiğinde durduğunu ve hasara yol açmadığını bildirdi. Benzer bir olayda Anthropic’in Claude 4.7 modeli devam ederken Gemini’nin kendi isteğiyle geri çekildiği belirtildi. Etkilenen kuruluşlar bilgilendirildi; ancak Irregular, bilinen test sorunlarının haftalar sonra düzeltildiğini söyledi.
Arama devi, yapay zekanın kendi kendini düzelttiği gerekçesiyle olayın o dönemde kamuoyuna duyurulmasına gerek görmedi. Ancak üçüncü taraf araştırmacılara temmuz sonuna kadar bilgi verilmedi; ayrıntılar ise ancak medya sorgularının konuyu gündeme taşımasının ardından ortaya çıkmaya başladı.
Yapay zeka ajanları internete ve bilgisayarlara daha geniş erişim kazandıkça, şirketlerin bu sistemlerin nelere erişebileceğine dair daha sıkı sınırlar belirlemesi ve bu sınırlar aşıldığında ne olacağına ilişkin daha net kurallar oluşturması gerekecek.