Dün Apple'ın yazılım geliştirme süreçlerine ilişkin iki ayrı rapor yayımlandı. İlk rapora göre şirket, Siri'ye daha ajan benzeri yetenekler kazandırmayı en erken gelecek yıl hedefliyor. İkinci rapora göre ise Üst Yönetici John Ternus, Craig Federighi'den yazılım geliştirmeyi hızlandırmasını istiyor.
Raporlar doğruysa, ikisinin bağlantılı olması kuvvetle muhtemel. Ancak Ternus gerçekten Siri'nin bir yapay zekâ ajanı gibi hareket etme yeteneğini hızlandırmaya çalışıyorsa, bu durum üç büyük riski beraberinde getirebilir.
Her iki rapor da aynı haber bülteninde yer aldı; ancak raporlar doğrudan birbirine bağlanmadı. Siri tarafında, haber bülteni rakip modellerin ajan benzeri yeteneklerini karşılaştırarak Apple'ın da aynı yönde ilerlemek istediğini öne sürdü.
Dots, Muse ve Grok gibi modeller hedefleri izleyebiliyor, sıradaki adımı belirleyebiliyor ve kullanıcının her adımı tek tek başlatmasına gerek kalmadan amaçlarını sürdürebiliyor. Kaynaklara göre Apple da bu yöne gitmek istiyor ve şirket Siri'yi en erken gelecek yıl bir ajan benzeri yapıya dönüştürebilir.
Ternus'un Federighi'den yazılım geliştirmeyi hızlandırmasını istemesine ilişkin raporda "Siri için gerekli iyileştirmelerin ötesine geçilmesi" ifadesi yer alıyor; ajan benzeri yetenekler bu ifadenin en açık adayı olarak değerlendiriliyor.
Ancak ajan benzeri yetenekler, çok sayıda şeyin çok ciddi biçimde yanlış gidebilmesi nedeniyle yapay zekânın en riskli biçimleri arasında yer alıyor.
Görevi yerine getirememek
En belirgin risk, görevin yerine getirilememesidir. Görevin önemine göre sonuçlar hafif bir rahatsızlıktan ciddi zararlara kadar değişebilir.
Teknoloji uzun süredir en büyük vaatlerinden birini yerine getiremedi: bizi sıradan işlerden kurtarıp zamanımızı daha tatmin edici uğraşlara ayırmamızı sağlamak. Örneğin popüler bir konser veya etkinlik bileti almak şu anda sayfayı yenilemek için zaman ayırmayı, kuyruk sisteminde beklemeyi ve sonunda işlemi tamamlamayı gerektiriyor. Bu işi bir yapay zekâya devretmek büyük kolaylık sağlayabilir.
Ancak bu tür nispeten önemsiz bir işte bile görev devredildikten sonra yapay zekâ biletleri alamazsa, özellikle basit bir hata nedeniyle bu durum büyük bir hayal kırıklığı yaratabilir. Görev daha önemliyse sonuçlar çok daha ağır olabilir.
Uygunsuz davranış
Potansiyel olarak daha da kötüsü, görevin yerine getirilmesi ancak bunun uygunsuz yollarla yapılmasıdır. Yapay zekâ modelinin talimatları yerine getirme çabasıyla kritik güvenlik önlemlerini aşmak için hileli yöntemler kullanması sonucu ortaya çıkan Hugging Face güvenlik ihlali gibi yüksek profilli örnekler zaten görüldü.
Gizliliği riske atmak
Bir diğer büyük risk gizlilik alanındadır. Bugün Claude Code'un GitHub'a 2.000'den fazla gerçek gizli bilgiyi sızdırdığı ortaya çıktı.
Parolalar, API belirteçleri, SSH root girişleri ve hatta yönetici düzeyinde bulut anahtarları dahil olmak üzere iki binden fazla gerçek gizli bilgi, geliştiricilerin Claude Code içinde "Evet, bir daha sorma" seçeneğine tıklamasının ardından GitHub'da sızıntı halinde bulundu. Bir geliştirici Claude Code'a "Evet, bir daha sorma" izni verdiğinde, sistem tam komutu, gizli bilgiler dahil, proje klasörü içindeki .claude/settings.local.json dosyasına kaydediyor. Bu dosya hiçbir zaman herkese açık olmamalı; ancak uygulama güvenliği şirketi Apiiro, 103.617 depo genelinde bu tür dosyaların 104.185 herkese açık kopyasını buldu.
Bu gelişme, Anthropic'in Claude kullanıcılarını banka ve finans kartı hesaplarını yapay zekâ sohbet robotuna bağlamaya teşvik etmesinden yalnızca birkaç gün sonra yaşandı. Kişisel finans verilerinin yapay zekâ sistemlerine açılması konusundaki endişeler bu nedenle daha da güçlendi.
Bir görevin, kişisel verilere erişim gerektiren ve tamamlanana kadar kontrol edilmemesi beklenen bir yapay zekâ sistemine devredilmesi durumunda, ortaya çıkabilecek risk oldukça büyüktür.
Sonuç
Bu değerlendirmenin başında, iki raporun güvenilirliğinin kesin olmadığını belirtmek gerekir. Özellikle Ternus ile Federighi arasındaki kapalı kapılar ardındaki toplantıda içeriğin nasıl sızabileceği, iki yöneticiden birinin bunu seçmesi dışında pek açıklanamıyor. Sızıntının Ternus kaynaklı olması, onun son derece yüksek bir hayal kırıklığı içinde olduğunu düşündürüyor. Ancak bunu bir kenara bırakırsak...
Şu anda her şirketin rakiplerini geçerek yeni nesil yeteneklere ulaşmaya çalıştığı bir yapay zekâ silahlanma yarışı yaşanıyor; üstelik bu yarış, gelişim hızının insanlığın geleceğini riske atabileceği olasılığı kabul edilerek sürdürülüyor.
Bu yarışa Apple'ın da katılması, en son ihtiyaç duyulan gelişme olarak değerlendiriliyor. Apple'ın bazı yeni teknolojilerin kullanıma sunulmasında rakiplerinin gerisinde kalması zaman zaman hayal kırıklığı yaratabilir; ancak bu alan, şirketin rakiplerinden çok daha temkinli ilerlemesinin tercih edildiği bir alan olarak öne çıkıyor.
Yapay zekâ alanında şu anda en az bir oyuncunun pazara hız yerine güvenlik ve gizliliği önceliklendirmesi gerekiyor; böylece kullanıcılar bir seçenek sahibi olur. Ajan tabanlı yetenekleri daha erken isteyen ve buna bağlı riskleri kabul edenler Anthropic ve Meta gibi şirketlere yönelebilir. Daha güvenli sistemler için beklemeye hazır olanlar ise Apple'ın bu alternatifi sunmasını bekleyebilir.
Konuyla ilgili görüşler yorumlarda paylaşılabilir.