Arka plan
Geçen ay Apple, kullanıcıların rızasız çıplak görüntü üretmesine olanak tanıyan uygulamaları sınırlamak amacıyla App Store kurallarını güncelledi.
Güncellenen kurallara göre yapay zekâ destekli içerik üreten uygulamalar; itiraz edilebilir materyali filtreleme, rahatsız edici içeriği bildirme ve kötüye kullanan kullanıcıları engelleme gibi araçlar içeren kötüye kullanım önlemleri barındırmalı.
Apple ayrıca ağırlıklı olarak pornografik içerik veya gerçek kişilerin nesneleştirilmesi amacıyla kullanılan uygulamaların önceden bildirim yapılmaksızın App Store'dan kaldırılabileceğini uyarıyor.
Bu değişiklikler iyi niyetli olsa da, yapay zekâ destekli nudify uygulamalarının kolayca rızasız mahrem görüntüler üretmesine imkan tanıdığına ilişkin raporların arttığı bir dönemde geldi.
Bu değişikliklerden iki ay önce Apple, gerçek kişilerin pornografik deepfake'lerini oluşturmaya olanak tanıyan bir uygulamayı, bir teknoloji yayınının yorum talebine yanıt olarak kaldırdı; bu adım da San Francisco Şehir Avukatı David Chiu'nun Apple ve Google'dan birkaç nudify uygulamasını mağazalarından kaldırmasını talep etmesinden bir ay sonra geldi.
Apple ayrıca Tech Transparency Project (TTP) tarafından yapılan soruşturmaların ardından da bazı uygulamaları kaldırdı. Ocak ve Nisan aylarında yayımlanan raporlar, bu tür uygulamaların App Store'da yaygın biçimde bulunduğu, zaman zaman sponsorlu arama sonuçlarında bile yer aldığı ortaya koydu.
Soruşturmalar boyunca Apple, nudify uygulamalarının App Review Guidelines kapsamında her zaman yasak olduğunu ve politikalarını ihlal eden uygulamaları, kullanıcı bildirimleriyle işaretlenenler de dahil olmak üzere, proaktif olarak reddettiğini ve kaldırdığını savundu.
Apple bu mücadelede yalnız değil; Google, Play Store'daki benzer uygulamalar nedeniyle eleştirilere maruz kalırken Meta da Facebook ve Instagram'da bu uygulamaların reklamına izin verdiği gerekçesiyle inceleme altında. Daha önce yayımlanan bir haberde bu durum vurgulanmıştı.
Senato Demokratları açıklama talep ediyor
Yayımlanan özel bir habere göre, üç Demokrat senatör teknoloji şirketlerinin CEO'larına mektup göndererek platformlarındaki nudify uygulamalarına karşı alınan önlemlerin yetersiz olduğunu bildirdi.
Üç ABD'li senatör, Apple ve Google'ın rızasız çıplak veya pornografik görüntü üretmek için kullanılabilecek uygulamaları etkili biçimde tespit edip kaldırmada başarısız olduğunu söylüyor. Ayrıca Meta'nın "dünya genelinde kadınları ve kız çocuklarını mağdur eden" bu sözde nudification uygulamalarının reklamlarından kâr etmeye devam ettiğini belirtiyorlar.
Oregon'dan Ron Wyden, Massachusetts'ten Ed Markey ve New Mexico'dan Ben Luján adlı senatörler, şirketlerin bu uygulamaları kaldırmada başarısız kaldığını ve hatta dağıtım ve tanıtımından kâr elde ediyor olabileceğini öne sürüyor.
Mektuba ilişkin açıklamalarda Google ve Meta, bu tür uygulamaları veya bunların tanıtımını yasakladıklarını ve platformlarındaki ihlalleri tespit edip kaldırmak için çalıştıklarını belirtti; bu açıklamalar, Apple'ın daha önce aynı konularda yorum taleplerine verdiği yanıtları genel olarak yineledi.
Ancak Wyden'ın ofisi, politikaların yeniden teyit edilmesinin veya Apple'ın kurallarını güncellemesinin, şirketlerin bunları uygulamada zorlanmaya devam etmesi halinde anlam taşımadığını savunuyor.
Wyden'ın iletişim başdanışmanı ve politika direktör yardımcısı Keith Chu, "politikaları netleştirmek onları uygulamakla aynı şey değildir" dedi. Şirketler bu uygulamaları yasakladıklarını yeniden teyit etse de, uygulamaların Apple ve Google'ın uygulama mağazalarında çoğalmaya devam ettiğini veya Meta platformlarında reklam olarak tanıtıldığını ekledi.
Geçen ay yayımlanan son soruşturmada TTP, 13 yaşındaki erkek çocuklara ait hesaplar kullanarak App Store ve Play Store'da çıplak veya pornografik görüntü üretebilen 135 uygulama tespit etti.
Ayrıca araştırmacılar, ebeveyn denetimleri etkinleştirilmiş hesapların bile bu uygulamaları ebeveyn onayı almadan indirebildiğini buldu.
Apple ve Google, soruşturmada işaret edilen uygulamaları kaldırsa da, bu uygulamaların daha önce yüklendiği cihazlarda çalışmaya devam ettiği belirtildi.
Wyden, şirketlerin bu uygulamalarla mücadelede daha iyi bir performans sergileyememesi halinde Kongre'nin devreye girmesi gerekebileceği konusunda uyardı.