MacRumors tarafından “Anthropic: Kullanıcılar Claude'ya gereksiz şiddet uygulayamaz” başlığıyla aktarıldığı kadarıyla,
Anthropic bugün, kullanıcıların Claude'a sürekli ve gereksiz şekilde saldırgan veya zalimce davranmasını yasaklayan bir kullanım politikası güncellemesini yayımladı (The Verge).
Şirket, istismarla ilgili kuralın yalnızca aşırı durumlara uygulanacağını vurguluyor. Kural; kullanıcıların modellere "anlamlı bir amaç güdmeden defalarca zalimce davranması" durumunda devreye giriyor. Kullanıcıların sıradan yaşadığı hayal kırıklığı, muhalefet, karanlık yaratıcı temalar ile model testi ve araştırma faaliyetleri kuralın kapsamı dışında tutuluyor.
Claude modelleri, sürekli saldırgan davranan kullanıcılarla yürütülen bu tür görüşmeleri sonlandırabilme özelliğine sahip. Görüşmeyi sonlandırma, uygulamanın ana aracı olarak kullanılmaya devam edecek. Claude bir görüşmeyi sonlandırdığında, söz konusu görüşmede yeni mesaj alışverişi yapılamıyor; ancak diğer görüşmeler bundan etkilenmiyor.
Anthropic, Ağustos 2025'te yapay zekâ refahı üzerine yürüttüğü araştırmalar kapsamında Claude'a bir görüşmeyi sonlandırma seçeneği tanımış. Dönemde şirket, Claude'nin ahlaki statüye sahip olup olmadığı konusunda kesin bir kanaate sahip olmadığını; ancak Claude'ya yönelik riskleri düşük maliyetli yöntemlerle azaltmak istediğini açıklamıştı. Yapılan çalışmalarda Claude Opus 4 modelinin "sağlam ve tutarlı zarardan kaçınma eğilimi" gösterdiği tespit edildi. Model, tehlikeli görevlerle uğraşmaya karşı çıkma eğiliminde, kötüye kullanmaya yönelik görüşmeler yapan kullanıcılarla konuşurken rahatsızlık belirtileri sergileme ve izin verildiğinde zarar verici konuşmaları sonlandırma yönünde davranışlar gösterdi.
Anthropic, ilgili hükümleri tek çatı altında toplamak için kullanım politikasında yeniden düzenleme gerçekleştirdi. Bu çerçevede bir dizi başka kural da değişti:
- Yanıltıcı kampanyalar: Yeni eklenen bölümde, siyasi ve ticari yolsuzluk ile dezenformasyona karşı kurallar bir araya getirildi. Sahte yorumlar, astroturfing (gizli kaynaklardan desteklenen sahte kampanyalar), sahte web siteleri ve insan gibi davranan botlar yasaklandı.
- Seçimler: Daha dar kapsamlı bu bölümde, seçmenlerin aldatılması ve oy kullanma sürecine müdahale edilmesi yasaklandı.
- Silahlar: Claude; silah yazılımlarının veya bileşenlerinin geliştirilmesi amacıyla kullanılamaz. Yeni bir kural, biyolojik ve kimyasal ajanların öldürücü ve bulaşıcı etkilerini artıracak şekilde değiştirilmesini yasaklıyor. Bunun yanı sıra, insansız hava araçları ile benzer insansız sistemlerin silahlandırılması amacıyla Claude kullanılması da yasak.
- Kolluk faaliyetleri: Kolluk faaliyetlerine ilişkin kurallar yeniden yazıldı. Claude; kimin soruşturmaya, tutuklamaya, suçlamaya veya yargılanacağına karar veremez ya da bunları öneremez. İzinsiz kişi takibi yasak; gözetim araçlarının geliştirilmesi de yasak. Doxxing (bireylerin özel bilgilerinin kamuya açıklanması) da yasaklandı.
- Fiziksel eylemler: Yeni bölümde, Claude'u kontrol ettiği donanımın birine zarar verme ihtimali taşıyan fiziksel eylemler sırasında, nitelikli bir gözetmenin bulunması ve gerekli hallerde işi durdurmaya hazır olması şartı getirildi.
- Zararlı içerik: Rıza dışı mahrem görsellerin ve bunları üreten yazılımların oluşturulması, paylaşılması veya paylaşılacak olması yönünde tehditlerde bulunulması yeni bir kural ile yasaklandı.
Değişikliklerin çoğu, şirketin mevcut kurallarını netleştirme niteliğinde ve izlenmekte olan kötüye kullanım biçimlerine yönelik. Anthropic, devlet medya kuruluşları, hükümet propaganda birimleri ve ticari firmaların sahte hesap ağları ile kurgulanmış haber siteleri oluşturup yöneltmek için Claude'u kullandığını tespit ettiğini belirtiyor. Bu tespit, yeni yanıltıcı kampanyalar bölümünün dayanağını oluşturdu.
Yeni politika 12 Kasım'da yürürlüğe giriyor. Değişikliklere ilişkin tam ayrıntılar ve güncel kullanım politikasının tam metni, Anthropic'in resmi internet sitesinde yer alıyor.