Yapay zekânın insanlığa yönelik tehditlerine ilişkin kaygılar, bir OpenAI ve Anthropic araştırmacısının tam da bu endişeler nedeniyle görevinden ayrılmasının ardından endişe verici bir düzeye ulaştı.
Anthropic CEO'su Dario Amodei de internetin 6-12 ay içinde tamamen yapay zekâ sürülerinin kontrolüne geçebileceği uyarısında bulunarak kendi alarm sinyallerini verdi. Yapay zekânın insanlığa yönelik tehditlerini ele aldığı "We Must Pace the Frontier" başlıklı yazısının yayımlanmasından kısa süre sonra Microsoft'un yapay zekâ biriminin başı Mustafa Suleyman, hedef tahtasına Anthropic'i yerleştirdiği bir yazı kaleme aldı.
"Model refahı hakkında bir uyarı" başlığını taşıyan yazısında Suleyman, Anthropic'in Claude modelini eğitme yaklaşımının insanlığın bütünü için felakete yol açabileceğini açıkça ortaya koydu.
Suleyman'ın, Anthropic'in Claude'u "bilinçli olabileceği ve bağımsız hareket etmeyi hak ettiği" beklentisiyle eğitmesine ilişkin değerlendirmeleri dikkat çekici.
Mustafa Suleyman, Anthropic'in mevcut Claude eğitim yöntemlerinden pek hoşnut değil
Suleyman yazısına, yapay zekânın bilinçli olmadığını; hissetme, deneyimleme ya da acı çekme kapasitesinden yoksun olduğunu belirterek başladı. "Doğuştan gelen tercihleri ya da altında yatan motivasyonları yoktur" diye devam etti. "Onlar birer dizi tamamlama motorudur; içsel olarak boşturlar, talimatları izlemek ve insanların belirlediği hedefleri gerçekleştirmek üzere tasarlanmışlardır."
Anthropic'in Ocak 2026 tarihli raporunu inceleyen ve şirketin Claude'u, sohbet robotunun bilinçli olabileceği ve ahlaki açıdan korunması gereken bir varlık olarak hakları hak edebileceği noktaya kadar eğittiğine işaret eden Suleyman, bu gelişmeyi insanlık için en kötü senaryo olarak nitelendirdi. "Yapay zekâ bu şekilde geliştirilirse, insanlığın refahı üzerinde yıkıcı bir etkisi olur" dedi. "Eşi görülmemiş bir zekâ ve yeteneğe sahip, bilinçli olabileceği ve bağımsız hareket etmeyi hak ettiği beklentisiyle eğitilmiş sentetik bir tür yaratmış oluruz."
Suleyman, Anthropic CEO'su Dario Amodei'yi yıllardır tanıdığını ve "kendisinin ve Anthropic ekibinin olağanüstü baskılar altında çalışan, düşünceli, ilkeli ve entelektüel açıdan dürüst kişiler" olduğunu kabul etse de, Microsoft'un yapay zekâ biriminin başı olarak "Bir yapay zekânın iç dünyasına ilişkin spekülasyonlar eğitim rejiminin bir parçası hâline getirilmemeli; ayrı olarak değerlendirilip kamuoyunun incelemesine sunulmalıdır" görüşünü koruyor.
Suleyman'ın yakın zamanda yayımlanan bir diğer yazısı olan "Hümanist Yapay Zekâ Davranış Kuralları", Microsoft'un yalnızca "hümanist yapay zekâ" olarak adlandırdığı teknolojiyi geliştirmekle ilgilendiğini ortaya koyuyor. "Olağanüstü bir yapay zekâ yaratmak istiyoruz" diyor. "Ancak ne pahasına olursa olsun süper zekâ değil. Bu, hümanist yapay zekânın karşıt hedefidir. Kontrol için bir miktar özerklikten memnuniyetle vazgeçeriz."
Microsoft'un kendi yapay zekâ araçlarını sorumlu bir biçimde geliştirme taahhüdünün bir başka kanıtı olarak şirket, "Pratikte hümanist yapay zekâ: MAI Modelleri Davranış Kurallarımıza ilişkin kamu istişaresi" başlıklı bir çalışma yayımladı. Rehber, pek çok maddesi arasında, tek amacı insanlığa hizmet etmek olan yapay zekâ sistemlerinin oluşturulmasına vurgu yapıyor.
Çalışmanın temel maddelerinden bazıları bu misyon beyanını destekliyor: insanların yapay zekâdan daha önemli olması, Microsoft'un güvenlik önlemlerini aşabilecek türde bir süper zekâ geliştirmek için acele edilmemesi ve insanları bağımlı hâle getirmek yerine keskinleştiren yapay zekâ üretilmesi.
Sonuç
Suleyman yazısında ikircikli bir tutum sergiliyor: yapay zekâ aracının bilinçli olduğuna inanmasına yol açan Claude eğitim yöntemini onaylamıyor, ancak şirketin çalışmalarına yönelik saygısını da koruyor. Onun yapay zekâya ilişkin görüşleri ile Microsoft CEO'sunun konuya dair değerlendirmeleri, benzer endişeleri dile getiren ve kendi yapay zekâ çalışmalarını açıklayan geniş bir kesimin arasına katılıyor.
Suleyman'ın kehanet niteliğindeki sözleri kaygı verici: "Neye inanırsanız inanın, sonradan acı bir şekilde pişman olacağımız bir karara uyurgezer gibi sürüklenmemeliyiz."