Toms Guide tarafından “OpenAI'nin taşeron çalışanlarının, ChatGPT'yi eğitmek için yapay zekâ kullandıkları gerekçesiyle işten çıkarıldığı bildirildi; nasıl yakalandılar?” başlığıyla aktarıldığı kadarıyla,
Bir yapay zeka şirketinden yapay zeka kullandığı için çıkarılmak oldukça ironik bir durumdur; ancak iddialara göre OpenAI modellerinin eğitilmesine yardımcı olan birden fazla sözleşmeli çalışan tam olarak bunu yaşadı.
OpenAI'nin yapay zeka modellerinin ürettiği yanıtları incelemek ve iyileştirmek için işe alınan sözleşmeli çalışanlar, kendi işlerini yapmak için yapay zeka kullandıktan sonra işten çıkarıldı veya projelerden uzaklaştırıldı.
Kural, ilk bakışta göründüğünden daha mantıklıdır. Bu çalışanlar özellikle insan muhakemesi için işe alınır; ChatGPT veya başka bir yapay zeka sohbet botu bu muhakemeyi onların yerine yaparsa, sundukları katkı büyük ölçüde anlamını yitirir.
Bir sözleşmeli çalışan, insanların yapay zekayı “sürekli” kullandığını gördüğünü ve çalışanların bu nedenle düzenli olarak uzaklaştırıldığını belirtti. Bir başka çalışan ise işlerinin “özgünlüğü”yle ilgili sorunlara atıfta bulunan bir fesih mektubu paylaştı.
İnsanları sürecin içinde tutmak
Yapay zeka modelleri yalnızca kitaplardan veya internetten muazzam miktarda metin toplayarak her şeyi öğrenmez.
OpenAI, temel modellerinin geliştirilmesinde kullanılan kaynaklardan birinin insan eğitmenler ve araştırmacılar tarafından sağlanan veya üretilen bilgiler olduğunu belirtiyor. İnsan geri bildirimi, modellere hangi yanıtların insanlar tarafından tercih edildiğini ve modellerin nasıl davranması gerektiğini öğretmede uzun süredir rol oynuyor.
Bu da insan geri bildiriminin kalitesini kritik hale getiriyor. OpenAI daha önce araştırmalarında, insan geri bildirimiyle eğitilen modellerin veriyi etiketleyen kişilerden etkilenebileceğini kabul etmişti.
Söz konusu sözleşmeli çalışanlar, bazıları binlerce kişiyi kapsayabilen çeşitli OpenAI projelerinde görev yapıyor. İşleri arasında yapay zeka yanıtlarını okumak, puanlamak ve hangi yanıtların daha iyi olduğuna karar vermek yer alabiliyor.
Ancak elde edilen iç belgelere göre, değerlendiricilerin bu yargıyı tekrar bir yapay zekaya devretmesine izin verilmiyor. Bir dizi talimatın, çalışanların geri bildirim veya yorum yazmak için yapay zeka kullanmasını yasakladığı ve özellikle Grammarly ile yapay zeka çevirisi gibi araçları adlandırdığı bildiriliyor.
OpenAI projelerinde çalışan sözleşmeli personeli istihdam eden yapay zeka eğitim şirketi Mercor, sözleşmelerinin çalışanların projeleri tamamlamak için büyük dil modelleri kullanmasını yasakladığını doğruladı.
Yapay zeka dedektörleri ihlali yakalayamadı
Bir yapay zeka şirketinin, çalışanlarının yapay zeka kullandığını bir yapay zeka dedektörüyle yakalayacağı varsayılabilir. Görünen o ki durum böyle değil.
İşten çıkarılan sözleşmeli çalışanların tam olarak nasıl tespit edildiği açıklanmıyor. Ancak elde edilen iç talimatlar, değerlendiricilere şüpheli yapay zeka kullanımını nasıl fark edeceklerinin söylenmesi açısından dikkat çekici bir tablo sunuyor.
Yapay zeka dedektörleri bu sürecin parçası değil.
Talimatların, değerlendiricilere GPTZero gibi araçları güvenilir kabul edilmedikleri için kullanmamalarını söylediği bildiriliyor. Bunun yerine değerlendiricilerden bir çalışanın gönderimlerindeki genel örüntüyü değerlendirmeleri ve tekrarlayan ifadeler, olağandışı hızlı tamamlama süreleri ile yapay zekayla ilişkilendirilen yazım kalıpları gibi ipuçlarını aramaları isteniyor. Aşırı sayıda uzun çizgi kullanımı bile şüphe uyandırabiliyor.
Değerlendiricilere, çalışanlara yapay zeka kullanımından şüphelenmelerine yol açan şeyin tam olarak ne olduğunu söylememeleri talimatı verildiği de aktarılıyor; çünkü bunu bilmek gelecekte izlerini saklamayı kolaylaştırabilir.
Bu durum süreç hakkında çarpıcı bir gerçeği ortaya koyuyor: İnsanların, ChatGPT'nin eğitilmesine yardımcı olmak için gizlice yapay zeka kullanıp kullanmadığını denetleyen kişilere, bu kontrolü yapay zeka tabanlı tespit yazılımlarına bırakmamaları açıkça söyleniyor.
Sonuç: İnsanların yeri doldurulamaz
OpenAI, bazı eğitim süreçlerinde yapay zeka modellerinin yardımıyla üretilen bilgilerden oluşan çok miktarda sentetik veri kullanıyor. Şirket, sentetik verinin model performansını iyileştirebileceğini ve diğer eğitim verilerinin yetersiz olduğu boşlukları doldurabileceğini belirtiyor.
Ancak bu, özellikle insan geri bildirimi sağlamak üzere işe alınmış bir kişinin yerine gizlice bir yapay zeka modelinin kullanılmasından farklıdır. Bir değerlendiricinin OpenAI'ye hangi yanıtın insanlar tarafından tercih edildiğini söylemesi gerekiyorsa, bu kararı başka bir yapay zekaya vermek, değerlendiricinin işe alınma amacını büyük ölçüde ortadan kaldırır.
Bu olayların ChatGPT'yi daha kötü hale getirdiği anlamına gelmez ve sözleşmeli çalışanların yapay zeka tarafından üretilen işlerinin bir OpenAI modeline ölçülebilir zarar verdiğine dair bir kanıt bulunmuyor.
Yine de bu durum, yapay zeka patlamasının daha tuhaf gerçeklerinden birini gözler önüne seriyor: Yapay zeka sistemlerini geliştiren şirketler bile bu sistemlere bir şeyi doğru yaptıklarında bunu söyleyecek insanlara hâlâ ihtiyaç duyuyor.