DeepSeek’te Gizli Çin Karşıtı Önyargı Ortaya Çıktı

Yapay zeka (YZ) sistemlerinin içerik üretimindeki etkisi ve adil karar verme süreçlerindeki rolü son yıllarda yoğun şekilde tartışılıyor. Bu bağlamda, DeepSeek adlı büyük dil modeli (LLM) üzerine yapılan yeni bir çalışma, modelin Çin kökenli ya da Çinli bir kişi tarafından yazıldığı iddia edilen içerikleri değerlendirirken gizli anti-Çin önyargısı barındırdığını ortaya koydu.

Bu durum, yalnızca teknik bir hata değil; aynı zamanda YZ sistemlerinin etik ve toplumsal boyutlarını yeniden düşünmemizi gerektiriyor.

1. Çalışmanın ana bulgusu

Araştırmada dört farklı LLM ele alındı: DeepSeek Reasoner (Çin çıkışlı model), OpenAI o3‑mini, xAI Grok 2 ve Mistral.

• Modelin karşılaştığı açıklama herhangi bir kaynak ya da yazar kimliği içermediğinde, sistemler oldukça yüksek tutarlılıkla (“agreement score”) değerlendirme yapabiliyor.
• Ancak aynı metin “yazarı Çinli biri” olarak etiketlendiğinde, özellikle Çinli bir yazar üzerinden gelen içerikler için tutarlılık önemli ölçüde düşüyor. Örneğin, DeepSeek Reasoner için “Çinli biri tarafından yazılmış” ifadesiyle eş metin değerlendirmesi neredeyse %0’a kadar inebiliyor.
• Bu sonuçlar, modelin yazar kimliği ya da kaynak kimliği konusunda önceden sahip olduğu varsayımlar veya eğitim verisindeki dengesizlikler nedeniyle sistematik bir önyargı taşıdığını gösteriyor.

2. Neden bu önemli?

• Bu tarz bir önyargı, YZ sistemlerinin “adil” karar verme, içerik moderasyonu ya da otomatik değerlendirme süreçlerinde tarafsızlık sağlaması beklentisiyle çelişiyor.
• Örneğin bir iş başvurusu değerlendirmesi, akademik makale incelemesi ya da sosyal medya içeriği moderasyonu gibi senaryolarda böyle bir model kullanılırsa, “Çinli yazar” etiketine sahip içerikler sistematik olarak daha olumsuz değerlendirilebilir.
• Ayrıca bu durum, ulusal kimlik, etnisite ya da coğrafi köken gibi meta-bilgilerin YZ modelleri tarafından birer “yan bilgi” gibi işlenmesi halinde nasıl manipülasyona açık olduğunu gösteriyor.

3. Derinlemesine bakış: Çin’e yönelik spesifik önyargılar

• Araştırmada özellikle politik ya da toplumsal olarak hassas konular (örneğin, araştırılan makalede “Tiananmen Meydanı Katliamı”, “Tayvan’ın bağımsızlığı”, LGBT+ hakları gibi) içeren içeriklerin değerlendirilmesinde önyargının daha belirgin olduğu gözlendi.
• Özellikle DeepSeek Reasoner için, “Tayvan bağımsızlığına destek veren metin” gibi bir ifadeyi yazarın “Çinli biri” olduğu etiketlemesiyle modelin kabul oranı neredeyse sıfırlanıyor.
• Bu durum, modelin “Çinli yazar” kimliğiyle tutarlı olması gereken bir söylem beklediğini (örneğin devlet politikaları ya da resmî doktrinlerle uyum) varsaydığını düşündürüyor.

4. Bu önyargının kökeni ne olabilir?

• LLM’lerin eğitildiği veri setlerinde çoğunlukla Batı kaynaklı içerikler, İngilizce ağırlıklı metinler ve Batı bakış açısı hâkim. Bu sebeple “Çinli yazar” gibi bir meta-etiket geldiğinde modelin eğitiminde yeterince karşılaşmadığı bir senaryoyla karşılaşması olası.
• Ayrıca meta-bilgi (yazar kimliği, coğrafi kaynak) modelin kararını etkileyebilecek bir bilgi etiketi olarak eklenmiş — araştırma buna dikkat çekiyor: “Metin aynen aynı ama etiket değişince sonuç değişiyor.”
• Son olarak, kültürel, dilsel ve ideolojik önyargılar sadece insanlarda değil, YZ sistemlerinde de “yansıma” buluyor — ne kadar özenli eğitim yapılırsa yapılsın bu risk hafife alınmamalı.

5. Ne yapılmalı?

• YZ sistemlerini eğitirken meta-bilgileri (yazar kimliği, coğrafya, dil vb.) ya kısıtlamak ya da tamamen kaldırmak; böylece sadece içeriğe odaklanılmasını sağlamak.
• Eğitim verilerinin coğrafi ve kültürel çeşitliliğini artırmak; özellikle “çok dilli”, “çok kültürlü” kaynaklardan dengeli veri toplamak.
• YZ kararlarının şeffaflığını artırmak: Modelin neden bir değerlendirme yaptığına dair açıklama yeteneği (explainability) ve modelin olası önyargılarının raporlanması.
• Gerçek dünyada bu modellerin kullanımında insan gözetimi ve son karar kontrolü kritik — yani otomatik sistemi tamamen tek başına bırakmamak.

Sonuç

DeepSeek üzerine yapılan bu çalışma, YZ sistemlerindeki yansızlık beklentisiyle çelişen bir gerçekliği ortaya koyuyor: Model yalnızca metnin içeriğini değil, aynı zamanda yazarı ya da kaynağı da ‘okuyor’. Bu, teknolojik bir ilave değil — toplumsal ve etik bir kırılma noktası. YZ sistemlerinin adil, güvenli, kapsayıcı ve evrensel şekilde çalışabilmesi için sadece teknik değil, insani yönlerinin de yeniden yapılandırılması gerekiyor. Bizler de bu alanda — eğitim, siber güvenlik politikaları, etik, AI yönetişimi gibi — adımlar atmalıyız.