AI Model Poisoning

Saldırıları Nedir?

Yapay Zekâ Modellerine Yönelik Görünmez Tehditler

Yapay zekâ (AI) ve makine öğrenimi (ML) sistemleri; siber güvenlikten finansa, sağlıktan otonom sistemlere kadar birçok kritik alanda aktif olarak kullanılmaktadır. Ancak bu sistemlerin artan kullanımı, saldırganların hedefini yalnızca altyapılardan algoritmalara doğru kaydırmıştır. AI Model Poisoning saldırıları, bir yapay zekâ modelinin öğrenme sürecini kasıtlı olarak bozarak yanlış, önyargılı veya saldırganın istediği çıktıları üretmesini sağlayan ileri seviye saldırı türleridir.

AI Model Poisoning Nedir?

Model Poisoning, bir makine öğrenimi modelinin eğitim verisine, etiketlerine veya öğrenme mekanizmasına müdahale edilmesi sonucu model davranışının sistematik olarak bozulmasıdır. Bu saldırılarda amaç, modeli tamamen kullanılamaz hâle getirmekten ziyade, belirli koşullarda yanlış kararlar almasını sağlamaktır. Bu nedenle saldırılar genellikle uzun süre fark edilmeden sistemde kalabilir.

Model Poisoning Saldırı Türleri

1. Data Poisoning (Veri Zehirleme)

En yaygın saldırı türüdür. Eğitim verisine kasıtlı olarak yanlış, eksik veya manipüle edilmiş veriler eklenir.

Örnek:

• Zararlı yazılımlar “temiz trafik” olarak etiketlenir.
• Spam e-postalar “güvenli” olarak işaretlenir.

Bu durum, modelin yanlış genelleme yapmasına neden olur.

2. Label Poisoning (Etiket Zehirleme)

Veri doğru olsa bile etiketler yanlış atanır. Özellikle supervised learning modelleri için oldukça etkilidir.

Etkisi:

• Model doğruluğu düşer
• False positive / false negative oranları artar

3. Backdoor (Trojan) Poisoning

Modele gizli bir tetikleyici (trigger) yerleştirilir. Model normal koşullarda doğru çalışırken, belirli bir desen veya girdi ile tamamen farklı sonuç üretir.

Örnek:

• Görüntü tanıma sisteminde belirli bir piksel deseni bulunan nesnelerin her zaman “güvenli” kabul edilmesi

Bu tür saldırılar özellikle kritik altyapılar için son derece tehlikelidir.

4. Federated Learning Poisoning

Federated Learning mimarilerinde, saldırgan istemciler modele zararlı gradient veya ağırlıklar gönderir.

Sonuç:

• Merkezi model bozulur
• Saldırı tek bir cihazdan bile yayılabilir

5. Availability vs Integrity Attacks

Integrity saldırıları daha tehlikelidir çünkü fark edilmesi zordur.

Saldırı Senaryosu (Gerçekçi Örnek)

Bir şirket, phishing tespiti için AI tabanlı bir e-posta güvenlik sistemi kullanmaktadır. Sistem, kullanıcıların “Bu e-posta güvenli” geri bildirimleriyle kendini sürekli eğitmektedir.

1. Saldırgan, binlerce sahte hesap oluşturur
2. Phishing e-postaları “güvenli” olarak işaretler
3. Model zamanla bu e-postaları normal kabul etmeye başlar
4. Gerçek kullanıcılar hedef alınır

Bu, feedback-based poisoning saldırısına tipik bir örnektir.

Model Poisoning Neden Tespiti Zordur?

• Model çıktıları istatistiksel olarak tutarlı görünür
• Performans düşüşü ani değil, kademelidir
• Geleneksel güvenlik çözümleri (IDS/IPS) bu saldırıları algılayamaz
• Model içi karar mekanizmaları çoğunlukla black-boxtır

Model Poisoning’e Karşı Savunma Yöntemleri

1. Veri Güvenliği ve Kaynak Doğrulama

• Eğitim verilerinin kaynağı doğrulanmalı
• Açık veri setleri kontrol edilmeli

2. Anomali ve Outlier Analizi

• Eğitim verisinde istatistiksel sapmalar tespit edilmeli
• Distribution shift analizleri uygulanmalı

3. Robust Learning Algoritmaları

• Noise’a dayanıklı öğrenme teknikleri
• Adversarial training

4. Federated Learning İçin Önlemler

• Secure aggregation
• Client reputation scoring
• Gradient clipping

5. Model İzleme ve Audit

• Model davranışları sürekli izlenmeli
• Explainable AI (XAI) yöntemleri kullanılmalı

Siber Güvenlik Açısından Önemi

Model Poisoning saldırıları, klasik saldırı yüzeylerinin ötesine geçerek karar mekanizmasını hedef alır. Bu da SOC, SIEM ve EDR gibi sistemlerin tek başına yetersiz kalmasına neden olur. Günümüzde AI Security, ayrı bir güvenlik disiplini hâline gelmiştir.

Sonuç

AI Model Poisoning saldırıları, yapay zekâ sistemlerinin en zayıf noktası olan öğrenme sürecini hedef alan, tespiti zor ve etkisi yüksek saldırılardır. Kurumlar için yalnızca altyapı güvenliği değil; veri, model ve öğrenme süreci güvenliği de stratejik bir öncelik olmalıdır.