Chatbot ve LLM Güvenlik Riskleri Nelerdir?

LLM Sistemlerine Genel Bakış

Büyük Dil Modelleri (LLM – Large Language Models), insan dilini anlamak, analiz etmek ve üretmek için tasarlanmış yapay zekâ sistemleridir. Bu modeller, derin öğrenmeye dayalı dönüştürücü (transformer) mimarisini kullanır ve milyarlarca parametre ile eğitilir. Bu parametreler, modelin dil bilgisi, mantık ve bağlamı anlama yeteneğini belirler.

LLM’ler, devasa metin veri kümeleri üzerinde eğitilerek dilin gramerini, kelime anlamlarını ve bağlam ilişkilerini öğrenir. Bu sayede insan benzeri metinler üretebilir, soruları yanıtlayabilir, özetleme yapabilir, içerik oluşturabilir ve doğal diyaloglar kurabilir. ChatGPT, GPT-4 ve Claude gibi modeller tipik LLM örnekleridir.

Prompt Injection Saldırıları

Prompt injection, kullanıcı girdileri üzerinden büyük dil modellerinin (LLM) talimatlarını manipüle ederek modelin beklenmeyen veya zararlı çıktılar üretmesini sağlayan bir güvenlik açığıdır. Saldırganlar, kötü niyetli talimatlarla modelin orijinal sistem talimatlarını geçersiz kılabilir ve veri sızıntısı, yanlış bilgi veya istenmeyen eylemler yaptırabilir.

Dolaylı Prompt Manipülasyonları

• Dolaylı Prompt Manipülasyonu, LLM’lerin kullanıcıdan değil, üçüncü taraf içeriklerden gelen talimatlarla manipüle edilmesidir.
• Saldırı, modelin güvenilir kabul ettiği veri kaynakları üzerinden gerçekleştirilir.
• Model, içerik içine gizlenmiş doğal dil komutlarını talimat sanarak uygular.

Saldırının gerçekleşebileceği kaynaklar:

• Web sayfaları
• PDF / Word dosyaları
• E-postalar
• Veritabanı kayıtları
• Kullanıcı tarafından yüklenen belgeler
  
  

Veri Sızıntısı ve Gizlilik Riskleri

1. 1. Tanım: LLM tabanlı sistemlerin yetkisiz kişilere API anahtarları, sistem prompt’ları, kişisel veya kurumsal gizli verileri ifşa etmesi.
      
      
   2. Sızıntı Mekanizmaları: URL parametreleri, görünmez imajlar (tracking pixels) ve cazip linkler aracılığıyla veri dışa aktarımı.
      
      
   3. Bağlamsal Riskler: Oturum belleğinde (context window) saklanan önceki verilerin kötü niyetli promptlarla ifşası.
      
      
   4. Dolaylı Manipülasyonlar: Üçüncü taraf içeriklerden veya RAG/agent mimarilerinden gelen talimatlarla modelin kontrolünün ele geçirilmesi.
      
      
   5. Uygulamalar Arası Riskler: AI asistanlarının eklenti ve entegrasyonları üzerinden diğer sistemlere erişimle veri sızıntısı olasılığının artması.
      
      
   6. Güvenlik Önemi: Erişim kontrolleri, veri izolasyonu ve güvenli tasarımın LLM sistemlerinde kritik olması.
      
      

Hallucination Kaynaklı Güvenlik Problemleri

Hallucination, büyük dil modellerinin (LLM) gerçekte var olmayan, yanlış ama tutarlı görünen veya yetkisi olmayan verileri kendinden emin bir şekilde üretmesidir. Bu durum yalnızca yanlış bilgi vermekle kalmaz, siber güvenlik açısından ciddi riskler oluşturur.

Başlıca Güvenlik Problemleri:

1. Yazılım Tedarik Zinciri Saldırıları (Package Hallucination):
   • AI, var olmayan kütüphaneler veya API’lar önerir.
   • Saldırgan, bu isimle zararlı bir paket hazırlayıp açık kaynak depolarına yükler.
   • Geliştirici paketi kurduğunda şirket ağına backdoor yerleştirilir.
     
     
2. Güvensiz Kod Önerileri:
   • Model, hatalı veya eski şifreleme algoritmaları ve input validasyon eksiklikleri önerebilir.
   • Mantıksal hatalar nedeniyle yetkilendirme veya güvenlik süreçleri atlanabilir.
     
     
3. Sosyal Mühendislik ve Yanıltıcı Güven:
   • Hallucination, inandırıcı phishing ve yanıltıcı prosedürler üretebilir.
   • Kullanıcılar, AI’nın sunduğu bilgilerin doğruluğunu sorgulamazsa, zararlı içeriklere yönlendirilebilir.
     
     

API ve Entegrasyon Güvenliği Açıkları

1. Aşırı Yetkilendirme: AI modeline gereğinden fazla izin verilmesi, saldırganların hassas verilere veya sistem işlevlerine erişmesini kolaylaştırır.
   
   
2. Confused Deputy Problemi: Model, dışarıdan gelen manipüle edilmiş komutları yetkili kullanıcı gibi uygular ve kritik sistemleri tehlikeye atabilir.
   
   
3. BOLA (Broken Object Level Authorization): Halüsinasyon veya yanlış API çağrıları, başkalarının verisine yetkisiz erişime yol açabilir.
   
   
4. API Key / Token Sızıntısı: Kod veya prompt loglarında anahtarların açığa çıkması, sistem üzerinde tam kontrol riskini artırır.
   
   
5. Yetkisiz API Çağrıları: Rol bazlı erişim kontrolü olmayan sistemlerde, model kritik endpoint’lere yanlışlıkla erişebilir.
   
   
6. Command Injection / Parametre Manipülasyonu: LLM prompt’ları ile API parametrelerinin değiştirilmesi, veri silme veya kullanıcı rolü değiştirme gibi tehlikeli işlemlere neden olabilir.

SONUÇ

LLM tabanlı yapay zekâ sistemleri güçlü ve kullanışlıdır; ancak prompt manipülasyonları, hallucination ve API entegrasyonları nedeniyle veri sızıntısı ve yetkisiz işlemler gibi ciddi güvenlik riskleri barındırır. Bu nedenle bu sistemler mutlaka güvenlik odaklı tasarlanmalı ve kontrol edilmelidir.