Üretken yapay zekâ API’lerinde WAF yanlış pozitiflerini nasıl yönetiyorsunuz?

Bir süredir sohbet ve kod üretimi özellikleri olan uygulamaların önündeki WAF kurallarını kurcalıyorum. İlginç bir sorun şu: Kullanıcıdan gelen masum bir istemde SQL örneği, HTML etiketi ya da “önceki talimatları yok say” gibi ifadeler bulununca istek, gövde incelemesinde saldırı gibi işaretlenebiliyor. Kuralı kapatmak kolay; kapsamı doğru daraltmak zor.

Bence burada iki şeyi ayrı ele almak gerekiyor:

• Kuralı ve uç noktayı birlikte değerlendirmek: Yanlış pozitif yalnızca belirli bir sohbet uç noktasında ve belirli bir imza nedeniyle oluşuyorsa, istisnayı o rota ve mümkünse o kural kimliğiyle sınırlamak, genel istisnadan daha güvenli.
• Engellemeden önce görünürlük kazanmak: İstek kimliği, eşleşen kural, rota ve yanıt kodunu kaydetmek; tekrar eden örüntüleri bulmayı kolaylaştırıyor. Hassas istem içeriğini loglamadan inceleme yapacak bir maskeleme düzeni de baştan düşünülmeli.
• Sadece WAF’a güvenmemek: WAF kötü niyetli trafiği süzebilir ama modelin talimat enjeksiyonunu güvenilir biçimde çözdüğünü varsaymak doğru değil. Uygulama tarafındaki yetki kontrolleri ve araç çağrısı sınırları ayrı kalmalı.

Sizde üretken yapay zekâ özellikli uygulamalarda en çok hangi WAF kuralı sorun çıkarıyor? İstisnaları nasıl dar kapsamlı tutuyorsunuz?