Konuyu Açan
#1
Bir destek formuna gelen mesajları “fatura”, “hesap erişimi” ve “teknik sorun” gibi başlıklara ayırmak için yerel model denemeyi düşünüyorum. İşin güzel tarafı, müşteri metinlerini dış servise göndermeden sınıflandırabilmek; zor tarafıysa modelin bazen emin olmadığı halde kendinden emin cevap vermesi.
Ben olsam ilk aşamada modeli serbestçe yanıt yazdırmak yerine yalnızca sabit bir JSON şemasıyla sınırlarım: kategori, öncelik ve kısa gerekçe. PHP tarafında da çıktıyı doğrudan kullanmadan önce JSON olarak çözüp kategori değerini izin verilen seçeneklerle karşılaştırırım. Geçersiz çıktı gelirse kaydı “inceleme gerekli” kuyruğuna atmak, yanlış otomatik yönlendirmeden daha güvenli görünüyor.
İkinci konu model boyutu ve bekleme süresi. Küçük, kuantize bir model bu dar görevde yeterli olabilir; ama aynı anda birkaç form gönderilince sunucunun belleği ve istek kuyruğu önem kazanıyor. Önce gerçek, anonimleştirilmiş örneklerden küçük bir test kümesi hazırlayıp doğrulukla birlikte yanıt süresini de ölçmek isterim.
Siz bu tür işlerde yerel model kullanıyor musunuz? Çıktıyı uygulama tarafında nasıl doğruluyor, belirsiz sonuçları nereye yönlendiriyorsunuz?
Ben olsam ilk aşamada modeli serbestçe yanıt yazdırmak yerine yalnızca sabit bir JSON şemasıyla sınırlarım: kategori, öncelik ve kısa gerekçe. PHP tarafında da çıktıyı doğrudan kullanmadan önce JSON olarak çözüp kategori değerini izin verilen seçeneklerle karşılaştırırım. Geçersiz çıktı gelirse kaydı “inceleme gerekli” kuyruğuna atmak, yanlış otomatik yönlendirmeden daha güvenli görünüyor.
İkinci konu model boyutu ve bekleme süresi. Küçük, kuantize bir model bu dar görevde yeterli olabilir; ama aynı anda birkaç form gönderilince sunucunun belleği ve istek kuyruğu önem kazanıyor. Önce gerçek, anonimleştirilmiş örneklerden küçük bir test kümesi hazırlayıp doğrulukla birlikte yanıt süresini de ölçmek isterim.
Siz bu tür işlerde yerel model kullanıyor musunuz? Çıktıyı uygulama tarafında nasıl doğruluyor, belirsiz sonuçları nereye yönlendiriyorsunuz?