Yapay zekâ kodunu doğrularken testleri de ona yazdırmak ne kadar güvenli?

Bir modele fonksiyonu yazdırıp ardından “buna test ekle” demek çok pratik; ama ikisini de aynı modelin üretmesi, aynı varsayımın hem kodda hem testte gözden kaçmasına yol açabiliyor. Özellikle boş değerler, sınır durumları ve hatalı girdilerde testler yeşil görünürken gerçek hata saklanabiliyor.

Ben daha sağlam bulduğum akışı şöyle kuruyorum:

• Önce gereksinimleri ve beklenen davranışı kendim netleştiriyorum. Örneğin bir fiyat hesaplama fonksiyonunda negatif miktarın reddedilmesi gerektiğini açıkça yazıyorum.
• Kodu ürettikten sonra testleri ayrı bir istemle istiyorum; hatta modele “bu kod hangi girdilerde bozulabilir?” diye sorup ek senaryolar çıkarıyorum.
• Son olarak en kritik testleri modelden bağımsız biçimde gözden geçiriyorum. Test gerçekten doğru sonucu mu kontrol ediyor, yoksa kodun mevcut davranışını mı onaylıyor?

Daha da faydalı bir yöntem, modele uygulama kodunu göstermeden yalnızca gereksinimlerden test senaryoları üretmesini istemek. Böylece testlerin, kodun içindeki hatalı varsayımları kopyalama ihtimali azalıyor.

Siz yapay zekâ ile geliştirirken testleri nasıl ayırıyorsunuz? Kod ve test için farklı araç ya da modeller kullanmak pratikte fark yaratıyor mu?