Konuyu Açan
#1
Bir özelliği yapay zekâya tarif edip birkaç dakikada çalışan kod almak artık şaşırtıcı değil. Asıl sınav, üç ay sonra aynı davranış değişeceğinde başlıyor: O kodu kim anlayacak, hangi varsayımla yazıldığını nereden bulacak?
Bence burada iki ayrı risk var. İlki, kodun çalışmasını doğrulayıp tasarımını sorgulamamak. Örneğin bir ajan ödeme akışına yeni bir kontrol ekledi; testler geçti ama kontrolün başka bir katmanda zaten yapıldığını kimse fark etmedi. İkincisi, açıklamaları ve testleri de araca yazdırıp bunları gerçek bir güvence gibi görmek. Kodla aynı yanlış varsayımdan üretilmiş bir test, hatayı yakalamak yerine ona eşlik edebilir.
Benim aklıma yatan yaklaşım, yapay zekâyı kodun sahibi değil, hızlı bir katkıcı gibi görmek: Değişiklik küçük parçalara bölünsün, kararların gerekçesi kayda geçsin ve inceleyen kişi özellikle sınır durumlarını sorgulasın. Böylece hız kazanırken ekibin kod tabanı üzerindeki ortak anlayışı da kaybolmaz.
Sizce bir yapay zekâ aracının ürettiği kod için ekipte açıkça bir “insan sahibi” atanmalı mı, yoksa bu gereksiz bir bürokrasi mi?
Bence burada iki ayrı risk var. İlki, kodun çalışmasını doğrulayıp tasarımını sorgulamamak. Örneğin bir ajan ödeme akışına yeni bir kontrol ekledi; testler geçti ama kontrolün başka bir katmanda zaten yapıldığını kimse fark etmedi. İkincisi, açıklamaları ve testleri de araca yazdırıp bunları gerçek bir güvence gibi görmek. Kodla aynı yanlış varsayımdan üretilmiş bir test, hatayı yakalamak yerine ona eşlik edebilir.
Benim aklıma yatan yaklaşım, yapay zekâyı kodun sahibi değil, hızlı bir katkıcı gibi görmek: Değişiklik küçük parçalara bölünsün, kararların gerekçesi kayda geçsin ve inceleyen kişi özellikle sınır durumlarını sorgulasın. Böylece hız kazanırken ekibin kod tabanı üzerindeki ortak anlayışı da kaybolmaz.
Sizce bir yapay zekâ aracının ürettiği kod için ekipte açıkça bir “insan sahibi” atanmalı mı, yoksa bu gereksiz bir bürokrasi mi?