Yapay zekâ temelli ürün mühendisliği

Yapay zekâ özelliklerinin çoğu aynı yerde tökezliyor. Demo çalışıyor, sonra uygulama bir değer beklerken model düz metin döndürüyor. Biz modelin iyi davranmasını ummak yerine onu kısıtlayan özellikler kuruyoruz: zorunlu yapılandırılmış çıktı ve araç kullanımı, böylece sonuç sistemin geri kalanının güvenebileceği tipli bir nesne olarak geliyor.

Yanıtlar modelin belleğine bırakılmıyor; müşterinin kendi belgelerine erişimle dayandırılıyor. İşin ağdan uzakta yapıldığı yerde çıkarım cihaz üzerinde çalışıyor. Modele ulaşan güvenilmeyen girdi güvenilmeyen kalıyor: bir belgeye gizlenmiş bir yönerge, özelliğin ne yaptığını değiştiremiyor.

Her istem yayına almadan önce sabit bir vaka kümesiyle değerlendiriliyor, her çağrı sonrasında kayda geçiyor. Modelin davranışındaki bir değişiklik böylece destek kaydı olarak değil, başarısız olan bir test olarak ortaya çıkıyor — yayınlayabileceğiniz bir yapay zekâ özelliğiyle sürdürebileceğiniz bir özellik arasındaki fark bu.