Bir yapay zekâ ajanının üretime çıkmadan önce gerçekten ihtiyacı olanlar
Bir modelin araç çağırdığı demo, bir hafta sonluk iştir. Aynı şeyi müşterilerin önüne, para ya da kişisel veri tutan sistemlere erişimle koymak bambaşka bir mühendislik problemidir — ve neredeyse hiçbir kısmı prompt mühendisliği değildir.
Neye izinli olduğuna karar verin
İlk içgüdü, ajana geniş erişim verip onu prompt içinde kısıtlamaktır. Bu tersidir: prompt bir ricadır, yetki sınırı değil. Kimlik bilgilerini göreve göre daraltın; modelin tehlikeli bir şeye ikna edilip edilemeyeceği sorusu o anda ilginç olmaktan çıkar.
Pratikte bu, görev başına ayrı ve kısa ömürlü bir kimlik demektir: tam olarak o görevin ihtiyaç duyduğu araçlar ve başka hiçbir şeye kalıcı erişim yok.
Sonuç doğuran aksiyonları geri alınabilir yapın
Ajanın yapabileceği her aksiyonu üçe ayırın: serbestçe yapılabilir, geri alınabiliyorsa yapılabilir ve insan gerektirir. Çoğu sistemde, işin tamamının çok daha az korkutucu hâle gelmesi için ortadaki kovanın gerçekten geri alınabilir olması yeter — yumuşak silme, taslak durumu, kuyruğa alınmış değişiklik.
Demo gibi değil, yazılım gibi değerlendirin
Deterministik olmayan davranış sizi test etmekten muaf tutmaz; testin neye benzediğini değiştirir. Beklenen sonuçları belli, ayrı tutulmuş gerçek vakalardan bir set kurun ve prompt, araçlar ya da model sürümündeki her değişiklikte koşturun.
Bu olmadan anekdot karşılaştırırsınız. Davranış da gerçekten kayar: bir model sürüm yükseltmesi, kimsenin önemli olduğunu hatırlamadığı bir uç durumu sessizce değiştirebilir.
Cevabın ajan olmadığı durumları bilin
Ajan olarak tarif edilen problemlerin çoğu, tek bir belirsiz adımı olan bir iş akışıdır. Aksiyon sırası önceden biliniyorsa, belirsiz kısım için bir model çağıran klasik bir hat; kurması daha ucuz, işletmesi daha ucuz ve yanlış davrandığında üzerine düşünmesi çok daha kolaydır.
