Ajanik Yapay Zekâ Neyi Değiştirir
Ajanik yapay zekâ, metin üretmekten fazlasını yapan sistemleri ifade eder: bir hedefe ulaşmak için tool’ları ve API’leri çağırarak özerk biçimde plan yapar, karar verir ve eyleme geçerler. Bir destek talebini çözmesi istenen ajan; bir veritabanını sorgulayabilir, bir kaydı güncelleyebilir ve bir e-posta gönderebilir. Bu, her adımı bir insanın yönetmediği, gerçek sistemler üzerinde gerçek eylemlerden oluşan bir zincirdir. Yanıt üretmekten eylem almaya geçen bu kayma, kendine özgü bir güvenlik sorunu doğurur.
Riskler somuttur. Her ajan kimlik bilgisi taşır: API anahtarları, OAuth token’ları. Bu kimlik bilgileri kod, yapılandırma ve pipeline’lar arasında izlenmeden yayılma eğilimindedir. Ajanlara, kapsamı hassas belirlemek emek gerektirdiği için, işin gerektirdiğinden daha geniş yetkiler verilir. Eylemlerinin çoğu zaman adı konmuş, hesap verebilir bir sahibi yoktur; bir şey ters gittiğinde kimse yanıt vermekle yükümlü değildir. Tool çağrıları hiçbir denetim izinden geçmeyebilir. Prompt injection ise ajanın okuduğu içeriğin onu kendi operatörüne karşı çevirebileceği, meşru kimlik bilgilerini gayrimeşru amaçlara yönlendirebileceği anlamına gelir.
Kontrol Noktası Neden Kimlik
Model düzeyindeki önlemler, yani daha iyi eğitim, çıktı filtreleri, sistem prompt’ları, elbette değerlidir; ama hepsi modelin içinde yaşar ve hiç kimse, düşmanca girdi altında bir modelin neye karar vereceğini garanti edemez. Kimlik katmanı kontrolleri ise modelin dışında, kararın eyleme dönüştüğü noktada durur. Bu onları modelden bağımsız kılar: hangi model kullanılırsa kullanılsın ve model neye ikna edilmiş olursa olsun, ajanın gerçekte ne yapabileceğini sınırlar.
Bu, kimliği insan erişiminin kontrol düzlemi yapan mimari argümanın aynısıdır. Bir kuruluş, çalışanlarını doğru karar vermelerini umarak güvenceye almaz; onları doğrular, yetkilerini kapsamlar, tehlikeli işlemler için onay ister ve yaptıklarını denetler. Ajanlar da aynı muameleyi hak eder; makine hızında çalıştıkları, kullanıcılar adına hareket ettikleri ve işledikleri içerik üzerinden manipüle edilebildikleri gerçeğine göre uyarlanmış biçimde.
Ajanik Yapay Zekâ Nasıl Güvenceye Alınır
Kimlik ve sahiplikle başlayın: her ajan, kimlik sisteminde birinci sınıf bir kimlik olmalı ve neye erişebildiğinden sorumlu, adı konmuş bir insan sahibi bulunmalıdır. Kimlik bilgileri kodda veya yapılandırma dosyalarında değil, yönetişim altındaki bir kasada durmalıdır. Erişim en az ayrıcalığı izlemeli; ajan bir kullanıcı adına hareket ettiğinde ise on-behalf-of kapsamlama, onu ajanın ve o kullanıcının ayrı ayrı izinli olduklarının kesişimiyle sınırlamalıdır. Hizmet ettiği insandan asla fazlası değil.
Ardından eylemlerin kendisini yönetin. Tool erişimini, izin listeli bir katalog uygulayan bir gateway üzerinden geçirin; böylece ajan yalnızca yetkili olduğu tool’ları keşfedebilir ve çağırabilir. Yıkıcı veya hassas eylemler için insan onayı isteyin, bir ajanı anında durdurabilen bir kill-switch bulundurun, her ajanın güvenilirliğini davranışından sürekli puanlayın ve her çağrıyı eksiksiz bir denetim izine kaydedin. Monosign, yapay zekâ ajanlarını sahipleri, korkulukları, güven puanları ve tool’larının önündeki MCP gateway ile birinci sınıf kimlikler olarak yönetir.