Yapay Zeka ve Otomasyon · Nov 2026
Yapay Zekâ Ajanlarında İnsan Onayı ve Kanıt Tasarımı
Yapay Zekâ Ajanlarında İnsan Onayı ve Kanıt Tasarımı konusunda yöneticilere yönelik uygulama rehberi: sorumluluklar, ölçülebilir kontroller, bağımsız kanıt ve aşamalı uygulama planı.
Yapay zekâ ajanlarında insan onayı, kullanıcının okumadan tıkladığı bir pencere değildir. Önerilen belirli eylemi, bağlamını ve sonuçlarını uygulamadan önce doğrulanabilir insan kararına bağlayan bir kontroldür. Yönetim açısından yararlı yaklaşım, politika niyetiyle gerçek uygulamayı ayırır. Kararlar sunumdaki iddialara değil gözlenebilir kanıta dayanmalıdır. Aşağıdaki işletim modeli uyarlanabilir bir öneridir; belirli bir müşteri çalışmasına ilişkin iddia değildir.
Eylemleri geri alınabilirliğe göre sınıflandırın
Salt okunur sorgu, taslak oluşturma, müşteri bildirimi, para transferi ve hesap silme aynı onay kuralını paylaşmamalıdır. Eylemleri geri alınabilirlik, veri hassasiyeti, dış etki ve dolandırıcılık potansiyeline göre sınıflandırın. Düşük riskli taslak otomatik üretilebilirken geri alınamaz ödeme bağımsız yetki ister. Bu sınıflandırma model güncellemesiyle değişen bir komutta değil yönetilen politikada bulunmalıdır.
Temel ödünleşim hız ile hesap verebilirlik arasındadır. Yetki vermeden inceleme adımı eklemek yalnızca gecikme yaratır. Maruziyeti ölçmeden incelemeyi kaldırmak riski müşterilere ve kuruma taşır. Amaç orantılı kontrolleri, ölçülebilir sonuçları ve eskalasyon yolunu birleştiren karar sürecidir. Salt okunur sorgu, taslak oluşturma, müşteri bildirimi, para transferi ve hesap silme aynı onay kuralını paylaşmamalıdır. Eylemleri geri alınabilirlik, veri hassasiyeti, dış etki ve dolandırıcılık potansiyeline göre sınıflandırın. Düşük riskli taslak otomatik üretilebilirken geri alınamaz ödeme bağımsız yetki ister. Bu sınıflandırma model güncellemesiyle değişen bir komutta değil yönetilen politikada bulunmalıdır.
Onay içeriğini açık hale getirin
Onaylayan kişiye gerçek eylem parametrelerini gösterin: hedef, tutar, alıcı, izinler, sınır dışına çıkan veri ve ajanın neden önerdiğine ilişkin anlaşılır açıklama. Kullanıcı 'görevi tamamla' gibi belirsiz özeti değil, belirli eylemin değişmez özetini onaylamalıdır. Uygulamadan önce özeti yeniden hesaplayın; önemli alan değiştiyse reddedin. Eski onay değiştirilmiş işlemi yetkilendirmemelidir.
Yönetim açısından yararlı yaklaşım, politika niyetiyle gerçek uygulamayı ayırır. Kararlar sunumdaki iddialara değil gözlenebilir kanıta dayanmalıdır. Aşağıdaki işletim modeli uyarlanabilir bir öneridir; belirli bir müşteri çalışmasına ilişkin iddia değildir. Onaylayan kişiye gerçek eylem parametrelerini gösterin: hedef, tutar, alıcı, izinler, sınır dışına çıkan veri ve ajanın neden önerdiğine ilişkin anlaşılır açıklama. Kullanıcı 'görevi tamamla' gibi belirsiz özeti değil, belirli eylemin değişmez özetini onaylamalıdır. Uygulamadan önce özeti yeniden hesaplayın; önemli alan değiştiyse reddedin. Eski onay değiştirilmiş işlemi yetkilendirmemelidir.
Kimliği, kapsamı ve zamanı bağlayın
Kurumsal kimlik, hassas işlemlerde ek doğrulama, kısa onay ömrü ve görevler ayrılığı kullanın. Ajan, operatörün yönetici yetkisi var diye sınırsız yönetici erişimi almamalıdır. Belirteç kapsamını asgari tutup onaylanan araç çağrısına bağlayın. Onaylayan yoksa ajan kendine vekil seçmesin; işlem güvenli biçimde beklesin veya başarısız olsun.
Temel ödünleşim hız ile hesap verebilirlik arasındadır. Yetki vermeden inceleme adımı eklemek yalnızca gecikme yaratır. Maruziyeti ölçmeden incelemeyi kaldırmak riski müşterilere ve kuruma taşır. Amaç orantılı kontrolleri, ölçülebilir sonuçları ve eskalasyon yolunu birleştiren karar sürecidir. Kurumsal kimlik, hassas işlemlerde ek doğrulama, kısa onay ömrü ve görevler ayrılığı kullanın. Ajan, operatörün yönetici yetkisi var diye sınırsız yönetici erişimi almamalıdır. Belirteç kapsamını asgari tutup onaylanan araç çağrısına bağlayın. Onaylayan yoksa ajan kendine vekil seçmesin; işlem güvenli biçimde beklesin veya başarısız olsun.
Komut enjeksiyonuna karşı koruyun
Getirilen belgeler, e-posta gövdeleri ve web sayfaları güvenilmeyen girdilerdir. Tedarikçi belgesindeki kötü niyetli talimat banka hesabını değiştirmeye veya onayı atlamaya çalışabilir. Kaynak içeriğini sistem politikasından ayırın, yapılandırılmış araç parametrelerini doğrulayın ve yetkilendirmeyi dil modelinin dışında uygulayın. İş akışını saldırgan belgelerle sınayıp yetkisiz eylemin yürütme sınırına ulaşıp ulaşmadığını ölçün.
Yönetim açısından yararlı yaklaşım, politika niyetiyle gerçek uygulamayı ayırır. Kararlar sunumdaki iddialara değil gözlenebilir kanıta dayanmalıdır. Aşağıdaki işletim modeli uyarlanabilir bir öneridir; belirli bir müşteri çalışmasına ilişkin iddia değildir. Getirilen belgeler, e-posta gövdeleri ve web sayfaları güvenilmeyen girdilerdir. Tedarikçi belgesindeki kötü niyetli talimat banka hesabını değiştirmeye veya onayı atlamaya çalışabilir. Kaynak içeriğini sistem politikasından ayırın, yapılandırılmış araç parametrelerini doğrulayın ve yetkilendirmeyi dil modelinin dışında uygulayın. İş akışını saldırgan belgelerle sınayıp yetkisiz eylemin yürütme sınırına ulaşıp ulaşmadığını ölçün.
Güvenilir karar izi tutun
Öneri kimliğini, model ve politika sürümünü, temizlenmiş kaynak referanslarını, eylem özetini, onaylayan kimliğini, karar zamanını, araç yanıtını ve nihai iş sonucunu kaydedin. Günlükleri değiştirmeye karşı koruyun ve hassas bağlama erişimi sınırlayın. Başarılı API yanıtı hedeflenen iş sonucunu kanıtlamaz; aşağı akış durumunu mutabakatla doğrulayın. Bu yaklaşım yapay zekâ regresyon kapıları ve ajan izin kontrolleri ile uyumludur.
Temel ödünleşim hız ile hesap verebilirlik arasındadır. Yetki vermeden inceleme adımı eklemek yalnızca gecikme yaratır. Maruziyeti ölçmeden incelemeyi kaldırmak riski müşterilere ve kuruma taşır. Amaç orantılı kontrolleri, ölçülebilir sonuçları ve eskalasyon yolunu birleştiren karar sürecidir. Öneri kimliğini, model ve politika sürümünü, temizlenmiş kaynak referanslarını, eylem özetini, onaylayan kimliğini, karar zamanını, araç yanıtını ve nihai iş sonucunu kaydedin. Günlükleri değiştirmeye karşı koruyun ve hassas bağlama erişimi sınırlayın. Başarılı API yanıtı hedeflenen iş sonucunu kanıtlamaz; aşağı akış durumunu mutabakatla doğrulayın. Bu yaklaşım yapay zekâ regresyon kapıları ve ajan izin kontrolleri ile uyumludur.
Hata ve eskalasyon yollarını sınayın
Süresi dolmuş onayları, çift tıklamayı, ağ tekrarlarını, değişen alıcıları, bulunmayan onaylayanları ve kısmen tamamlanan eylemleri test edin. Çift çalıştırmayı önlemek için tekillik anahtarları kullanın; geri dönüş mümkünse telafi işlemleri tasarlayın. Çözülmeyen durumları hizmet hedefi olan belirli insan kuyruğuna aktarın. Arayüz belirsizliği ve gerçek durumu göstermeli, görevin tamamlandığını yanlış iddia etmemelidir.
Yönetim açısından yararlı yaklaşım, politika niyetiyle gerçek uygulamayı ayırır. Kararlar sunumdaki iddialara değil gözlenebilir kanıta dayanmalıdır. Aşağıdaki işletim modeli uyarlanabilir bir öneridir; belirli bir müşteri çalışmasına ilişkin iddia değildir. Süresi dolmuş onayları, çift tıklamayı, ağ tekrarlarını, değişen alıcıları, bulunmayan onaylayanları ve kısmen tamamlanan eylemleri test edin. Çift çalıştırmayı önlemek için tekillik anahtarları kullanın; geri dönüş mümkünse telafi işlemleri tasarlayın. Çözülmeyen durumları hizmet hedefi olan belirli insan kuyruğuna aktarın. Arayüz belirsizliği ve gerçek durumu göstermeli, görevin tamamlandığını yanlış iddia etmemelidir.
CTO ve CISO için aşamalı devreye alma
İlk 30 günde gölge moduyla başlayın: ajan önerir fakat uygulamaz. Sonra açık onay, ölçüm ve geri alma ile dar kapsamlı geri alınabilir eylemlere izin verin. 90 gün sonrasında ancak değerlendirmeler yetkisiz eylem oranının düşük, denetim kayıtlarının güvenilir ve insan iş yükünün kabul edilebilir olduğunu gösterirse genişleyin. NIST AI RMF ve OWASP dil modeli uygulama rehberi bu incelemeyi yapılandırır. İnsan onayı törensel düğme değil ölçülebilir kontroldür.
Temel ödünleşim hız ile hesap verebilirlik arasındadır. Yetki vermeden inceleme adımı eklemek yalnızca gecikme yaratır. Maruziyeti ölçmeden incelemeyi kaldırmak riski müşterilere ve kuruma taşır. Amaç orantılı kontrolleri, ölçülebilir sonuçları ve eskalasyon yolunu birleştiren karar sürecidir. İlk 30 günde gölge moduyla başlayın: ajan önerir fakat uygulamaz. Sonra açık onay, ölçüm ve geri alma ile dar kapsamlı geri alınabilir eylemlere izin verin. 90 gün sonrasında ancak değerlendirmeler yetkisiz eylem oranının düşük, denetim kayıtlarının güvenilir ve insan iş yükünün kabul edilebilir olduğunu gösterirse genişleyin. NIST AI RMF ve OWASP dil modeli uygulama rehberi bu incelemeyi yapılandırır. İnsan onayı törensel düğme değil ölçülebilir kontroldür.
Kaynaklar ve sonraki karar
Yöntem kaynakları: Kaynak 1؛ Kaynak 2. Devam eden bir iş akışı seçin; sorumlusunu, kanıtını ve sonraki karar tarihini belgeleyin.