Şirketler yapay zekâ aracılarına giderek daha fazla özerklik vermektedir; yani her adımda insan onayı olmadan sistemlerde planlama, karar verme ve hareket etme yeteneği. Bu durumda temel bir soru ortaya çıkar: açıkça yetkilendirilmemiş bir eylemi ne engelleyebilir?
Bu aracılar kurumsal modeller üzerinde çalışır ve altyapı verilerine erişir; dolayısıyla sonuçlarına ilişkin sorumluluk kurumun kendisine aittir. Bu sorumluluk geriye dönük olarak ya da yalnızca kâğıt üzerinde var olan soyut politikalarla karşılanamaz. Kurallar, o anda ve mevcut bağlamda uygulanmalıdır çünkü aracıların bağımsız yargılama yapma yeteneği yoktur.
Örneğin, basit bir kural "Hiçbir koşulda araba kapısını açma" der. Mutlak olarak uygulanırsa, aracı asla girip çıkamaz. Ancak kaza veya yangın gibi bir durumda bunun tersi kural gerekir. Dolayısıyla anlık bağlam tüm kararı belirler.
Yaygın yaklaşım, modelin üzerine koruyucu raylar (talimatlar, politikalar, izleme) eklemektir; ancak bu mekanizmalar yapısal sınırlamalara sahiptir. Aracı katmanı kontrolleri, aracının çıktısı öngörülebilir olduğu sürece etkilidir; ancak özerklik tam da çıktıyı öngörülemez kılar. Bir eylemi gerçekleşmeden önce kontrol eden yönetişim, aynı anda birden fazla sistemde milisaniyeler içinde çalışan bir sisteme ayak uyduramaz.
Bu nedenle yönetişim "uygulanabilir" olmalı ve tam olarak gerçekleşme anında operasyonel veri katmanında uygulanmalıdır. Aracılar veriyle etkileşir: sorgular, alır, dönüştürür ve hatta değiştirir. Bir aracının belirli bir veri sınıfına erişmemesi gerektiğini söyleyen bir politika, ancak sistem o anda erişim talebini reddedebiliyorsa anlamlıdır. Ayrıca denetlenebilirlik ilkesi ancak kurum aracının ne yaptığını, hangi verilere eriştiğini, hangi amaçla eriştiğini ve ne sonuç elde edildiğini yeniden oluşturabildiğinde pratik hale gelir.
Aracı davranışı olasılıksal olabilir; dolayısıyla kurum politika uygulamak için model seçimine güvenmemelidir. Politika sistem tarafından yürütülmelidir; yani baştan itibaren aşılamayacak bir sınır inşa edilir. Birçok şirketin halihazırda kullandığı veri katmanı kontrolleri arasında rol ve öznitelik tabanlı erişim kontrolü, satır ve sütun düzeyinde güvenlik, sınıflandırma ve maskeleme, kod olarak politika ve tam denetim izi bulunur.
Aracıların değiştirdiği şey kimlikleridir. Kimlik oluşturucu, aracıyı bağımsız bir asıl olarak ele almalıdır; yani her aracı için oturumun başında bildirilen bir kimlik ve bir amaç tanımlanır. Amaç kimliğe bağlandığında, politika motoru onu bir rol veya organizasyon birimi gibi değerlendirebilir ve olay günlüğü yalnızca kimin hareket ettiğini ve hangi verilere dokunulduğunu değil, aynı zamanda amacın ne olduğunu da gösterir.
Uygulamada bu öğeler üç ana sütun altında gruplandırılan dokuz kontrole ayrılır:
Politikaların yürütülmesi
- Aracılar ve kullanıcılar için sorgu zamanında uygulanan rol ve öznitelik tabanlı erişim kontrolü.
- Politika yoluna dayalı dinamik sütun maskeleme.
- Oturum başında bildirilen ve aktif kullanıcıyı koruyan amaçla birlikte aracı kimliğinin temel bir asıl olarak ele alınması.
Gözlem ve kanıt
- Politikayı yönlendiren veri sınıflandırması ve etiketleme.
- Aracıyı, ilişkili kullanıcıyı ve bildirilen amacı kaydeden satır düzeyinde oturum günlüğü.
- Orijinal talebe geri izleme olanağı sağlayan soy takibi.
Entegrasyon ve sağlamlaştırma
- Merkezi ve taşınabilir politika yönetimi.
- Depolamada ve iletim sırasında şifreleme.
- Şirket içi, bulut, egemen veya izole ortamlar arasında tutarlı uygulama.
Bildirilen amaç fark yaratır; bu öznitelik erişim katmanına eklenir ve rol ile satır düzeyinde güvenlik gibi aynı politika yolunda değerlendirilir. Politika uygulama mekanizması değişmez; yalnızca aracının amacı değerlendirmenin ve son günlüğün parçası haline gelir, diyor EDB'de Veri Yönetimi ve Yapay Zekâ Yönetişimi Başkan Yardımcısı Priyanka Jain.
Bir kurumda yapay zekâ benimseme yolu ne kadar ilerlerse, veri katmanı yönetişimi o kadar hızlı hareket etmeyi sağlar; çünkü bu kontroller zaten veritabanına gömülüdür ve aracıların yalnızca bunların içinden geçmesi gerekir.
Hedef aracı işlevselliğini engellemek değil, hareket kapsamını, erişilebilir verileri, izin verilen değişiklikleri, yükseltme gerektiren öğeleri ve bir sorun olması durumunda olayları yeniden oluşturma yeteneğini tanımlamaktır. Bu yaklaşımla aracılar tanımlanabilir, sınırlı, izlenebilir ve denetlenebilir hale gelir ve güvenlik, risk ve yönetim ekipleri yapay zekâyı daha güvenli ve hızlı bir şekilde dağıtabilir.
EDB Postgres AI platformu açık kaynak PostgreSQL üzerine inşa edilmiştir; bu açık altyapı kuruluşların depolama konumlarını, erişimleri ve politikaları kendi kontrolleri altında tutmalarına olanak tanır ve yönetişimi sahip olunmayan veya incelenemeyen bir katmana devretmez. Düzenlemeye tabi endüstriler için açık kaynak yönetişim ve kaynak katmanı yönetişimi bu birleşimi, aracıların üretim ortamlarında kullanılması için bir ön koşuldur.
Aracı merkezli sistemler giderek daha güçlü ve özerk hale geliyor; dolayısıyla benimsemeyi yavaşlatmak yerine kontrol mekanizmasını bilinçli olarak seçmeliyiz. Yönetişimi veri katmanında uygulayan kuruluşlar yapay zekâya daha hızlı ve daha büyük bir güvenle ilerleyebilir.