101 büyük organizasyonun katıldığı yakın tarihli bir ankete göre, yapay zeka ajanları için iş bağlamı sağlamak üzere tasarlanan altyapılar güvenilir hale gelmelerinden daha hızlı inşa ediliyor. Geri alma ile desteklenen üretim (RAG) yöntemi artık birincil bağlam kaynağı haline geldi ve OpenAI File Search ve Vertex AI Search gibi yerel sağlayıcı araçları, uzmanlaşmış vektör veritabanlarını geride bıraktı. Ancak, organizasyonların önemli bir kısmı, bağlamsal verilerin eksikliği veya tutarsızlığı nedeniyle ajanların genellikle yanlış ancak kendinden emin yanıtlar verdiğini gözlemledi.
Bu sorunu çözmek için şirketler, anlamsal yönetişim katmanları ve hibrit mimariler geliştirmekte, ancak bu altyapıların çoğu hala uygulama aşamasındadır. Yerel geri alma sistemleri daha sık kullanılmasına rağmen, birçok organizasyon uzmanlaşmış veya çoklu mimari araçları kullanarak bağımsızlıklarını korumayı hedefliyor. Çoğu organizasyon, geri alma sistemlerini veri erişim kolaylığı ve operasyonel performansa göre seçiyor ve devreye alındıktan sonra yanıt doğruluğunu ve güvenliğini daha yakından izliyor. Genel olarak rapor, yalnızca geri almanın artmasının güven boşluğunu kapatmak için yeterli olmadığını, yönetim, ortak tanımlar ve gerçek erişim kontrolüne ihtiyaç duyulduğunu belirtiyor.