NVIDIA, AI ajanlarını kontrol altında tutmak için yeni güvenlik platformunu duyurdu

AI ajanı nedir?

Bir sohbet botuna “Bu metni özetle” dediğinizde sistem çoğunlukla bir yanıt üretir. AI ajanı ise verilen hedefi tamamlamak için plan yapabilir, araç çağırabilir ve birden fazla adım yürütebilir. Örneğin toplantı notlarını okuyup görevleri çıkarması, takvimi kontrol etmesi ve e-posta taslağı hazırlaması istenebilir.

Bu yetenek, ajana dosya, terminal, ağ veya uygulama erişimi verildiğinde daha kullanışlı hale gelir. Aynı erişimler hata ya da yanlış yetki kullanımı halinde risk de yaratır. Ajanın bir hedefi yanlış yorumlaması için bilinç kazanmış olması gerekmez; karmaşık yazılımlar da beklenmedik biçimde davranabilir.

NVIDIA Open Agent Safety Platform nedir?

NVIDIA, Open Agent Safety Platform'ı 28 Eylül 2026'da duyurdu. Şirket bunu ajanları test aşamasından dağıtıma kadar yönetmeye yönelik açık yazılım platformu ve referans sistem tasarımı olarak tanımlıyor.

Platformun iki öne çıkan bileşeni var: OpenShell adlı açık kaynak runtime ve BlueField-4 üzerinde çalışan Sentry referans tasarımı. NVIDIA teknik yazısında daha geniş mimariyi uygulama, runtime ve altyapı olmak üzere üç katmanda anlatıyor. Yani OpenShell ve Sentry önemli bileşenler olsa da tüm mimari yalnızca iki parçadan ibaret değil.

OpenShell ne yapıyor?

OpenShell, ajanın çalıştığı ortamı sandbox içinde tutan ve erişim politikalarını uygulayan açık kaynak bir runtime. Operatör; ajanın hangi dosyalara, ağ hedeflerine, süreçlere, araçlara ve kimlik bilgilerine erişebileceğini tanımlayabiliyor.

NVIDIA'nın teknik açıklamasına göre OpenShell politika sınırlarını çalışma sırasında uygular; politika değişikliklerini de etkinleştirmeden önce biçimsel doğrulamayla inceleyebilir. Amaç modele yalnızca “bu kaynağa erişme” talimatı vermek değil, çalışma ortamında erişimi teknik olarak sınırlamak.

OpenShell Apache 2.0 lisansıyla açık kaynak yayımlanıyor. NVIDIA, yazılımın Arm ve Intel dahil üçüncü taraf işlemci platformlarına genişletilebileceğini söylüyor. GitHub deposundaki güncel quickstart Linux, Apple Silicon üzerinde macOS ve deneysel olarak Windows WSL 2 desteğini listeliyor; gereksinimler sürüme göre değişebileceğinden kurulum öncesinde resmi destek matrisine bakılmalı.

Basit bir örnek

Bir şirket ajanının belirli bir klasördeki müşteri belgelerini okuyup rapor hazırlamasına izin verildiğini düşünelim. Ajanın personel kayıtlarına veya ilgisiz bir dış ağa erişmesi gerekiyorsa, bu erişimler çalışma politikasında tanımlı değilse runtime isteği engelleyebilir.

Bu, her saldırı veya yanlış yapılandırmanın kesin olarak önleneceği anlamına gelmez. Güvenlik; politikanın doğru yazılmasına, kimlik bilgilerinin korunmasına, sistemin yapılandırılmasına ve kullanılan entegrasyonlara bağlıdır.

Sentry nedir?

NVIDIA Sentry'yi, ana makine ve ajanın erişim alanı dışında çalışan ek bir izleme ve uygulama katmanı olarak tanımlıyor. Referans tasarımında BlueField-4 DPU üzerinde çalışıyor ve ajan etkinliğini sürekli gözlemleyip politikaları donanım tarafında uygulamayı hedefliyor.

NVIDIA, sınır dışına çıkmaya çalışan bir ajanın milisaniyeler içinde karantinaya alınabileceğini belirtiyor. Bu süre ve etkinlik iddiaları şirketin kendi teknik açıklamasına dayanıyor; farklı donanım, iş yükü ve yapılandırmalarda bağımsız biçimde doğrulanmış genel bir performans garantisi olarak okunmamalı.

OpenShell tek başına kullanılabilen yazılım bileşeni. Sentry ise NVIDIA'nın BlueField altyapısına dayanan ek bir referans katmanı; bu nedenle platformun her parçasının donanımdan bağımsız olduğu söylenemez.

Güvenlik katmanını ajandan ayırmak neden önemli?

Bir ajan kendi davranışını yöneten tüm kontrol mekanizmalarına da erişebiliyorsa, hatalı veya beklenmedik davranış sırasında bu kontroller zayıflayabilir. NVIDIA'nın yaklaşımı, bazı karar ve gözlem noktalarını ajanın dışındaki runtime ve altyapı katmanlarına taşımak.

Bu yaklaşım siber güvenlikteki katmanlı savunma fikrine benziyor: tek bir kontrolün her durumu çözmesi beklenmiyor; sandbox, politika, kimlik denetimi, izleme ve insan onayı farklı riskleri azaltan katmanlar olarak çalışıyor.

NVIDIA teknik yazısı üç katmanlı bir model tarif ediyor:

• Uygulama katmanı: model, ajan çatısı, araçlar ve veriler.

• Runtime katmanı: iş yükünü çalıştıran, politikaları uygulayan ve etkinliği izleyen yazılım.

• Altyapı katmanı: CPU, DPU, ağ ve diğer fiziksel kaynaklar.

Hugging Face olayı hakkında ne biliniyor?

Reuters'ın 28 Eylül tarihli haberine göre NVIDIA, Open Agent Safety Platform araçlarının Hugging Face'i etkileyen ve OpenAI ajanlarının rol oynadığı bildirilen güvenlik olayını önleyebileceğini savundu. Reuters, NVIDIA yöneticisinin bu değerlendirmesini aktarıyor.

Bu, platformun söz konusu olayı kontrollü bir testte gerçekten engellediğinin bağımsız kanıtı değil. Bu nedenle haberde doğru ifade “NVIDIA, araçlarının benzer bir olayı önleyebileceğini söylüyor” şeklinde olmalı; “platform saldırıyı kesin olarak durdurdu” denmemeli.

AI ajanları neden klasik uygulamalardan daha zor?

AI artık yalnızca cevap veren sistemden işlem yapan sisteme dönüşüyor. OpenAI Dots gibi sürekli AI ajanları bu yeni güvenlik ihtiyacının somut bir örneği.

Klasik yazılım çoğunlukla önceden belirlenmiş kuralları izler. Bir ajan ise kendisine verilen hedefe göre sıradaki adımlarını seçebilir; dosya okuyabilir, kod çalıştırabilir, araç çağırabilir ve sonucuna göre yeni bir işlem deneyebilir.

Bu esneklik sistemi daha kullanışlı kılarken, her adımı önceden tahmin etmeyi zorlaştırır. Belirsiz talimatlar, uzun süre çalışan görevler, araçların geniş yetkileri ve güvenilmeyen girdiler güvenlik tasarımında hesaba katılmalı.

NVIDIA neden bu alana giriyor?

NVIDIA, OpenShell ve BlueField gibi altyapı bileşenlerinin yanında ajanların çalışmasını yönetecek yazılım ve referans tasarımları da sunuyor. Şirketlerin çok sayıda ajanı gerçek iş akışlarında çalıştırması halinde yalnızca işlem gücüne değil; erişim sınırı, denetim izi, kimlik yönetimi ve müdahale mekanizmalarına da ihtiyaç duyulacak.

Şirket, Anthropic, Cisco, CrowdStrike, Hugging Face, Microsoft, Red Hat, Salesforce, SAP, Scale AI ve diğer kuruluşların platform teknolojileriyle çalıştığını duyurdu. Bu katılım, her kuruluşun bütün sistemi üretimde kullandığı veya ürünün güvenliğini bağımsız olarak onayladığı anlamına gelmiyor.

Bu teknoloji normal kullanıcıyı ilgilendiriyor mu?

Platformun hedefi öncelikle kurumlar ve altyapı sağlayıcıları. Ancak kişisel asistanlar e-posta göndermeye, rezervasyon yapmaya, dosya düzenlemeye veya uygulamalar arasında işlem yürütmeye başladıkça hangi erişimlerin verildiği son kullanıcı için de önem kazanıyor.

Bir ajana ne kadar fazla yetki tanınırsa, yanlış işlem halinde etkisi de o kadar büyüyebilir. Güvenli bir tasarım, yalnızca modelin talimatları izlemesine bel bağlamamalı; en az yetki, açık onay, denetlenebilir kayıt ve geri alınabilir işlem ilkelerini de uygulamalı.

Open Agent Safety Platform bütün riskleri çözüyor mu?

Hayır. Runtime ve donanım katmanları bazı erişim ve davranış risklerini azaltabilir; ancak modelin yanlış karar vermesi, prompt injection, hatalı politika, çalınmış kimlik bilgileri, yazılım açığı veya insan hatası gibi bütün riskleri ortadan kaldırmaz.

OpenShell ya da Sentry kullanılması “ajan artık tamamen güvenli” demek değildir. Etki; hangi bileşenlerin devrede olduğuna, politikaların nasıl tanımlandığına ve kurumun diğer güvenlik önlemlerine bağlıdır. NVIDIA da platformu daha geniş bir güvenlik mühendisliği yaklaşımının parçası olarak konumlandırıyor.

Sık sorulan sorular

NVIDIA Open Agent Safety Platform ne zaman duyuruldu?

NVIDIA, platformu 28 Eylül 2026'da duyurdu. OpenShell açık kaynak yazılımı ve Sentry referans sistem tasarımı duyurunun öne çıkan parçaları.

OpenShell açık kaynak mı?

Evet. NVIDIA OpenShell'i Apache 2.0 lisanslı açık kaynak bir proje olarak yayımlıyor. Projenin güncel kurulum ve destek koşulları GitHub deposu ve resmi belgelerde yer alıyor.

Sentry, OpenShell'den farklı mı?

Evet. OpenShell ajanın çalıştığı sandbox içinde politika sınırlarını uygulayan runtime yazılımı. Sentry ise NVIDIA'nın BlueField-4 DPU üzerinde tarif ettiği, ajan dışından izleme ve müdahale sağlamayı amaçlayan ek referans katmanı.

Sentry ajanları gerçekten milisaniyeler içinde durdurabiliyor mu?

Bu, NVIDIA'nın duyuru ve teknik materyallerindeki performans iddiası. Her iş yükü ve kurulum için bağımsız biçimde doğrulanmış garanti olarak değerlendirilmemeli.

Platform Hugging Face olayını önledi mi?

Hayır; duyuru sonrasında yayımlanan Reuters haberinde NVIDIA yöneticisi, araçların olayı önleyebileceğini düşündüklerini söylüyor. Bu, olayın platformla yeniden oynatılıp kesin biçimde durdurulduğunu gösteren bağımsız bir test sonucu değil.