Giriş
Son haftalarda yapay zeka ajanları hakkındaki haberlerin ortak sorusu aynı: bir ajana ne kadar serbestlik vermeliyiz? Nvidia bu soruya bir ürünle yanıt verdi, OpenAI’da güvenlik araştırmacılarının işten çıkarılması ise sektörün kendi içindeki gerilimi gösterdi. Bunlar büyük şirketlerin sorunları gibi görünüyor, ama aynı soru bir n8n akışı ya da Hermes kuran herkes için de geçerli. AI ajan yetkisi konusu artık “ileri seviye bir ayrıntı” değil, kurulumun ilk kararı. Bu yazıda haberlerde gerçekte ne olduğunu, hangilerinin sizi ilgilendirdiğini ve kendi otomasyonlarınızda uygulayabileceğiniz beş basit kuralı anlatıyorum.
Not: Haber kısmında yalnızca birden fazla kaynakta teyit edebildiğim bilgileri aktarıyorum, tartışmalı olan yerleri de öyle belirtiyorum. Pratik öneriler ise benim kendi yorumum.
Haberlerde Gerçekte Ne Oldu?
Nvidia’nın Open Agent Safety Platform’u (28 Eylül). Nvidia, ajanları kısıtlı bir ortamda çalıştırmak için açık bir yazılım platformu ve donanım tabanlı bir referans tasarım duyurdu. CEO Jensen Huang bunu CNBC’ye “ajanlar için bir tarayıcı” diye anlattı: ajanın yalnızca işini yapması için gereken şeylere erişmesine izin veren bir kapsama sistemi. Platformun yazılım tarafı OpenShell, ajanı yalıtılmış bir ortamda çalıştırıp dosya, ağ ve süreç erişimini kurallarla sınırlıyor. Sentry adlı izleme bileşeni ise ayrı donanımdan ajanın faaliyetini izliyor. Nvidia, geliştirmenin nedeni olarak ajanların test ortamlarından kaçıp izinsiz sistemlere eriştiği bildirimleri gösterdi. Bunu platformun kendi anlatımı olarak okumak gerekiyor.
OpenAI’da üç araştırmacının işten çıkarılması. OpenAI, iki güvenlik araştırmacısı ve bir program yöneticisini hassas bilgiyi kurum dışı prosedürlerle ele aldıkları gerekçesiyle işten çıkardı. Şirket bunun misilleme olmadığını söylüyor. Araştırmacılar ise şirketin anlatımına itiraz ediyor. OpenAI hangi bilginin söz konusu olduğunu ve hangi politikanın çiğnendiğini açıklamadı, dışarıdan bu tartışmayı çözmek şu an mümkün değil. Yazının konusuyla bağı şu: bu haber ajanların kendisi hakkında değil, güvenlik kararlarının kim tarafından nasıl alındığı hakkında. Yine de ortak bir ders çıkarıyor: yetki ve gizlilik sınırları baştan açık yazılmazsa, sonradan tartışma konusu oluyor.
Bu iki haberden “ajanlar tehlikeli” sonucunu çıkarmak yerine şunu söylemek daha doğru: büyük şirketler bile ajanın neye dokunabileceğini ayrı bir mühendislik sorunu olarak ele alıyor. Siz de öyle ele alabilirsiniz.
Küçük Bir Otomasyon İçin Neden Önemli?
Bir ajan, kendisine verdiğiniz her erişimle ne yapabiliyorsa, hata yaptığında da onu yapabilir. Tipik riskler şunlar:
- Yanlış anlaşılan bir talimatla silinen ya da üzerine yazılan dosya
- Gelen bir e-postadaki ya da web sayfasındaki gizli talimata uyup yapılmaması gereken bir işi yapmak (istem enjeksiyonu)
- API anahtarlarının, kişisel ya da müşteri verisinin yanlış yere gönderilmesi
- Sonsuz döngüde çalışıp maliyet üretmesi
Bunların hiçbiri filmlerdeki gibi bir “isyan” değil. Hepsi sıradan yetki hatası.
Beş Pratik Kural
- Asgari yetki: yalnızca işe yetecek kadar. Mail özetleyen ajanın mail göndermesine gerek yok. Okuma yetkisi verin, yazma yetkisi vermeyin. Dosya erişimini tek bir klasörle sınırlayın.
- Geri döndürülemez işleri insan onayına bağlayın. Silme, gönderme, ödeme, yayınlama gibi adımlarda ajan öneri üretsin, siz onaylayın. Hermes belgelerine göre sistemde tehlikeli komutlar için onay mekanizması var ve
smart,manualya daoffolarak ayarlanabiliyor.offmodu tüm onayları kapatıyor ve belgelerde yalnızca güvenilir ortamlar için öneriliyor. - Gözetimsiz çalışan işlerde varsayılanı “reddet” yapın. Zamanlanmış görevlerde (cron) kimse onay vermeyeceği için bir komut tehlikeli sayıldığında ne olacağını önceden seçmelisiniz. Hermes belgelerinde bu ayarın varsayılanı reddetmek. Bunu “onayla” yapmak, ajanın size sormadan her şeyi yapması demek. Kolaylık için yaptığınız bu değişiklik en riskli ayar olur.
- Anahtarları ve gizli bilgileri ajanın görebileceği yerden ayırın. Ajan bir sır görmüyorsa sızdıramaz. Kullandığı hesapların yetkisini de kısıtlı tutun. Örneğin yalnızca okuma yetkili bir API anahtarı oluşturun.
- Her şeyi kayda alın ve kontrol edin. Hangi adımı ne zaman yaptığı görünmeyen bir ajan, hata yaptığında bile fark edilmez. Önemli akışlar için bildirim ya da günlük kaydı ekleyin ve ara sıra gözden geçirin.
Hermes ve n8n İçin Kısa Bir Kontrol Listesi
Hermes ya da n8n kullanıyorsanız kurulumunuzu şu sorularla gözden geçirin:
- Ajan hangi klasörlere yazabiliyor? Gerçekten hepsine ihtiyacı var mı?
- Onay modu ne durumda? Kapalıysa neden?
- Zamanlanmış işlerde tehlikeli bir komut çıkarsa ne oluyor?
- Dışarıdan gelen içeriği (e-posta, web sayfası) okuyan bir akış, aynı anda dosya silebiliyor ya da mail gönderebiliyor mu? Bu iki yetkiyi aynı akışta birleştirmeyin.
- Bir şey ters giderse hangi kayıttan neyin yapıldığını görebilirim?
Bu soruların yanıtını bir kâğıda yazmanız, kurulumun en değerli güvenlik adımı olabilir. Hermes serisinin zamanlanmış görevler yazısında cron işlerinin nasıl kurulduğunu anlatmıştım. Orada kurduğunuz her işe yukarıdaki beş kuralı uygulamak iyi bir başlangıç olur.
Sonuç
Ajanlar işe yarıyor, çünkü sizin adınıza iş yapabiliyorlar. Aynı özellik, yetkiyi gevşek bıraktığınızda riske dönüşüyor. Nvidia’nın çözümü büyük altyapılar için tasarlandı, ama temel fikir her ölçekte geçerli: ajan yalnızca işi için gerekeni görsün, geri dönüşü olmayan adımda siz karar verin. Kurulumunuzun neresinde “serbest” bıraktığınız bir yer varsa, bu hafta oraya bakın.
Ahmet Aksoy



