Yapay zekâ ajanlarını güvenle kullanmak: izin, onay ve gizli talimat tuzağı

Sohbet botu cevap verir. Ajan ise sizin adınıza iş yapar: sayfaları gezer, dosyaları açar, e-posta hazırlar, bazen gönderir. Bu fark, hata ve kötü niyet karşısında riskin de büyümesi demek.

Aklınıza bir soru mu takıldı?

Sorunuzu ya da aradığınız konuyu yazın Ders bul

Bu derste neler öğreneceksiniz?

• Ajanın sohbet botundan farkını ve neden daha fazla dikkat istediğini
• Komut enjeksiyonu denen prompt-injection/”>gizli talimat tuzağını
• Ajana vereceğiniz izni ve onay noktalarını nasıl belirleyeceğinizi
• İlk ajan görevinizi güvenli biçimde nasıl deneyeceğinizi

Ajan neden farklı?

Claude’un Cowork özelliğinin yardım sayfası, eylem yapan ve internete erişen bu tür bir aracın kendine özgü riskler taşıdığını söylüyor: İzin verdiğiniz dosyalara erişebilir ve sizin adınıza gerçek eylemler yapabilir. OpenAI da kendi güvenlik yazısında, ajanın internette ve e-postalarda gezerken kandırılabileceği durumları anlatıyor. Sohbet botunun yanlış cevabını okuyup geçersiniz; ajanın yanlış hamlesi ise gönderilmiş bir mesaj ya da silinmiş bir dosya olabilir.

Gizli talimat tuzağı: komut enjeksiyonu

Ajan bir web sayfasını ya da e-postayı okurken içinde sizin yazmadığınız bir talimat bulabilir. OWASP’ın tanımına göre dolaylı komut enjeksiyonunda web sayfası veya dosya gibi dış kaynaktaki gizli talimatlar modelin davranışını değiştirir. Bu talimatlar insan gözüne görünmeyebilir.

OpenAI’nin verdiği örnek bir ev arama senaryosu: bir ilanın yorumuna gizlenmiş talimat, daire arayan yapay zekâyı kötü bir ilanı önermeye itebilir. Aynı yazıda, e-postalara cevap veren bir ajanın hassas dosyaları saldırgana iletebileceği de söyleniyor. Bunu bir oltalama mesajının yapay zekâ sürümü gibi düşünebilirsiniz: ajan, kandıran bir içeriği güvenilir sanabilir.

Önemli bir not: Hiçbir önlem tam koruma vermiyor. OWASP kesin bir korunma yolu olup olmadığının belirsiz olduğunu yazıyor; Claude’un yardım sayfası da otomatik modun bile mutlak koruma sağlamadığını söylüyor. Bu yüzden asıl savunma, ajanın yapabileceği zararı baştan küçük tutmak.

Üç kural: dar yetki, onay noktası, göz kontrolü

1. En az yetki. OWASP’ın önerisi, modelin erişimini gerekli olan en düşük düzeye indirmek. OpenAI de ajana yalnızca görevin gerektirdiği veri ve hesap erişimini vermenizi, yalnızca araştırma yapılıyorsa oturum açmadan çalıştırmanızı öneriyor. Geniş bir talimat, örneğin gelen kutumu tara ve gerekeni yap demek, gizli bir talimatın ajanı yoldan çıkarmasını kolaylaştırır. Belirli ve dar görevler verin.

2. Kritik adımda insan onayı. OWASP, ayrıcalıklı işlemlerde insan onayı istemeyi öneriyor. Claude’un Cowork özelliğinde Manuel, Otomatik ve tüm onayları atlayan üç mod var. Manuel modda her eylem için sizden izin istiyor, otomatik modda eylemleri önceden güvenlik açısından inceliyor, üçüncü modda hiçbir şey sormuyor. Sayfa, para, sizin adınıza gönderilen mesajlar ya da önemli dosyalar söz konusuysa yakından izlemenizi ya da Manuel moda dönmenizi söylüyor. Aynı sayfa, dosyaların kalıcı silinmesinden önce açık izin istendiğini de belirtiyor.

3. Göz kontrolü. OpenAI, satın alma ya da e-posta gönderme gibi işlemlerden önceki onay isteklerini dikkatle incelemenizi istiyor: eylem doğru mu, paylaşılan bilgi bu bağlamda uygun mu? Banka gibi hassas sitelerde ajanı izlemenizi de öneriyor. Başka bir aracı kullanıyorsanız da aynı soruyu sorun: bu araç hangi izinleri ayrı ayrı veriyor ve hangi adımlarda duruyor?

Hangi işlerde ajan kullanmamalısınız?

Bu bölüm bizim önerimizdir. Banka, e-Devlet ve sağlık kayıtları gibi oturumların açık olduğu ekranlarda ajan çalıştırmayın. Kimlik, tapu, rapor ve çocuk fotoğrafı içeren klasörleri ajana açmayın. Parolalarınızı ajana yazdırmayın. Bir şirkette çalışıyorsanız önce kurumunuzun kuralına bakın: Cowork sayfasına göre ekip planlarında yöneticiler otomatik modu kapatabiliyor ve yazma yetkisi olan araçlar için görev başına onay zorunlu kılabiliyor.

Elle yapmanın zaman alacağı ama yanlış yapılsa bile telafisi kolay işlerde ajan kullanın: bir konuda kaynak toplamak, bir klasördeki dosyalara düzenli isim vermek, bir tabloyu hazırlamak gibi. Telafisi zor işleri, yani ödeme, resmî başvuru ve kalıcı silmeyi kendiniz yapın.

Adım adım uygulama

1. Ajanla ilk işi düşük riskli seçin: herkese açık bir konuda araştırma ya da kendi kopyaladığınız bir klasörde düzenleme.
2. Erişimi daraltın: yalnızca gerekli klasörü bağlayın, gerekmiyorsa hesaba giriş yapmayın.
3. Onay modunu en sıkı ayara getirin. Para, mesaj ve silme adımlarında her zaman sizden izin istesin.
4. Görevi dar ve ölçülebilir yazın; “ne yapmayacağını” da yazın.
5. Onay ekranındaki eylemi ve alıcıyı kelime kelime okuyun. Beklemediğiniz bir adres, tutar ya da dosya görürseniz reddedin.
6. Bitince yapılan işlerin listesini isteyin ve kendi gözünüzle kontrol edin.
7. Güveniniz arttıkça izinleri yavaş yavaş genişletin; bir şey ters giderse yeniden daraltın.

Kontrol listesi

• Ajan yalnızca bu iş için gereken dosya ve hesaba erişebiliyor
• Para, gönderme ve silme adımları benim onayımda
• Onay ekranlarını okumadan geçmiyorum
• Kişisel ve kurumsal gizli belgeleri ajana açmadım
• Yaptığı işi sonradan kontrol ettim

Sık yapılan hatalar

• Tüm onayları atlayan modu açıp bir daha kapatmayı unutmak
• Ajana gelen kutusunun ve tüm dosyaların tamamını açmak
• Onay ekranlarına bakmadan arka arkaya “evet” demek
• Bilinmeyen bir sayfa ya da eklentiye ajanın erişimini genişletmek

Kendinizi deneyin

Kaynaklar

• OWASP GenAI Güvenlik Projesi: LLM01 Komut Enjeksiyonu (Prompt Injection) (İngilizce)
• OpenAI: Prompt injections (7 Kasım 2025) (İngilizce)
• Claude Yardım: Cowork ile başlangıç (izinler ve onay modları) (İngilizce)

Son kontrol: 8 Kasım 2026

Kaynak: yzdersleri.com/ders/yapay-zeka-ajanlarini-guvenle-kullanmak-izin-onay-gizli-talimat/ · Yapay Zeka Dersleri