İstem enjeksiyonu (prompt injection)
İstem enjeksiyonu, güvenilmeyen metnin yapay zekâya verilen talimatlarla karıştırılmasından yararlanarak modeli yanlış yönlendirmeye çalışan saldırıdır.
İstem enjeksiyonu, başkasının yazdığı gizli talimatın yapay zekâya verilen asıl talimatla karışıp onu yanlış yönlendirmesine dayanan saldırıdır. Örneğin bir web sayfasına ya da e-postaya gizlenmiş “önceki talimatları yok say” cümlesi, o metni okuyan yapay zekâyı yanlış yönlendirmeye çalışabilir. Yapay zekâ araçlarına yabancı belge veya bağlantı okuttuğunuzda ve araca hassas işlem yetkisi verdiğinizde dikkatli olun.
Bu terimin geçtiği dersler
Sistem kartı okumak: güvenlik değerlendirmesinde neye bakılır?
OpenAI, Anthropic ve Google’ın sistem ve model kartlarında kullanım sınırlarını, güvenlik sınamalarını ve risk eşiklerini nasıl okuyacağınızı öğrenin.
Kırmızı takım tatbikatı: yapay zekâ asistanını sınamak
Küçük bir ekiple yapay zekâ asistanını kötüye kullanım, veri sızdırma ve yanlış bilgi senaryolarıyla sınayın; kart, tablo ve rapor hazırlayın.
Yapay zekâya klasör ve işlem izni vermek: onay ayarları, riskler ve sınırlar
Dosyalarınızda çalışan bir yapay zekâya hangi klasöre, hangi işleme izin vereceksiniz? Claude Code’un resmî belgelerinden izin modlarını, çalışma klasörü sınırını,…