Zarar vermeme ilkesi: yapay zekâda önce zarar verme
- Okuma süresi: 6 dk
- Kod bilgisi gerekmez

Murat Bey bir ilçe belediyesinin bilgi işlem biriminde çalışıyor. Belediyeye her gün yol çukuru, çöp, kaldırım ve gürültü şikâyeti geliyor. Başkan yardımcısı, başvuruları yapay zekâyla aciliyetine göre sıralamak istiyor. Fikir mantıklı görünüyor. Ama Murat Bey’in aklında bir soru var: Sistem yanlış sıralarsa kim zarar görür?
Bu derste bir yapay zekâ kullanımını devreye almadan önce zarar listesi çıkarmayı öğreneceksiniz. Örnek olarak belediyedeki başvuru sıralamasını ve bir okulda düşünülen otomatik yoklama sistemini kullanacağız. Ders sonunda elinizde kendi işinize uyarlayabileceğiniz tek sayfalık bir zarar listesi olacak.
Aklınıza bir soru mu takıldı?
Bu derste neler öğreneceksiniz?
- Zarar vermeme ilkesini iyilik yapma ilkesinden ayırt etmek.
- Bir yapay zekâ kullanımından etkilenecek kişi ve grupları sıralamak.
- Olası zararları ayrımcılık, mahremiyet, fiziksel zarar ve toplumsal zarar başlıklarında yazmak.
- Her ciddi zarar için bir önlem, bir sorumlu ve bir durdurma koşulu belirlemek.
Zarar vermeme ilkesi ne söyler?
Helsinki Üniversitesinin Ethics of AI dersi iki ilkeyi birbirinden ayırır. İyilik yapma (beneficence), yapay zekâyı ortak yarar için kullanmayı ister. Zarar vermeme (non-maleficence) ise daha temel bir şey ister: önce zarar verme. Ders, yapay zekâ etiğinin şimdiye kadar en çok bu ikinci ilkeye odaklandığını belirtir.
Aynı bölüm dört tür zarara dikkat çeker: ayrımcılık, mahremiyet ihlali, fiziksel zarar ve toplumsal zarar. Belediye örneğinde ayrımcılık şöyle görünebilir: Sistem, şikâyetini uzun ve düzgün yazanları öne alır, kısa ve imla hatalı yazan yaşlı vatandaşları geride bırakır. Fiziksel zarar ise sistemin açık bir rögar kapağını sıradan bir şikâyet sanmasıyla ortaya çıkabilir.
Ders bir uyarı da yapar. Zararı yalnız teknik bir arıza gibi görmek ve her şeyin teknik bir düzeltmeyle çözüleceğini sanmak yanıltıcıdır. Bu bakışa teknoloji çözümcülüğü (tech solutionism) denir. Kimin karar verdiği, kimin itiraz edebildiği gibi sorular da zarar listesine girmelidir.
Gerekenden fazlası da zarardır: orantılılık
UNESCO’nun Yapay Zekâ Etiği Tavsiyesi, Kasım 2021’de 193 üye devlet tarafından kabul edildi. Tavsiyenin ilkelerinden biri orantılılık ve zarar vermeme (proportionality and do no harm) adını taşır. Ana fikir şudur: Yapay zekâ kullanımı meşru bir amaca ulaşmak için gerekeni aşmamalıdır. Tavsiye, ortaya çıkabilecek zararları önlemek için risk değerlendirmesi (risk assessment) yapılmasını da ister.
Okul örneğine bakalım. Ayşe Hanım bir ortaokulda müdür yardımcısı. Okula, sınıf kapısındaki kamerayla öğrencileri yüzünden tanıyıp yoklama alan bir sistem önerilmiş. Amaç meşru: devamsızlığı doğru izlemek. Ama öğretmenin aldığı yoklama bu işi zaten görüyorsa çocukların yüz verisini toplamak gerekeni aşar. Orantılılık sorusu tam burada sorulur: Aynı amaca daha az veriyle ve daha az riskle ulaşabilir miyiz?
Zarar listesi nasıl çıkarılır?
Ethics of AI dersi, sonuçları tartan yaklaşımı üç adımda anlatır: olası seçenekleri yazmak, her birinin yarar ve zararını tahmin etmek, en iyi dengeyi veren seçeneği seçmek. Ders bu hesabın zor olduğunu da söyler. Riskler bağlama ve değerlere göre değişir. Mahremiyet ve adalet gibi konular tek bir puana sığmaz. Bu yüzden zararları puanlamak yerine açık açık yazmak daha güvenlidir.
OECD Yapay Zekâ İlkeleri iki pratik ölçü ekler. Birincisi, risk yönetimi sistemin yaşam döngüsü (lifecycle) boyunca sürmelidir; açılışta bir kez yapılıp unutulmamalıdır. İkincisi, sistem istenmeyen biçimde davranırsa gerektiğinde devre dışı bırakılabilmeli, onarılabilmeli ya da güvenle kapatılabilmelidir. OECD ayrıca verinin kaynağı gibi bilgilerin kaydını tutmayı, yani izlenebilirliği (traceability) önerir.
AB’nin Yapay Zekâ Yüksek Düzeyli Uzman Grubunun 2019’da sunduğu Güvenilir Yapay Zekâ Etik Yönergeleri de risklere önleyici bir yaklaşım ister. Kırılgan kişi ve gruplara özel dikkat gösterilmesini, haksız bir zarar doğduğunda erişilebilir bir telafi (redress) yolu bulunmasını önerir. İyi bir zarar listesinde her satır şu soruları yanıtlar:
- Kim etkilenir? Başvuru sahibi, çalışan, mahalle, öğrenci ya da veli olabilir.
- Ne ters gidebilir ve zarar hangi türdendir?
- Zarar ne kadar ciddidir, geri alınabilir mi?
- Hangi önlem alınacak ve bundan kim sorumlu olacak?
- Hangi durumda sistem durdurulup iş yeniden insanlara bırakılacak?
Zayıf komut
Belediyede başvuruları yapay zekâyla sıralamak iyi bir fikir mi?
Güçlü komut
Bir ilçe belediyesinin bilgi işlem biriminde çalışıyorum. Vatandaş başvurularını (yol, çöp, kaldırım, gürültü) bir yapay zekâ aracıyla aciliyetine göre sıralamayı düşünüyoruz. Son kararı yine personel verecek. Devreye almadan önce bana bir zarar listesi hazırla. Önce bu sistemden etkilenecek kişi ve grupları sırala. Sonra her grup için olası zararları ayrımcılık, mahremiyet, fiziksel zarar ve toplumsal zarar başlıklarında yaz. Her zarar için ciddiyet (düşük, orta, yüksek), bir önlem ve sistemin durdurulacağı bir koşul öner. Emin olmadığın noktaları ayrıca belirt.
Örnek çıktı
Etkilenen grup: İnternet kullanmayan yaşlı vatandaşlar. Zarar türü: Ayrımcılık. Ne olabilir: Telefonla gelen kısa başvurular sistemde düşük öncelik alabilir. Ciddiyet: Yüksek. Önlem: Telefon ve masa başı başvuruları personel ayrıca okur. Durdurma koşulu: Bir mahallenin başvuruları üst üste iki hafta geç yanıtlanırsa otomatik sıralama askıya alınır ve elle sıralamaya dönülür.
Adım adım uygulama
- Devreye almayı düşündüğünüz tek bir yapay zekâ kullanımını seçin ve amacını bir cümleyle yazın. Cümlede aracın hangi iş için, kimin hakkında ne ürettiği belliyse adım tamamdır.
- Orantılılık sorusunu yanıtlayın: Aynı amaca yapay zekâsız ya da daha az veriyle ulaşılabilir mi? En az bir seçenek yazıp neden yetmediğini bir cümleyle açıkladıysanız adım tamamdır.
- Sistemden etkilenecek en az dört kişi ya da grubu sıralayın. Biri kırılgan bir grup olsun: yaşlılar, engelliler, dijital araç kullanmayanlar ya da çocuklar gibi. Liste dört satıra ulaştıysa adım tamamdır.
- Güçlü komutu kendi işinize uyarlayıp bir sohbet botuna verin. Ad, adres, kimlik numarası gibi kişisel veri yazmayın. Botun cevabında dört zarar türünün her biri en az bir kez geçiyorsa adım tamamdır.
- Botun listesini kendiniz okuyun. Eksik bulduğunuz en az bir zararı ekleyin, abartılı bulduğunuz satırı işaretleyin. Listede sizin eklediğiniz en az bir satır varsa adım tamamdır.
- Yüksek ciddiyetteki her zarar için sorumlu kişiyi, durdurma koşulunu ve itiraz yolunu yazın. Hiçbir yüksek zarar satırında boş sütun kalmadıysa adım tamamdır.
- Listeyi işi bilen bir çalışma arkadaşınıza okutun ve yeniden bakılacağı bir tarih koyun. Liste paylaşıldıysa ve gözden geçirme tarihi yazılıysa uygulama tamamdır.
Sık yapılan hatalar
- Yalnız teknik hataları yazmak. Sistemin çökmesi listede yer alır ama itiraz edemeyen vatandaş unutulur. Kimin karar verdiğini ve kimin sesinin duyulmadığını da yazın.
- Listeyi bir kez yapıp kenara koymak. OECD’nin önerdiği gibi riskler sistemin bütün ömrü boyunca izlenmelidir. Her listeye bir gözden geçirme tarihi koyun.
- Botun listesini olduğu gibi kabul etmek. Bot sizin mahallenizi, okulunuzu, çalışanlarınızı tanımaz. Listeyi işi bilen kişiler tamamlar.
İpucu
Zarar listesine bir durdurma satırı ekleyin: Hangi işaret görülürse sistem kapatılır, iş insanlara döner ve bu kararı kim verir? Bu satırı önceden yazmak, sorun çıktığında uzun tartışmaları önler.
Kendinizi deneyin
Zarar vermeme ilkesi ile iyilik yapma ilkesi arasındaki fark nedir?
Bir okula yüz tanımayla yoklama alan bir sistem öneriliyor. Öğretmen yoklaması bu işi zaten görüyor. Orantılılık açısından en doğru değerlendirme hangisi?
OECD ilkelerine göre istenmeyen biçimde davranan bir yapay zekâ sistemi için ne hazır olmalıdır?
Kaynaklar
- Ethics of AI, 2. bölüm: What should we do? (Helsinki Üniversitesi) (İngilizce)
- Ethics of AI, 2. bölüm: The common good, calculating consequences (Helsinki Üniversitesi) (İngilizce)
- UNESCO: Recommendation on the Ethics of Artificial Intelligence (İngilizce)
- OECD.AI: Principle on robustness, security and safety (İngilizce)
- Avrupa Komisyonu: Ethics Guidelines for Trustworthy AI, Requirements of Trustworthy AI (İngilizce)
- Avrupa Komisyonu: Ethics guidelines for trustworthy AI (İngilizce)
Son kontrol: 17 Kasım 2026. Bu bilgi 17.11.2026 tarihli kaynaklara dayanır; durum değişebilir.
Kaynak: yzdersleri.com/ders/zarar-vermeme-ilkesi-yapay-zekada-once-zarar-verme/ · Yapay Zeka Dersleri
Dersi bitirdiniz mi?
İşaretlerseniz menüde ve ilerleme çubuğunda görünür. Bu bilgi yalnızca sizin tarayıcınızda saklanır.
Bu ders işinize yaradı mı?
Anonim oydur; kişisel veri toplanmaz.





