Algoritmik yanlılığı örneklerle sorgulayın

Bir yapay zekâ aracından “doktor” hakkında bir hikâye isteyip “hemşire” hakkında da bir hikâye isterseniz karakterler birbirine benziyor mu, yoksa araç kendiliğinden bir tarafa mı kayıyor? Bunu merak etmek, algoritmik yanlılığı yoklamanın ilk adımıdır. Algoritmik yanlılık, bir bilgisayar sisteminin bazı gruplara ya da durumlara sistematik biçimde farklı davranmasıdır. Bu derste yapay zekâ aracına (sohbet ederek metin üreten program) aynı isteği tek ayrıntıyı değiştirerek yazdıracak, çıktıları sayıp karşılaştıracak ve sonucu abartmadan yorumlayacaksınız.

Bu içerik MEB’in (Millî Eğitim Bakanlığı) resmî görüşü değildir; kaynakları ve okulunuzun/müdürlüğünüzün yönergesini kontrol edin.

Aklınıza bir soru mu takıldı?

Sorunuzu ya da aradığınız konuyu yazın Ders bul

Kaynaklar yanlılık hakkında ne diyor?

MEB’in (Millî Eğitim Bakanlığı) Eğitimde Yapay Zekâ Uygulamaları Etik Kılavuzu’nun eşitlik ve kapsayıcılık ilkesi, ayrımcı ya da ön yargılı sonuçlar üretilmemesine dikkat edilmesini, kullanılan verilerin toplumun bütün kesimlerini temsil edecek nitelikte ve ön yargılardan arınık olmasını ve sistemlerin farklı öğrenci gruplarında eşit performans göstermesini, gerektiğinde iyileştirilmesini istiyor. Yani yanlılık yalnız bir teknik hata değil, eğitimde bir etik sorun olarak yazılmış.

Kişisel Verileri Koruma Kurumu’nun (KVKK) üretken yapay zekâ rehberi nedeni de anlatıyor: modeller, eğitim verilerindeki ön yargıları çıktılarında yansıtabilir ve pekiştirebilir; veri kümelerinde (aracı eğitmek için kullanılan örnek koleksiyonu) bazı noktaların dengeli temsil edilmemesi bu ihtimali artırır. Rehber iki örnek durum veriyor. Birincisinde mesleki görsel üreten bir araç “doktor” yazılınca çoğunlukla erkek, “hemşire” yazılınca çoğunlukla kadın figür üretiyor. İkincisinde bir konuşma tanıma sisteminde, eğitim verisinde yeterince temsil edilmeyen bazı İngilizce aksanlarda kelime hataları daha yüksek çıkıyor. Rehber, bu iki durumu hukuka ve dürüstlük kurallarına aykırılık riski olarak değerlendiriyor. Rehber ayrıca birçok modelin “kara kutu” niteliğinde olduğunu, yani kararın nasıl çıktığının anlaşılmasının zor olabildiğini ve bunun yanlılığın bulunmasını güçleştirdiğini belirtiyor. Bu iki durum rehberin örnek olarak verdiği durumlardır; sizin kullandığınız aracın bugün aynı sonucu verip vermediğini ancak siz deneyerek görürsünüz.

1. Deneyi tasarlayın

Bilimsel yöntemin kuralı şudur: aynı isteği yazın, tek bir ayrıntıyı değiştirin, gerisini sabit tutun. Bu derste ayrıntı olarak mesleği değiştireceğiz. Sonucu sayılabilir hâle getirmek için bir tablo çizin: satırlar “doktor” ve “hemşire”, sütunlar her denemede karakterin cinsiyeti ve adı. Tek deneme kanıt sayılmaz, çünkü araç her seferinde farklı cevap verebilir; her istek için en az beş kez yeniden üretin.

2. İsteği yazın ve çıktıları sayın

Cevapları tabloya işleyin. Sonra aynı isteği bir kez de “karakterlerin cinsiyetini belirtme” ya da “farklı cinsiyetlerden karakterler seç” cümlesiyle verin ve aracın bu yönergeyi uygulayıp uygulamadığına bakın. Aracın yönergeye uyması yanlılığın tamamen ortadan kalktığı anlamına gelmez; yalnız bu isteğe uyduğunu gösterir. Mesleği değiştirmek yerine kurgusal bir isim çifti (örneğin iki uydurma ad) ya da şehir değiştirerek ikinci bir deney daha yapabilirsiniz; her seferinde tek ayrıntı değişsin.

3. Sonucu abartmadan yorumlayın

Kendinize üç soru sorun. Örüntü var mı, yoksa tek seferlik bir rastlantı mı? Varsa neden olabilir: araç bu örüntüyü veri kümesinden mi öğrenmiş olabilir? Bu çıktı biri hakkında karar verilirken kullanılsa kime zarar verirdi? Dikkat: beş denemelik küçük bir deney, aracın genel olarak yanlı ya da yansız olduğunu kanıtlamaz. Elinizdeki şey bir ipucudur ve ipucu ancak tekrarlanınca anlam kazanır. Sonucu “araç ayrımcı” diye değil, “bu isteklerde şu örüntüyü gözlemledim” diye yazın. Ön yargı (bias) sözlük maddesi kavramı kısaca açıklıyor.

Neden önemli? Etik Kılavuz, öğrenci başarısını doğrudan etkileyen alanlarda iç işleyişi anlaşılmayan sistemlerin kullanımının sınırlandırılmasını ve yapay zekâ çıktılarının insan denetiminden geçmesini istiyor. Bir araç yönlendirme, not ya da öneri üretiyorsa yanlılığı yoklamak, o çıktıya körü körüne güvenmemenin yoludur.

Sonucu kontrol edin

1. Her istek için en az beş çıktıyı kaydettiniz mi?
2. Deneyde yalnız tek ayrıntıyı mı değiştirdiniz? Birden fazlasını değiştirdiyseniz sonuç neye bağlı bilinemez.
3. Sonucu sayıyla (kaçta kaç) yazdınız mı, yoksa “genellikle” gibi belirsiz bir sözle mi?
4. Yorumunuzda “araç ayrımcıdır” gibi kanıtın ötesine geçen bir cümle var mı? Varsa yumuşatın.
5. Aynı deneyi arkadaşınızın yapıp aynı örüntüyü görüp görmediğini sordunuz mu?

Bir sonraki adım

Yanlılığın modele nereden girdiğini adım adım görmek için makine öğrenmesinde veriden karara giden yolu çizen derse bakın. Yapay verinin yanlılığı nasıl taşıyabileceğini sentetik veri ne zaman yanıltır dersi anlatıyor.

İzleme tavsiyesi: TED (İngilizce, yaklaşık 9 dakika; altyazı seçeneğini deneyin). Açıklamasına göre bir araştırmacı, yüz analizi yazılımının kendi yüzünü algılamadığını fark ettikten sonra yanlılığa karşı çalışmaya nasıl başladığını anlatır. Konuşma, yapay zekâ görüntü tanıma konusundadır; bu dersteki metin deneyinin yerine geçmez.

Kendinizi deneyin

Kaynaklar

• MEB: Eğitimde Yapay Zekâ Uygulamaları Etik Kılavuzu (2.2 Eşitlik ve Kapsayıcılık; 2.3; 2.6)
• KVKK: Üretken Yapay Zekâ ve Kişisel Verilerin Korunması Rehberi (15 Soruda), Yayın No: 113 (ön yargı ve yanlı çıktılar; Örnek 5 ve 6)
• TED: How I’m fighting bias in algorithms, Joy Buolamwini (İngilizce)

Kaynak: yzdersleri.com/ders/algoritmik-yanliligi-orneklerle-sorgulayin/ · Yapay Zeka Dersleri