Yapay zekâ raporuyla karar verirken insan denetimini koruyun
- Okuma süresi: 5 dk
- Kod bilgisi gerekmez
Masanıza bir yapay zekâ aracının hazırladığı rapor geldi: başvuruları sıralamış, kimin öne alınacağını önermiş, hatta karar taslağını yazmış. İmza atmadan önce tek bir soru sormanız gerekiyor: bu raporu gerçekten insan denetimi (kararın bir insan tarafından incelenip onaylanması) altında mı kullanıyorsunuz, yoksa yalnızca araca imza mı attırıyorsunuz? Bu ders, eğitim kurumunda ya da başka bir kamu biriminde çalışan biri olarak yapay zekâ raporuna dayanan bir kararı nasıl denetleyeceğinizi ve bunu nasıl kayda geçireceğinizi gösteriyor.
Bu içerik MEB’in (Millî Eğitim Bakanlığı) resmî görüşü değildir; kaynakları ve okulunuzun/müdürlüğünüzün yönergesini kontrol edin.
Dersin dayanağı MEB’in eğitimde yapay zekâ kullanımına ilişkin kılavuzudur; başka bir kamu kurumunda çalışıyorsanız kurumunuzun kendi yönergesi ve ilgili mevzuat önce gelir, onları da kontrol edin.
Önce ölçün
Son üç ayda yapay zekâ destekli bir araçtan aldığınız rapor, özet ya da öneri sayısını yazın: ___ . Bunların kaçında kaynağı kendiniz kontrol edip bir not düştünüz: ___ . Kaçında araca ya da raporun ilk haline güvenip devam ettiniz: ___ .
Aklınıza bir soru mu takıldı?
Etik Kılavuz insan denetimi için ne diyor?
MEB’in Eğitimde Yapay Zekâ Uygulamaları Etik Kılavuzu, “Hesap Verebilirlik ve İnsan Denetimi” başlığı altında şunları söylüyor: yapay zekâ araçlarının ürettiği sonuçların, önerilerin ve kararların nihai sorumluluğu her durumda insana aittir. Otomatik sistemler, öğrencinin akademik geleceğini ya da eğitimsel haklarını doğrudan etkileyen kritik kararlarda tek başına belirleyici olmamalı; süreç yetkili bir insanın denetim, değerlendirme ve onay aşamalarından geçmeli. Sınıf geçme, disiplin süreçleri ve burs değerlendirmeleri gibi yüksek etkili alanlarda yapay zekâ yalnızca yardımcı araç olabilir.
Kılavuz bu ilkeden şu uygulama maddelerini çıkarıyor: önerilerin nihai karar yerine geçmediği vurgulanmalı ve insan tarafından incelenip onaylanmalı; öğretmen yapay zekâ çıktılarını düzeltebilmeli; karar süreçleri kayıt altına alınmalı ve geriye dönük denetlenebilmeli; insan denetimi olmadan otomatik karar süreçleri uygulanmamalı; hatalı ya da haksız karara karşı öğrenci ve veli için itiraz mekanizması bulunmalı. Metin eğitim kurumları için yazılmış; ilkeler başka kamu işlerinde de yol gösterici olabilir ama oradaki bağlayıcılık kurumunuzun kurallarına bağlıdır.
1. Raporun neyi etkilediğini yazın
Rapora bakmadan önce tek cümleyle şunu yazın: “Bu rapor şu kararı etkileyecek, karardan şu kişiler etkilenecek.” Karar birinin hakkını, notunu, bursunu ya da disiplin sürecini etkiliyorsa kılavuzun “yüksek etkili” dediği alandasınız demektir; orada yapay zekâ yalnızca yardımcıdır. Yalnızca bir toplantı notunu özetletiyorsanız risk daha düşüktür ama özetin doğruluğunu yine siz kontrol edersiniz.
2. Raporun dayandığı veriyi ve ölçütü sorun
Kılavuzun şeffaflık bölümü, kararların dayandığı veri ve ölçütlerin teknik olmayan bir dille açıklanabilir olmasını ve iç işleyişi anlaşılmayan “kara kutu” sistemlerin öğrenci başarısını doğrudan etkileyen alanlarda sınırlanmasını istiyor. Siz de aracın ya da sağlayıcısının size şu iki soruya cevap verebildiğinden emin olun: bu sıralamayı hangi bilgilere bakarak yaptı, hangi bilgiyi hiç dikkate almadı? Cevap alamıyorsanız raporu bir “öneri” sayın, “kanıt” saymayın.
Kopyalayıp deneyin
Aşağıdaki rapor taslağını bir karar vermeden önce denetleyeceğim. Raporun kaynağını görmediğini varsay. Rapordaki her iddia için şunları ayrı satırlarda yaz: 1) iddia, 2) doğrulamak için hangi belgeye ya da kişiye bakmam gerekir, 3) iddianın yanlış çıkması hâlinde karar nasıl değişir. Bilmediğin bir şeyi uydurma. Metin: ___ (kişisel bilgi çıkarılmış rapor özeti).
3. İnsan denetimini kayda geçirin
Denetimin gerçekten yapıldığı kayıtla anlaşılır. Karar dosyasına üç satır ekleyin: raporu kimin incelediği, hangi bilgilerin başka kaynaktan doğrulandığı ve hangi öneriye uyulmayıp neden uyulmadığı. Kılavuz, yapay zekâ katkısının açıkça belirtilmesini ve kararların geriye dönük denetlenebilmesini istiyor; bu üç satır ikisini birden karşılar. İtiraz geldiğinde de neye dayanarak karar verdiğinizi gösterebilirsiniz.
4. İtiraz yolunu bildirin
Kılavuz, hatalı ya da haksız karara karşı itiraz mekanizması bulunmasını istiyor. Karar bildiriminde, yapay zekâ destekli bir rapordan yararlanıldığını ve itirazın kime, hangi yolla yapılacağını açıkça yazın. İtirazı kimin değerlendireceği belli değilse bu süreç eksiktir; kurumunuzun yetkili birimine sorarak tamamlayın.
Sonucu kontrol edin
- Raporun hangi kararı, kimi etkilediğini yazdınız mı?
- Raporun dayandığı veriyi ve ölçütü bir insana açıklatabildiniz mi?
- Rapordaki önemli iddiaları başka bir kaynakta doğruladınız mı?
- Denetleyen kişiyi ve uymadığınız önerileri karar dosyasına yazdınız mı?
- Karar bildiriminde itiraz yolunu belirttiniz mi?
Sonra ölçün
Bir ay sonra baştaki üç satırı yeniden doldurun: aldığınız rapor sayısı ___ , kaynağını kendiniz kontrol edip not düştüğünüz ___ , doğrudan güvenip geçtiğiniz ___ . Üçüncü sayı sıfıra yaklaştıysa denetim alışkanlığınız yerleşiyor demektir.
Gizlilik uyarısı
Rapor taslağına yapıştıracağınız her tablo, başvuru ya da dilekçe kişisel veri içerebilir. Bir yapay zekâ aracına vermeden önce ad, soyad, kimlik ve telefon bilgilerini silin ya da “Başvuran A” gibi harflerle değiştirin. Etik Kılavuz, kişisel ve eğitsel verilerin 6698 sayılı Kişisel Verilerin Korunması Kanunu’na (KVKK) uygun işlenmesini ve yalnızca gerekli verinin toplanmasını istiyor; KVKK’nın üretken yapay zekâ rehberi de kişiyi tanıtan bilgilerden kaçınmayı öneriyor. Kurumunuzun gizli ya da hizmete özel bilgisini, hangi araca yazılabileceği kurumunuzca belirlenmeden hiçbir araca girmeyin.
Bir sonraki adım
İnsanın hangi aşamada devreye girdiğini üç düzeyle anlatan döngüde insan nedir dersine bakın. Kamu çalışanı olarak neyi yazıp neyi yazmayacağınızı kamuda yapay zekâ kullanırken altın kurallar dersi özetliyor. Günlük işlerde kullanım için kamu çalışanları için yapay zekâ dersi uygun bir başlangıç.
Videoyu kaynağında açın (YouTube): Human in the Loop Is Not a Governance Strategy for Agentic AI
İzleme tavsiyesi: IBM Technology (İngilizce, yaklaşık 4 dakika). Videoda “insan gözden geçiriyor” demenin tek başına yeterli olmadığı, denetimin anlamlı olması için şeffaflık, açıklanabilirlik ve hesap verebilirlik gerektiği anlatılıyor; IBM’in kendi bakışıdır, MEB kılavuzundan bağımsızdır. Türkçe altyazı seçeneği olup olmadığını izlerken kontrol edin.
Kendinizi deneyin
Bir yapay zekâ aracı burs başvurularını sıraladı ve bir rapor hazırladı. MEB Etik Kılavuzunun insan denetimi ilkesine göre en doğru davranış hangisidir?
Kaynaklar
- MEB: Eğitimde Yapay Zekâ Uygulamaları Etik Kılavuzu (2.3 Şeffaflık ve Açıklanabilirlik; 2.4 Mahremiyet; 2.6 Hesap Verebilirlik ve İnsan Denetimi)
- KVKK: Üretken Yapay Zekâ ve Kişisel Verilerin Korunması Rehberi (15 Soruda), Yayın No: 113
- IBM Technology: Human in the Loop Is Not a Governance Strategy for Agentic AI (İngilizce)
Kaynak: yzdersleri.com/ders/yapay-zeka-raporuyla-karar-verirken-insan-denetimini-koruyun/ · Yapay Zeka Dersleri
Dersi bitirdiniz mi?
İşaretlerseniz menüde ve ilerleme çubuğunda görünür. Bu bilgi yalnızca sizin tarayıcınızda saklanır.
Bu ders işinize yaradı mı?
Anonim oydur; kişisel veri toplanmaz.
