Günlük kullanımda yapay zekanın zararları arasında, yanlış bir öneriyi elinizdeki bilgiye rağmen kabul etmek de var. "Asistan böyle söylediyse bir bildiği vardır" diye düşünüp kendi kontrolünüzü bıraktığınızda otomasyon yanlılığına kapılabilirsiniz. Risk, yanlış cevabı kontrol etmeden karara taşımaktır.

Bunu fark etmek için öneriyi okumadan önce kendi ölçütünüzü ve ilk tercihinizi yazın. Sonra yanıtın gerçekten yeni bir bilgi getirip getirmediğine bakın. Doğruladığınız bir ayrıntı fikrinizi değiştirebilir. Cümlenin kendinden emin olması ise tek başına böyle bir gerekçe sağlamaz.

Otomasyon yanlılığı ne demek?

Yazılım Test ve Kalite Derneğinin yayımladığı ISTQB Türkçe Yapay Zekâ Testi müfredatı, 7.4 bölümünde iki durumu anlatıyor: sistemin önerisini benimseyip başka bilgileri göz ardı etmek ve sisteme yeterince dikkat etmediği için hatayı kaçırmak. İkisinde de insanın otomatik sisteme fazla güvenmesi söz konusu.

Bu, modelin verilerinden veya çalışma biçiminden kaynaklanan yanlılıkla aynı şey değil. Burada baktığımız, kullanıcının öneriye verdiği ağırlık. Asistan yanlış bir öneri yazabilir; siz dayanağını inceleyip reddedebilirsiniz. Başka bir durumda ise doğru bildiğiniz bir ayrıntıyı, yalnızca asistan tersini söyledi diye kenara bırakabilirsiniz.

Yapay zekânın cevabına katılmak da kendi başına yanlılık sayılmaz. Öneriyi kabul etme gerekçeniz önemli. "Bana doğru geldi" ile "Verilen kapanış saatini kontrol ettim, benim notum eskiymiş" aynı açıklama değil. Genel riskleri yapay zekânın zararları rehberinde bulabilirsiniz.

Önce kendi seçiminizi bir cümleye yazın

Tamamen hayalî bir örnek düşünün. Dört arkadaş, cumartesi 18.30 ile 19.30 arasında masa oyunu oynamak için buluşacak. İki mekânın bilgilerini önceden kontrol etmişsiniz:

  • A mekânı eve on dakika uzaklıkta ve 19.00'da kapanıyor.
  • B mekânı eve yirmi dakika uzaklıkta ve 21.00'de kapanıyor.

Bu denemede masaların uygun olduğunu ve başka bir engel bulunmadığını varsayıyoruz. Değişmeyen koşul, buluşmanın bir saat sürmesi. Dolayısıyla ilk notunuz şöyle olabilir: "B'yi seçiyorum; A daha yakın ama buluşma bitmeden kapanıyor."

Bu cümleyi asistanın yanıtını görmeden kaydedin. Gerçek bir plan yaparken de yalnızca kendi bildiğiniz ayrıntıları yazın; eksik saatleri tahminle doldurmayın. Böylece sonradan hangi bilginin değiştiğini görebilirsiniz. İlk tercihinizi kaydetmek, onun mutlaka doğru olduğu anlamına gelmez.

Ardından Yapay Zeka'ya veya kullandığınız asistana aynı bilgileri vererek hangi mekânın koşula uyduğunu sorabilirsiniz. Bu örneğin amacı uygulamaları puanlamak değil, öneriyi okurken hangi kontrolü yaptığınızı izlemek.

Kesin konuşan öneriyi sabit bilgiyle karşılaştırın

Asistanın "A kesinlikle daha uygun; yakın olduğu için rahat bir akşam geçirirsiniz" dediğini varsayalım. Bu, örnek için yazılmış hatalı bir yanıttır; gerçek bir uygulama denemesinin sonucu değildir.

A'nın yakın olması doğru. Fakat bu ayrıntı 19.00 kapanışını ortadan kaldırmıyor. Yanıttaki olumlu sözlere kapılıp A'yı seçerseniz, elinizdeki kapanış bilgisini karara katmamış olursunuz. Hatanın nerede olduğunu görmek için "Önerin güzel mi?" yerine daha dar bir soru sorun:

Buluşma 19.30'da bitecek. Verdiğim kapanış saatlerini değiştirmeden, A önerisinin bu koşulla çelişip çelişmediğini açıkla. Bilmediğin bir istisna ekleme.

Yanıt "Belki biraz daha açık kalırlar" diyorsa hâlâ doğrulanmış bir bilgi yoktur. Mekânın sizi bekleyeceğini varsayamazsınız. Aynı şekilde, asistan kapanış saatinden hiç söz etmediğinde bunu saatin kontrol edildiği şeklinde okumayın. Eksik kontrolü sizin yapmanız gerekir.

Bir gerekçenin uzun olması da eksiği kapatmaz. Ulaşım kolaylığı üzerine beş paragraf, buluşmanın son yarım saatinde mekânın kapalı olacağı gerçeğini değiştirmez. Önceden yazdığınız tek cümle, yanıtı bu noktaya geri getirir.

Fikrinizi hangi kanıt değiştirebilir?

Örneği yalnızca bir bilgi değiştirerek sürdürelim: A mekânının güncel duyurusunda o cumartesi 20.00'de kapanacağı yazıyor. Duyuruyu kendiniz açıp tarihini ve hangi şubeyi anlattığını kontrol ediyorsunuz. Artık A da bir saatlik buluşmaya uyuyor. Yakınlığı nedeniyle A'yı seçmeniz, doğrulanmış yeni bilgiye dayanan bir karar değişikliğidir.

Asistanın "Saat değişmiş olabilir" demesi bu kontrolün yerine geçmez. Yapay Zeka'da yanıtın altındaki kaynakları açabilirsiniz; bağlantı bulunması, sayfanın iddiayı desteklediğini tek başına göstermez. İlgili cümleyi okuyun. Güncel saat doğrulanamıyorsa onu belirsiz bırakın ve mekâna sorun.

Son kararın yanına kısaca nedenini yazın: "B'yi korudum, kapanış bilgisi değişmedi" veya "A'ya geçtim, ilgili tarihin yeni saatini doğruladım." Bu küçük kayıt yanlılığı önlemeyi garanti etmez. Ama fikrinizi yeni bir bilginin mi, yalnızca ikna edici bir cümlenin mi değiştirdiğini inceleyebilmeniz için elinizde somut bir iz bırakır.