Karar Çoktan Verildiyse Neyi Tartışıyoruz?

Sıcak ve havasız bir jüri odası, bir masa ve karar vermek isteyen on iki adam… 1957 yapımı 12 Öfkeli Adam. Nasıl karar verdiğimizi bundan daha yalın anlatan çok az film izledim. Film başladığında hüküm neredeyse verilmiştir. On bir jüri üyesi, yargılanan gencin suçlu olduğundan emindir. Deliller açık görünür. Biri akşamki beyzbol maçına yetişmek ister, bir başkası konuşmanın gereksiz yere uzadığını düşünür. Yalnızca sekiz numaralı jüri üyesi suçlu oyu vermez. Sanığın masum olduğundan emin değildir. Yalnızca bir insanı ölüme göndermeden önce, bunun için yeterli neden olup olmadığını konuşmak ister. Odaya yeni bir delil girmez. Sekiz numaralı jüri üyesi yalnızca diğerlerinin sonuç olarak gördüğü şeyleri yeniden soruya dönüştürür. Herkes aynı kanıtlara bakar ancak aynı şeyi görmez. Her biri başka bir geçmişle, başka bir öfkeyle ve başka bir aceleyle bakar. Bilgi sandıkları bazı şeyler varsayıma, tarafsız hüküm sandıkları bazı düşünceler kişisel hikayelerine dönüşür.

Filmi ölümsüzleştiren yalnızca aynı bilgilerden farklı sonuçlar çıkarabilmemiz değil, kararlarımızın hangi görünmez kabuller üzerinde durduğunu göstermesidir. İyi muhakemeye de çoğu zaman yeni bir bilgi bularak değil, elimizdeki cevabı taşıyan varsayımları görünür kılarak başlıyoruz.

Filmin iş dünyasına en çok benzeyen tarafı, insanların yanlış karar verebilmesi değil, karar neredeyse verilmişken hala muhakeme ediyormuş gibi davranmaları. Bunu kurumların içinde sık sık görüyoruz. Toplantının adı “karar toplantısı” oluyor. Yönetici “Her türlü görüşe açığım” derken odadaki herkes hangi görüşün kariyer açısından daha güvenli olduğunu biliyor. Masada veri, uzman görüşü ve uzun tartışmalar oluyor ancak hiçbirinin hükmü değiştirme ihtimali bulunmuyor. Böyle anlarda karar masası, seçenekleri sınadığımız bir yer olmaktan çıkıp önceden verilmiş kararın savunmasını hazırladığımız bir yere dönüşüyor. Muhakemede hüküm değişebilir. Hüküm baştan sabitse, yaptığımız şey muhakeme değil, gerekçelendirmedir.

Herbert Simon, insanların ve organizasyonların bütün alternatifleri göremediğini ve bütün sonuçları hesaplayamadığını söylüyordu. Bu nedenle çoğu zaman en iyi seçeneği bulmuyor, yeterince iyi görünen bir seçenek bulduğumuzda aramayı bırakıyoruz. Simon, organizasyonlardaki karar verme süreçleri üzerine yaptığı çalışmalarla 1978’de Nobel Ekonomi Ödülü’nü aldı. Bugün yapay zeka ile bir insanın aynı anda değerlendiremeyeceği miktarda veriyi işliyor, yüzlerce alternatif üretiyor ve farklı ihtimallerin sonuçlarını hesaplıyoruz. Peki seçeneklerin çoğalması kararlarımızı gerçekten iyileştiriyor mu?

Arya’da çalıştığımız planlama problemlerinden birinde ilk hesaplamalar, mümkün olan en yüksek talebi karşılayan planı öne çıkarıyordu. Daha fazla ürün sevk ediyor, kapasiteyi daha yüksek kullanıyor ve kağıt üzerinde daha fazla geliri koruyorduk. Sistem, kendisine verdiğimiz amaç açısından doğru çalışıyordu. Sonra küçük görünen bir varsayımın bütün sıralamayı değiştirdiğini gördük. Her gecikmenin şirket için aynı bedeli yarattığını kabul ediyorduk. Operasyon ekranında iki sipariş de dört günlük gecikme olarak görünüyordu. Satış ekibi ise müşterilerden birinin bekleyebileceğini, diğerindeki gecikmenin üretim hattını durdurabileceğini biliyordu. Şimdi dürüst olalım. Bu bilgiyi veri tabanına düzenli olarak kaydeden kaç şirket vardır? Kararı etkileyen kritik bilgilerin büyük bir bölümü, yıllardır müşterilerle çalışan insanların deneyiminde ve zihninde yaşıyor. Biz yeni bir gerçek keşfetmedik. Şirkette zaten bilinen bir gerçeği modelin içine dahil ederek görünür hale getirdik. İlk model bize yanlış cevap vermemişti. Biz sisteme eksik bir hüküm vermiştik.

Yeni müşterilerimizden sık duyduğumuz bir beklenti var: “Arya verimize baksın, öğrensin ve bize sonucu söylesin.” Buna bir tür yapay zeka beklentisi zehirlenmesi diyorum. Karar için gerekli bütün bilginin veri tabanlarında hazır bulunduğunu, yeterince güçlü bir sistemin de bu bilgiyi işleyerek doğru cevabı kendiliğinden çıkaracağını düşünüyoruz. Ancak gerçek karar bilgisi yalnızca sistemlerde yaşamıyor. Müşteriyi tanıyan satış çalışanında, hattın gerçek sınırlarını bilen operatörde, planlamacıda, geçmişte benzer bir krizi yaşamış yöneticide ve resmi süreçlerin dışında oluşan ilişki ağlarında dağılıyor. Bir kurumun ne bildiği ile veri tabanlarında neyin kayıtlı olduğu aynı şey değil. Yapay zeka derken yalnızca dil modellerini de kastetmiyoruz. Tahmin modelleri ne olabileceğini, optimizasyon hangi seçeneklerin uygulanabilir olduğunu, simülasyon ise seçtiğimiz yolun farklı koşullarda neye dönüşeceğini görünür kılıyor. Dil modelleri bu çıktıların dayandığı varsayımları konuşmamıza ve farklı açıklamaları karşılaştırmamıza yardım ediyor. Ancak modellerin hiçbiri tek başına iyi muhakeme üretmiyor. Daha güçlü bir insan–AI muhakemesi, veride bulunan bilgiyle insanların deneyiminde yaşayan bilgiyi bir araya getirdiğimiz ve aynı hükmü farklı yöntemlerle sınayabildiğimiz zaman ortaya çıkıyor.

Bu nedenle mesele yalnızca modele “Bana karşı çık” veya “Kör noktalarımı göster” demek değil. Böyle bir talimat yararlı olabilir ancak üretilen antitezin doğru olduğu anlamına gelmez. Daha önemlisi, hiçbir prompt patronun fikrine karşı çıkmanın maliyetini veya başarısızlığı gizleme teşvikini değiştiremez. 12 Öfkeli Adam’da itiraz eden bir jüri üyesinin varlığı yeterli değildi. Onu dinlemek zorunda oldukları bir ortam da vardı. Bir itiraz oylamayı durdurabiliyor, kanıtlar yeniden ele alınabiliyor ve insanlar fikir değiştirebiliyordu. AI’a karşı çıkmasını söylemek bir prompttur. İnsanların, verilerin ve farklı AI araçlarının ürettiği itirazların kanıtla sınanabildiği ve hükmü değiştirebildiği bir yapı kurmak ise karar mimarisidir.

Muhakeme sürecimizi üç soruyla test edebiliriz. Hangi varsayım üzerine karar veriyoruz? Hangi yeni bilgi fikrimizi değiştirir? Masadaki kim veya hangi sistem kararı gerçekten durdurabilir? Bu soruların cevabı yoksa, gördüğümüz şey büyük ihtimalle muhakeme değil, önceden verilmiş bir hükmün kurumsal olarak sahnelenmesidir. İyi muhakemenin ilk şartı da her şeyi bilmek değil, kendi hükmümüzü değişebilir tutmak ve onu sınayacak ortamı kurmaktır. Böyle bir ortamı yaratmanın kolay olmadığını biliyoruz. Bazı şirketlerde bunun için yalnızca yeni araçlara değil, yıllara dayanan alışkanlıkların, güç ilişkilerinin ve konuşma biçimlerinin değişmesine ihtiyaç duyuyoruz. Bu dönüşümü yapay zekayla elbette destekleyebiliriz. Ancak bugün AI sistemlerini çoğunlukla verdiğimiz görevi ne kadar hızlı ve kusursuz tamamladıklarına göre değerlendiriyoruz.

Muhakeme ortamını kurmadığımızda AI da mevcut düzene uyum sağlıyor. Hükmümüzü sınamak yerine onu gerekçelendiriyor, kör noktalarımızı açmak yerine onları daha ikna edici hale getiriyor. Peki yanlış tanımladığımız bir hedefi kusursuz biçimde gerçekleştiren bir sistemi başarılı sayabilir miyiz?