Bir yatırım komitesi oturumunda, aynı sayı iki farklı kaynaktan geldiğinde iki farklı muamele görür. Finans direktörü nakit akış projeksiyonunu kendi hesap tablosundan okuduğunda, masadaki üyeler tipik olarak varsayımları sorar — hangi büyüme oranı, hangi tahsilat vadesi, hangi kur senaryosu. Aynı sayı bir planlama sisteminin ekranından yansıtıldığında ise sorular sayıya değil, sunuma yönelir; tartışma çoğu zaman çıktının nasıl uygulanacağı üzerinde ilerler, çıktının nasıl üretildiği üzerinde değil. İçerik değişmemiştir; değişen tek şey, sayının geldiği yüzeyin insan mı yoksa makine mi olduğudur.
Aynı asimetri operasyonun her katmanında gözlenir. Bir kredi puanlama motorunun reddettiği başvuru, aynı gerekçelerle bir uzmanın reddettiği başvuruya kıyasla daha az itiraz üretir; bir bakım planlama sisteminin ertelediği revizyon, saha ekibinin sezgisel uyarısına rağmen takvimde kalır; bir talep tahmin modülünün önerdiği stok seviyesi, satın alma müdürünün pazar okumasıyla çeliştiğinde, çelişkiyi çözen genellikle argüman değil, sistemin varsayılan konumda olmasıdır. Sistemin önerisi bir hipotez olarak değil, bir başlangıç noktası olarak masaya gelir; itiraz eden taraf, ispat yükünü üstlenmiş olarak konuşmaya başlar.
Bu davranışın altındaki mekanizma automation bias — otomatik bir sistemin çıktısının insan yargısına kıyasla sorgusuz üstün tutulması eğilimi — olarak adlandırılır ve iki ayrı yönde çalışır. Birincisi kabul yönüdür: sistemin ürettiği yanlış çıktı, doğru olduğu varsayımıyla karara dönüşür. İkincisi ve kurumsal açıdan daha sinsi olanı ihmal yönüdür: sistemin hiç uyarmadığı bir risk, uyarı gelmediği için var olmayan risk sayılır. Birinci yön denetimde er geç görünür hâle gelir, zira ortada yanlış bir çıktı ve onu izleyen yanlış bir sonuç vardır; ikinci yön ise hiçbir iz bırakmaz, çünkü kaydedilen tek şey sessizliktir.
Bu eğilimin hata olarak değil, kısayol olarak doğduğunu görmek gerekir. Bir sistem, binlerce çevrimde tutarlı çıktı üretmişse, her çıktıyı yeniden doğrulamanın bilişsel ve zamansal maliyeti hızla ekonomik olmaktan çıkar; güven, denetim maliyetini düşüren rasyonel bir yatırımdır. Sorun kısayolun kendisinde değil, kısayolu doğuran koşul değiştiğinde kısayolun sabit kalmasındadır. Modelin kalibre edildiği dönemin talep örüntüsü kırıldığında, tedarikçi tabanı yenilendiğinde, faiz rejimi değiştiğinde ya da veri beslemesinin kaynağı sessizce başka bir sisteme taşındığında, çıktının güvenilirliği düşer ama çıktıya gösterilen güven aynı seviyede kalır. Güven, üretildiği koşuldan daha uzun yaşar.
İkinci bir katman, sistemin çıktısının kurumsal olarak kim tarafından sahiplenildiğine ilişkindir. İnsan yargısı bir isme bağlıdır ve o isim sorulduğunda gerekçe vermek zorundadır; sistem çıktısı ise kurumsal olarak sahipsizdir. Modelin varsayımını kimin belirlediği, parametrenin en son ne zaman güncellendiği, hangi versiyonun hangi kararı beslediği çoğu organizasyonda kayıtlı değildir. Bu sahipsizlik, çıktıyı savunmasız değil tam tersine dokunulmaz kılar; itiraz edilecek bir muhatap bulunmadığında itirazın kendisi de örgütsel olarak biçimsiz kalır. Karar toplantısında sistemin çıktısına karşı çıkan kişi, bir meslektaşıyla değil, kurumsal bir soyutlamayla tartışır.
Bunun bilançodaki karşılığı nadiren tek bir kalemde görünür. Talep tahmininin sistematik olarak yukarı sapması, stok kaleminde değil, stok devir hızının birkaç çeyrek boyunca yavaşça gerilemesinde birikir; her çeyrekte sapma açıklanabilir bir büyüklüktedir, kümülatif etki ise işletme sermayesi döngüsünün tamamı kadardır. Bakım planlamasında sistemin ertelediği revizyonlar, arıza istatistiğinde değil, sigorta priminin yenileme dönemindeki fiyatlamasında ve yeniden işleme maliyetinin sabit gider gibi normalleşmesinde karşılık bulur. Kredi ya da tedarikçi puanlamasında modelin daralttığı havuz, iptal edilmiş bir işlem olarak kayda geçmez; hiç açılmamış bir müşteri hattı ya da hiç sorulmamış bir alternatif tedarikçi olarak, yalnızca yokluğuyla var olur.
Sermaye yoğun ve finanse edilen projelerde bedel daha keskin biçimde ortaya çıkar. Bir inşaat programının kritik yolu planlama yazılımının çıktısı olarak kabul edildiğinde, programın dayandığı üretkenlik varsayımları — vardiya verimi, hava koşulu kaybı, tedarik teslim penceresi — tartışma dışında kalır; gecikme materyalleştiğinde ise ortaya çıkan soru teknik değil sözleşmeseldir, zira LD tavanının hangi tarihe göre işlediği ve gecikmenin hangi tarafa atfedileceği artık geriye dönük olarak yeniden kurulmaya çalışılır. Aynı biçimde, DSCR projeksiyonu bir finansal modelin çıktısı olarak covenant paketine yansıdığında, modelin kalibrasyonuna dair kaydın bulunmaması, ilk çekiş sonrası ilk yeniden değerlendirmede kredi verenle sponsor arasındaki pazarlığı sponsor aleyhine kurar.
Değerleme masasında etki daha da doğrudandır. Due diligence sürecinde inceleyen taraf, sistemin ürettiği projeksiyonu değil, projeksiyonun dayandığı varsayım zincirinin şirket içinde kim tarafından ve hangi ritimle gözden geçirildiğini sorar; bu zincir gösterilemediğinde, gösterilemeyen kısım tipik olarak bir belirsizlik olarak fiyatlanır. Fiyatlamanın biçimi başlık rakamının düşürülmesi olmak zorunda değildir — çoğu zaman earn-out yapısının uzatılması, temsil ve tekeffül kapsamının genişletilmesi ya da escrow oranının yükseltilmesi biçiminde görünür. Bir şirketin değerlemesini belirleyen şey performansın kendisi değil, performansın hangi mekanizmayla üretildiğinin gösterilebilir olmasıdır; sistem çıktısına dayanan bir performans, mekanizması kayıtlı değilse, tekrarlanabilirliği ispat edilemeyen bir performanstır.
Bu eğilimi nötrleyen şey, karar vericinin daha dikkatli olması değil, karar mimarisinin belirli bileşenlerle kurulmasıdır. Bunlardan birincisi, sistem çıktısının hiçbir zaman tek başına dolaşıma girmemesi — her çıktının, dayandığı üç ila beş kritik varsayım ve bu varsayımların son güncellenme tarihiyle birlikte sunulmasıdır. İkincisi, itiraz eşiğinin önceden ve sayısal olarak tanımlanmasıdır: çıktı ile alan bilgisine dayanan tahmin arasındaki fark belirli bir bandı aştığında, ispat yükü itiraz edende değil sistemde olur ve fark kayda geçirilir. Üçüncüsü, çıktı üzerinde adı geçen bir sahibin bulunmasıdır; modelin parametresini kimin belirlediği ve kimin gözden geçirdiği, tıpkı bir imza gibi çıktının üzerinde taşınır. Dördüncüsü, sistemin uyarmadığı alanların periyodik olarak açıkça taranmasıdır, zira ihmal yönü ancak arandığında görünür hâle gelir.
BEIREK'in karmaşık ve finanse edilen projelerde işlettiği müdahale bu dört bileşen üzerine kuruludur. Program, maliyet ve finansal model çıktıları için varsayım kaydı, onay anında değil çıktının üretildiği anda tutulur; her revizyonda hangi parametrenin hangi gerekçeyle değiştiği, sonucu değiştirmese dahi kayda girer, zira sonucu değiştirmeyen bir varsayım değişikliği çoğu zaman ilerideki bir çeyrekte sonucu belirleyecek olandır. Buna paralel olarak, model çıktısı ile saha ya da ticari ekiplerin bağımsız tahmini arasındaki sapma sabit bir ritimde ölçülür ve tanımlı bandı aştığında karar, sapmanın gerekçesi yazıya dökülmeden ilerlemez.
İkinci bir mekanizma, karar öncesi yapılandırılmış bir karşı-argüman rolüdür: yatırım kararı, FID ya da büyük tedarik onayı öncesinde, ekipten bir üye modelin çıktısını değil, modelin sessiz kaldığı alanları raporlamakla görevlendirilir. Bu rol bir formalite değil, kayıt üretir; üretilen kayıt, kapanış sonrası due diligence sürecinde inceleyen tarafa, projeksiyonun kurucuya ya da tek bir sisteme değil, işleyen bir gözden geçirme disiplinine bağlı olduğunu gösteren kanıt zincirinin kendisidir. Bu kaydın varlığı ile yokluğu arasındaki fark, çoğu işlemde müzakere edilen tek bir kalemden daha büyük bir ekonomik sonuç üretir.
Otomasyonun kurumsal karara kazandırdığı şey hız ve tutarlılıktır, ve bu kazanç gerçektir; kaybettirdiği şey ise çoğu zaman kararın neden verildiğine dair izdir. Bir organizasyonun olgunluğu, sistemlerinin ne kadar gelişmiş olduğuyla değil, sistem çıktısı ile insan yargısı çeliştiğinde bu çelişkiyi kimin, hangi eşikte ve hangi kayıtla çözdüğünün önceden tanımlanmış olmasıyla ölçülür. Bu tanımın bulunmadığı yerde çelişki kaybolmaz; yalnızca sessizce çıktı lehine kapanır, ve sessizce kapanan her çelişki, ileride açılacak bir müzakere pozisyonunun bugünden teslim edilmesi anlamına gelir.