Bir raporlama toplantısında, sistemden çıkan bir rakamın tartışılma biçimi ile aynı rakamın elle hazırlandığı dönemdeki tartışılma biçimi arasında gözlenebilir bir fark vardır. Elle hazırlanan tabloda katılımcılar kaynağı, hesaplama yöntemini ve dönemsel kırılımı sorgularken, aynı rakam bir sistem ekranından geldiğinde tartışma çoğunlukla rakamın kendisiyle değil, rakamın sonuçlarıyla başlar. Kimse sistemin doğruluğunu açıkça teyit etmemiştir; sorgulama basitçe gündeme gelmemiştir. Bu kayma tek bir toplantıda görünmez, fakat aynı sistemin çıktılarının aylarca sorunsuz kullanıldığı bir kurumda, doğrulama adımının fiilen ne zaman ortadan kalktığını kimsenin hatırlayamaması tipik bir durumdur.
Benzer bir örüntü, sözleşme yönetiminden hakediş onayına, stok sayımından kredi limiti tahsisine kadar otomasyonun karar zincirine girdiği her yerde tekrar eder. Bir hakediş sisteminin ilk aylarında yüklenici dosyaları kalem kalem kontrol edilirken, sistem birkaç dönem boyunca beklenen sonucu ürettikten sonra kontrol, tutarın makul bir bantta olup olmadığına bakan bir göz taramasına iner. Kontrolün biçimsel varlığı sürer — onay kutusu işaretlenir, imza atılır — fakat kontrolün bilgi üretme kapasitesi büyük ölçüde tükenmiştir. Onay burada bir doğrulama değil, sistemin doğruluğuna dair önceden verilmiş bir kararın tekrar tekrar uygulanmasıdır.
Bu davranışın altındaki mekanizma, örgüt psikolojisi literatüründe automation complacency — otomatik bir sisteme duyulan güvenin insan gözetimini ve bağımsız doğrulamayı kademeli olarak gevşetmesi — olarak adlandırılır. Mekanizmanın çekirdeği bir dikkat ekonomisidir: doğrulama zaman, uzmanlık ve bilişsel kapasite tüketir, ve bu kaynaklar her kurumda kıttır. Sistem art arda doğru çıktı ürettikçe, doğrulamaya ayrılan her birim kaynağın beklenen getirisi düşer; karar verici de bu kaynağı, getirisinin daha yüksek göründüğü başka bir işe kaydırır. Bu, hatalı bir muhakeme değil, gözlenen kanıta uygun bir kaynak tahsisidir.
Eğilimin işlevsel olduğu koşul da tam olarak budur ve göz ardı edilmemelidir. Otomasyonun kurumsal gerekçesi zaten insanın her adımı tekrar etmesini gereksiz kılmaktır; her çıktının bağımsız olarak yeniden üretildiği bir rejim, otomasyonun sağladığı verimliliği tanım gereği ortadan kaldırır. Bir ödeme sisteminin her kaydını elle mutabık kılan bir finans fonksiyonu, sistemin varlığına rağmen sistem öncesi maliyet yapısını taşımaya devam eder. Dolayısıyla gözetimin gevşemesi, otomasyonun beklenen faydasının gerçekleşmesinin bir parçasıdır; sorun gevşemenin kendisinde değil, gevşemenin hangi varsayıma dayandığının unutulmasındadır.
Kritik ayrım şurada belirir: bir sistemin doğruluğu, üzerinde çalıştığı varsayımların geçerliliğine bağlıdır, ve bu varsayımlar sessizce değişir. Bir maliyet dağıtım motoru, kurulduğu andaki ürün karmasına, tesis yapısına ve muhasebe politikasına göre kalibre edilmiştir; üç yıl sonra ürün karması genişlemiş, yeni bir tesis devreye girmiş ve bir gider kalemi yeniden sınıflandırılmış olabilir. Sistem bu değişimleri kendi başına fark etmez, çıktı üretmeye devam eder ve çıktı biçimsel olarak makul görünür. Operatörün sisteme duyduğu güven ise geçmiş performansın hafızasıyla beslendiği için, doğruluk bozulduktan sonra da bir süre yüksek kalır; risk penceresi tam olarak bu iki eğrinin ayrıldığı aralıkta açılır.
Bu pencerenin kurumsal bedeli, hatanın büyüklüğünde değil, hatanın kaç karara girdiğinde ölçülür. Yanlış kalibre edilmiş bir marj hesabı tek bir raporu bozmakla kalmaz; o rapora dayanarak yapılan fiyatlama, o fiyatlamayla imzalanan çerçeve sözleşme, o sözleşmeye göre planlanan kapasite yatırımı ve o yatırımı finanse eden kredi başvurusundaki projeksiyon aynı hatayı taşır. Tespit anı geciktikçe, düzeltmenin maliyeti aritmetik değil, katmanlı biçimde büyür — çünkü artık düzeltilecek olan bir hesap değil, o hesabın üzerine kurulmuş bir taahhüt zinciridir. Bir büyüklük mertebesi farkı, çoğu zaman hatanın niteliğinden değil, hatanın kaç raporlama döneminde fark edilmeden taşındığından doğar.
İnceleme masasında bu bedel çok belirgin bir biçimde görünür. Due diligence sürecinde alıcı tarafın veya kredi verenin sorduğu soru, şirketin hangi sistemleri kullandığı değil, o sistemlerin çıktılarını en son ne zaman ve hangi bağımsız yöntemle doğruladığıdır. Cevap "sistem zaten bunu hesaplıyor" biçiminde geldiğinde, incelemeci genellikle iki şey kaydeder: birincisi, sunulan tarihsel finansalların doğruluğu doğrulanmamış bir mekanizmaya dayanmaktadır; ikincisi, kurumda bu mekanizmayı sorgulayabilecek bir rol tanımı bulunmamaktadır. Bu iki kayıt, çoğunlukla değerleme çarpanına doğrudan bir indirim olarak değil, temsil ve tekeffül kapsamının genişlemesi, escrow oranının yükselmesi ya da kapanış öncesi bağımsız mutabakat koşulu olarak fiyatlanır.
Aynı örüntünün ikinci bir bedeli, kurumsal hafızanın nereye yerleştiğiyle ilgilidir. Bir hesaplama mantığı sisteme gömüldükten sonra, o mantığın neden öyle kurulduğunu bilen kişi sayısı zamanla azalır; sistemi kuran ekip değişir, dokümantasyon güncellenmez ve mantık, kimsenin sahiplenmediği bir kara kutuya dönüşür. Bu noktada şirket, kendi kritik bir muhakemesini ne yazılı olarak ne de bir kişide taşıyor demektir. Kurucu bağımlılığının tersi bir biçimidir bu: bilgi bir kişide değil, kimsenin açamadığı bir yapılandırma dosyasında birikmiştir, ve devir işlemi sırasında transfer edilemeyen tam olarak budur.
Yapısal müdahale, bireysel dikkat çağrısıyla değil, doğrulamanın maliyetini sistematik biçimde düşüren bir tasarımla kurulur ve üç ayrılabilir bileşeni vardır. Birincisi örneklem tabanlı bağımsız yeniden hesaplama: tüm çıktının değil, dönem başına sabit ve rastgele seçilmiş küçük bir alt kümenin, sistemden tamamen bağımsız bir yöntemle yeniden üretilmesi. İkincisi varsayım kaydı: sistemin hangi varsayımlar üzerine kalibre edildiğinin yazılı tutulması ve bu varsayımların her birine bir sahip ile bir gözden geçirme ritmi atanması. Üçüncüsü tetikleyici eşik tasarımı: ürün karması, tesis yapısı, sözleşme tipi veya muhasebe politikası gibi girdilerde tanımlı bir değişim olduğunda, gözden geçirmeyi takvimden bağımsız olarak başlatan bir kural.
BEIREK'in yönettiği projelerde bu müdahale, otomatik sistem çıktısının karar zincirine girdiği her noktada bir doğrulama sahibi tanımlanmasıyla başlar; sahiplik burada onay yetkisi değil, çıktının bağımsız olarak yeniden üretilebilirliğinden sorumluluk anlamına gelir. Hakediş, maliyet dağıtımı, ilerleme ölçümü ve nakit projeksiyonu gibi hatların her biri için, dönem başına sabit bir örneklem sistemden bağımsız biçimde yeniden hesaplanır ve sapma, tutar eşiğine bakılmaksızın kaydedilir — çünkü küçük ve tutarlı sapma, büyük ve tek seferlik sapmadan daha bilgi vericidir. Kalibrasyon varsayımları proje yönetişim dosyasında ayrı bir kayıt olarak tutulur, ve bu kaydın gözden geçirilmesi takvime değil, tanımlı girdi değişimlerine bağlanır.
Bu rejimin ikinci katmanı, doğrulama sonucunun nereye gittiğidir. Sapma kaydı yalnızca ilgili fonksiyonda kalırsa, düzeltme yerel bir teknik iş olarak görülür ve yönetişim katmanına ulaşmaz; bu nedenle örneklem doğrulamasının çıktısı, proje yönetim raporlamasının sabit bir kalemi olarak yönetim kuruluna veya yatırım komitesine aynı ritimle taşınır. Böylece sistemin güvenilirliği bir inanç konusu olmaktan çıkıp periyodik olarak kanıtlanan bir olguya dönüşür, ve bir sonraki inceleme sürecinde alıcının ya da kredi verenin sorduğu soruya, sözle değil kayıtla cevap verilebilir hale gelir.
Otomasyonun kurumsal değeri, insan dikkatini serbest bırakmasından gelir; fakat serbest bırakılan dikkatin nereye gittiği hiçbir zaman kendiliğinden çözülmez. Bir kurumun olgunluğu, kaç süreci otomatikleştirdiğiyle değil, otomatikleştirdiği süreçlerin hangi varsayımlar üzerinde durduğunu ne kadar açık biçimde bildiğiyle ölçülür. Sorulacak soru sistemin doğru çalışıp çalışmadığı değil, doğru çalıştığını en son ne zaman ve kimin, sistemden bağımsız olarak gösterdiğidir.