Matematik bir kitle imha silahı olabilir mi?

Cathy O’Neil (2016), ‘Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy’ başlıklı kitabında matematiğin modellerde kullanımının kitlelere etkisini ‘kitle imha silahı’ olarak tanımlıyor. Modellerin matematiksel doğası, onların objektif ve kesin olduğu izlenimini verse de, modelleri insan seçimleri ve değerlerinin şekillendirdiği göz ardı edilmemelidir. Bu nedenle, O’Neil kitabında kitleleri etkileyen matematiksel modellerin yol açtığı hasarları ele almakta, matematiksel modellerin yol açtığı maliyetleri ayrıntılı bir şekilde değerlendirmektedir. O’Neil modellerin üç temel özelliğine vurguda bulunuyor: opaklık, ölçek ve zarar. Yani, modellerin çoğu şeffaf değildir. Modeller giderek tüm kitleleri kapsamına almaktadır. Ve nihayetinde adil olmadığı ve ürettiği yanlılıklar üzerinden gerçek dünyayı yeniden şekillendirdiği için insanların çoğuna, yani kitlelere zarar vermektedir.

Matematiksel modeller büyük kitle için tasarlandıkları için kitlelerin her türlü bilgisi toplanır ve kayıt altına alınır. Piyasada bu bilgiler şirketler tarafından satın alınır ve mevcut veri koleksiyonlarına dâhil edilir. Elbette, bu kadar büyük verinin olduğu yerde piyasanın derdi doğru veri olup olmamasına bakmaksızın büyük veriyi toplayabilmektir. Modeller büyük ölçekli kitlelere uygulandığı için algoritmaların yanlış sonuçları veya adaletsizlikleri önemsenmez, çünkü bireysel bir durumdur ve modelin verimliliğini zedelemez (!). Gelinen noktada artık insanlar modellere karşı savunmasızdır ve üzerlerinde her türlü manipülasyon yapılabilir. Bireylerin günlük yaşamlarında dijitalleşme nedeniyle sürekli ürettikleri veriler, modeller üzerinden bireylerin kaderlerini belirler.

Ölçülemeyen Değersizleşir

Modeller, doğası gereği gerçek dünyanın basitleştirilmiş bir temsiline ulaşabilmek için yapılır. Dolayısıyla, değerlendirilmek istenen bağlamı anlamak için bir yaklaşıklık sağlar. Çünkü modellenmek istenen bağlamla ilgili her şeyi ölçebilmek, dolayısıyla sayısallaştırmak mümkün değildir. Dolayısıyla, modellemede bir önceliklendirme yapılır. Bir başka deyişle detaylı ve doğrusal olmayan ilişkiler ağı ile örülü bir alanı artık belirlenen vekil özellikler temsil etmektedir. Bir modeli değerlendirirken ve kullanırken kör noktalarının farkında olmak ve modelin sınırlılıklarını anlamak önemlidir.

Modeller üzerinden yapılan yaklaşımda ortaya çıkan en büyük problem, algoritmalarda kullanılan varsayımların ve vekil özelliklerin aranan gerçeği ne kadar temsil ettiği ile ilgilidir. O’Neil’in işaret ettiği gibi karar veren algoritmalarda puanlama, temsil ettiği gerçeğin yerini almaktadır: ‘Gerçeği aramak yerine, puanlama gerçeği temsil etmeye başlar.’ Algoritmalar gerçeği vekâleten temsil eden özellikler üzerinden yakalamaya çalıştıkları için her zaman bir hata payı söz konusu olur. Hata payı matematiksel olarak makul görünebilir, ancak her bir hatanın karşılık geldiği insandır ve o insan üzerinde yıkıcı etkisi olmaktadır. Dolayısıyla, bir modeli değerlendirirken onun arka planında yatan değerleri ve öncelikleri anlamak önemlidir.

Diğer taraftan, bu aşamada modellemenin ikinci maliyeti ortaya çıkar: ölçülemeyen şeyler değersizleş(tiril)ir. Ölçülemeyenler giderek önemsiz(leştiril)mekte ve nihayetinde değersizleş(tiril)mektedir. Modelin ölç(e)meyerek sayısal bir değer üretemediği, dolayısıyla değer vermediği hususlara neden değer verilsin ki? Dolayısıyla modellenen alanın öncelikleri sıralamada değer verilen vekil özelliklere göre dönüşmeye başlar. Örneğin modellerle üretilen başarı sıralamalarında kurumlar, ağırlıklı olarak sıralamalarda ölçülen göstergelerde puanlarını yükseltmek için çırpınırken ölçülmeyen şeyler giderek göz ardı edilir ve değersizleşir. Kısaca, kurumlar ve kapsadığı alanlar algoritmalara göre şekillenmeye başlar. Dolayısıyla, bu tip sıralamalar ekosistemi önce deforme eder ve sonra yeniden şekillendirir. Bu tip modellerin kullanılma ölçeği büyüdükçe deformasyon ölçeği de, sonuçta zararın boyutu da büyümektedir.

Kendi Kendini Doğrulayan Kehanet veya Coğrafya Kaderdir

Modeller öncelikleri ve varsayımlarıyla gerçek dünyaya yön verir. Bu nedenle gerçek dünyayı, ürettiği sonuçlar üzerinden yeniden şekillendirir. Dahası ölçeği sürekli büyüten yeni bir yardımcı faktör devreye girer: modellerin birbirlerine girdi sağlaması. Artık modeller birbirlerinden ayrık değildir. Bir alan için kullanılan bir modelin ürettiği çıktılar bir başka alan için oluşturulan başka bir modelin girdisi olabilmektedir. Örneğin, kredi başvurunuzu değerlendiren model artık sadece geçmiş kredi performansınıza bakmaz, sağlık verilerinizi veya farklı alanlarda aldığınız cezalarla ilgili verileri de değerlendirmesinde kullanır. Kullanılan verilerin çeşitliliği her geçen gün artmaktadır. Veri kapsamının genişlemesi, modellerin ölçeğinin büyümesini de hızlandırır. O’Neil bu durumu modelin üssel/eksponansiyel olarak büyümesi ve tüm hayatı ölçekleme kapasitesi olarak ifade etmektedir.

Bu modeller gerçek dünyadaki ırka, cinsiyete, dine, kültüre, sosyoekonomik seviyeye göre yanlılıkları tekrar üretmektedir. Dahası, modeller bu yanlılıkları sistematik hale getirirken görünmez de kılmaktadır. Bir başka deyişle, algoritmalar, geçmişteki insan kararlarının yansıttığı bilinçli veya bilinçsiz önyargıları tekrarlayarak adaletsizliği pekiştirmektedir. Bu, geçmişte var olan ayrımcılığın ve önyargıların algoritmalara gömülmesine ve bu ayrımcılığın daha geniş bir ölçekte ve daha sistematik bir şekilde devam etmesine yol açmaktadır. Dolayısıyla, bu modeller kendi kendini doğrulayan kehanet karakteristiği göstermektedir.

Dezavantajlı, herhangi bir başvuruda, işe girmede veya tekrar suç işleme olasılığına göre ceza değerlendirmesinde hep ne yaptığından ziyade geçmişine ve dolayısıyla nereye ait olduğuna göre değerlendirilmektedir. Bu nedenle, bireyin sosyoekonomik seviyesi kaderi olmaktadır. Geçmişi ve yaşadığı mahalleye göre tekrar suç işleme olasılığı model tarafından daha yüksek belirlenebilmekte ve daha uzun ceza alabilmektedir. Hapis sonrası iş bulma olasılığı düşmekte, geçim sıkıntısı ailevi başka sorunları tetiklemekte ve nihayetinde beyaz bir sayfa açabilme imkânı bulamadan başka bir suça karışarak bu defa alması gerekenden çok daha uzun ceza almaktadır. Sonuçta, model kendi kendini doğrulamıştır, ancak model doğru olduğu için değil, model dezavantajlıya yeni bir beyaz sayfa açma imkânı vermeyerek dezavantajını adaletsiz bir şekilde sürekli artırdığı için! Yani modeller, bireyleri kendi başlarına değil, çevreleri, sosyal ağları ve coğrafyalarına göre değerlendirmektedir. İbn-i Haldun’un ifadesiyle coğrafyanın kader olması matematiksel modeller tarafından yeniden üretilmektedir. Artık birey, şeffaf olmayan, adaletsiz ve zararlı modellerin sistemik saldırısına karşı tamamen savunmasız kalmaktadır.

Özetle, matematiksel modeller ve algoritmalar artık yaşamın tüm alanlarını kapsamaktadır. Bu modellere müdahale edilmediğinde O’Neil’in vurguladığı gibi kitleler için yıkıcı birer silaha dönüşebilmektedir. Verilerin doğruluklarının kontrol edilmemesi ve içerdiği yanlı veriler ve özellikle algoritmaların oluşturulmasında yapılan varsayımlar ve önceliklendirmeler yıkıcılığın şiddetini artır(abil)mektedir. Bu modeller önyargıları pekiştirebilir, belirli grupları sistematik olarak dışlayabilir veya yanlış bir güvenlik ve adalet algısı yaratabilir. Bu nedenle, büyük veri ve algoritmaların kullanımı, önyargıları güçlendirmek yerine, adil ve kapsayıcı bir şekilde geliştirilmeli ve sürekli olarak test edilmelidir. Bu modellerin tasarımında ve uygulanmasında daha fazla şeffaflık, düzenleme ve bireysel adalet sağlamak için etik standartların geliştirilmesi ve uygulanması gerekmektedir.