Yapay zeka beyazdır ve oryantalist üslubu benimsemektedir

‘Edward Said ve Devam Eden Oryantalizm’ başlıklı önceki yazımızda Batı’nın Doğu’nun temsillerini üretme ve kültürel hegemonya oluşturarak Doğu’yu zaptı rapt altına alma girişimi olarak oryantalizmi Edward Said’in kült kitabı üzerinden ele almıştık. Yazıda ayrıca, Zeynep Çelik’in ‘Avrupa Şark’ı Bilmez’ kitabına dayalı olarak geç Osmanlı ve erken Cumhuriyet entelektüellerinin oryantalizme karşı nasıl ortak bir duruş sergilediklerine değinmiştik. Yazının sonunda ise ChatGPT gibi üretken yapay zekâ teknolojileri ile oryantalizmin çok daha güçlü bir şekilde yeniden üretilme tehlikesine dikkat çekmiştik. Bu yazıda yapay zekâ ve oryantalizm ilişkisini tartışmaya devam ediyoruz.

Oryantalizm eğitimden kültür ve sanata, bilimden politikaya kadar her alanda devasa bir külliyata sahiptir ve halen içerik üretimi devam etmektedir. Batı, kendisi dışını Doğu olarak tanımlamaktadır. Doğu’nun kapsamına Ortadoğu ve Asya girdiği gibi zaman zaman Rusya ve İspanya’da aynı tanımlamaya maruz kalmaktadır. Orlando Figes’in de ifade ettiği gibi ‘Şark’ coğrafi bir kategori değildir (Avrupalılar, Üç Hayatın Işığında Kozmopolit Avrupa Kültürü, Yapı Kredi Yayınları, 2020, sh.81):

“Avrupa” fikri her zaman “Şark” dünyasıyla bu kültürel tezat içerisinde tanımlanmıştı. Avrupa hayal gücünde “Şark” ilkel, irrasyonel, miskin, yoz ve zorbaydı; Avrupa’nın sömürge dünyası üzerindeki hâkimiyetine dayanak oluşturan bir entelektüel kurguydu bu. “Şark” coğrafi bir kategori değildi. Ortadoğu, Asya ve Kuzey Afrika’nın yanı sıra, bizzat Avrupa içinde, kıtanın hala Arap ve İslam kültürlerinin güçlü etkisi altındaki güney ve doğu çeperindeydi.   

Bu bağlamda yapay zekâ içerik üretimi ile oryantalist üslup arasındaki ilişkiyi anlamak önem arz etmektedir. Özellikle ChatGPT gibi üretken yapay zekâ teknolojilerinin, küresel ölçekte yaygın kullanılmaya başlanmasıyla yaşamın tüm alanlarına hızla ve çok daha ayrıntılı bir şekilde sirayet ettiğini görüyoruz. Çok amaçlı kullanıma açık olması ve çok hızlı gelişimi sağladığı faydaların hızla uygulanmasını kolaylaştırdı. Bu nedenle kısa sürede eğitimden sağlığa, hizmet sektörlerinden biyoteknoloji ve savunma sanayiine kadar çok çeşitli alanlarda kullanılmasıyla artık geçmiş teknolojik dönüşümlerden farklı olarak çok güçlü bir yapay zekâ ekosistemi oluşmaktadır.

Hal böyleyken yapay zekâ teknolojilerinin yol açtığı sorunlar da daha fazla görünür olmaya başladı. Bu sorunların başında yanlılıklar gelmektedir. Üretken yapay zekâ teknolojileri uygulandığı alanla ilgili büyük veriyi kullanarak öğrendiği için ürettiği içerikler, öğrendiği veriden doğrudan etkilenmektedir. Bir başka deyişle, gerçek hayat verileri yapay zekânın hafızasını oluşturmaktadır. Bu hafızaya dayalı olarak düşünmekte, kestirimler ve optimizasyon yapmakta ve içerikler üretmektedir. Dolayısıyla, gerçek hayat verisinde yani hafızasında gömülü yanlılıkların tamamı yapay zekânın içeriklerinde yeniden üretil(ebil)mektedir. Bu yanlılıkları azaltmaya yönelik girişimler olsa da son derece cılız kalmaktadır. Bu nedenle en azından tehlikenin farkında olmak, üretilen her içeriğin doğru olmayabileceği farkındalığını artırmak son derece önemlidir.

Oryantalizm Doğu’nun kendisini ifade etmesine izin vermeden, Doğu’nun temsilini üretmektedir. Bir başka deyişle, Doğu’nun ne olduğuna dair Batı’lı konuşmaktadır. Oryantalizmde Doğu gerçeğinin ne olduğu önemli değil, Batı’lının nasıl gösterdiği önemlidir. Yapay zekâ da bu devasa külliyatı hafıza olarak kullanmaktadır. Yapay zekâ tarafından Doğu’ya dair üretilen içerikler aynı oryantalist üslup hastalığına yakalanmakta ve yanlı ve oryantalist temsilleri yeniden üretmektedir.

Yapay Zekâ İle Devam Eden Oryantalist Klişeler

Bu nedenle bu yazıda bu ilişkiye bir örneklik teşkil etmesi bakımından Ghosh ve arkadaşları tarafından yayımlanan yeni bir araştırmanın bu bağlamda bulgularına değineceğiz (Chosh vd., Do Generative AI Models Output Harm While Representing Non-western Cultures: Evidence from a Community-Centered Approach, Proceedings of the Seventh AAAI/ACM Conference on AI, Ethics, and Society (AIES 2024), sh.476-489, 2024). Araştırmacılar metinden görüntüye dönüştürücü modeller (T2I'ler) de dâhil olmak üzere üretken yapay zekâ modellerinin, Hindistan bağlamına odaklanarak Batı dışı kültürlerin temsili üzerindeki etkisini incelemekteler. Yazarlar başlangıçta oryantalist üsluba örnek vermek üzere film endüstrisine dikkat çekmekte ve Hollywood veya Avrupa film endüstrisinde Hintli’nin nasıl temsil edildiğine işaret etmektedir:

…Dahası, Hollywood veya Avrupa film endüstrisinde çekilen filmler genellikle kendi bağlamlarına odaklandığından, Hint temsilini genellikle diaspora karakterleri üzerinden işlerler; ya tamamen Batılılaşmış ve Hint kültürünün unsurlarını (genellikle elle yemek) görmezden gelen ya da aktif olarak aşağılayan karakterler olarak ya da Hindistan’a dönmeyi romantize eden bir bakış açısıyla ele alırlar.

Yazarlar bu temsilin sadece Batı’lı tarafından değil, ayrıca aynı üslubu kullanan Hindistan içi içerik üretiminde de yaygın bir şekilde kullanıldığını vurgulamak üzere Hindistan’ın ana akım medyasındaki temsillere dikkat çekmekteler:

…Hindistan’ın Bollywood film endüstrisi tarafından domine edilen ana akım Hint medyası da Hint kültürü/alt kültürleriyle ilgili klişeleri sürdürüyor, burada “normatif Hint vatandaşı Kuzey Hindistanlı ve Hindu olarak sunuluyor”. Müslüman karakterler ise genellikle Pakistan ile ilişkilendirilen şiddet yanlısı düşmanlar veya teröristler olarak ya da diğer düşman Müslümanlara karşı duran "iyi Müslüman" olarak gösteriliyor...

Yazarların da vurguladıkları gibi üretken yapay zekâ tarafından Batı dışına yönelik yanlı içerik üretme ve dolayısıyla temsil, yeterince ele alınmamıştır. Bu nedenle Hindistan özelinde yapılan bu çalışmada iki kültürel zarar tespit edilmiştir. Birincisi, temsili zarar olarak egzotizmin üretken yapay zekâ tarafından sürekli öne çıkartılmasıdır. Yazarlar üretken yapay zekâ içerik üretimindeki egzotizmi, “bir kültürün geniş tasvirlerinde çoğu zaman kültürel olarak doğru ayrıntılar pahasına belirli özelliklerin veya niteliklerin aşırı abartılması veya aşırı temsil edilmesi” olarak tanımlıyor. Oryantalist büyük veriden öğrenen üretken yapay zekâ bu külliyatla oluşturulan Doğu’nun Batı’lı temsilini yinelemeye devam etmektedir. Çalışmada daha ilginç bir bulguda elde edilmiştir: Hintlilerin temsilinde gelir seviyesine göre ten renklerinin değiştiği görülmektedir. Zengin Hindistanlılar beyaz tenle temsil edilirken yoksulların tenleri koyulaşmaktadır.  

İlginç olan, yazarların Hint kültürünü bu tür egzotik temsillerden arındırmak amacıyla verdikleri komutların başarısız olduğunu gözlemlemeleri, dolayısıyla üretken yapay zekâ tarafından yeniden üretilen egzotik temsillerin kalıcı bir sorun olduğunu göstermeleridir. Dolayısıyla bu yazının başlığında da ifade ettiğimiz gibi oryantalist üslup üretken yapay zekâ ile güçlü bir şekilde devam etmektedir. Bu içeriklerin eğitimde kullanılmasının nasıl bir hafızayı pekiştireceği üzerinde durulması gereken önemli bir konudur. 

İkincisi ise, üretken yapay zekânın içerik üretiminde sıklıkla ‘kültürel bağlamdan koparma’nın kullanılmasıdır. Yazarlar kültürel bağlamdan koparmayı “belirli bir kültürel bağlama ait ayrıntıların, o kültür veya alt kültürün uygun bağlamı dışında yanlış şekilde gösterilmesi” olarak tanımlıyor. Ayrıntılar, bağlamından kopartılarak bir patchwork çalışması gibi farklı bağlamlarla, ancak yine aynı oryantalist üslupla ilişkilendirilerek bir araya getirilmektedir. Bu şekilde içerik üretimi yapay zekanın literatürde sıklıkla tartışılan halüsinasyon davranışını çağrıştırmaktadır.

Özetle, oryantalizm sadece geçmişin bir kalıntısı olmanın çok ötesinde yapay zekâ ile tekrar yaygınlaşmaktadır. Edward Said’in ifade ettiği gibi oryantalizm Doğu’luyu konuşturmaz, Doğu’nun temsilini Batı’lı üretir. Benzer şekilde yapay zekâ da Doğu’luyu konuşturmamaktadır. Batı’lı oryantalist devasa veriden öğrenerek Doğu’ya Batı’lı gibi bakmaktadır. Yazarların çalışmalarında yer alan gruptan bir bireyin çok güzel bir şekilde ifade ettiği gibi: ‘Biliyorum, tartışma Hindistan hakkında, ama sanırım bu daha çok ABD ve İngiltere’nin bizi nasıl gördüğünü yansıtıyor’