Holokost'tan Yapay Zekâ Çağı'na: Etik Mesafenin Önemi

İnsanlık tarihinin en karanlık sayfalarına yazılan Holokost, Adolf Hitler'in iktidara yükseldiği 1933'ten Nazi Almanya'sının 1945'te yenilgisini kabul etmesine kadar süren sistematik Yahudi soykırımını ifade eder.

Bu kadar büyük bir kötülüğün, bu ölçekte yaşanmış olması tahayyül bile edilebilecek bir şey değil. İnsan, hangi durum ve koşulda bu kadar zalim, duyarsız ve acımasız hareket edecek hale gelebilir?

Sosyolog Zygmunt Bauman'ın Modernite ve Holokost adlı kitabı, yalnızca geçmişin bu karanlık dönemine ışık tutmakla kalmaz. Aynı zamanda, gelecekte şekillenebilecek benzer yapısal tehditlerle ilgili de güçlü bir uyarı ortaya koyar.

Modernitenin karanlık yüzü

Bauman'a göre Holokost'u mümkün kılan şey, bireysel kötülükten çok, etik sorumluluğun bürokratik zincir içinde çözülmesiydi. Herkes 'sadece işini yapıyordu.' Katliam, bir 'sistem çıktısı' hâline gelmişti. Üç temel mekanizma bunu mümkün kıldı:

Bürokratik sistem, eylemleri teknik süreçlere dönüştürdü. Bir tren şefi, vagonlardaki insanların yaşamlarını değil, trenlerin yerine zamanında ulaşmasını düşündü. Sorumluluğun atomizasyonu, her bireyin yalnızca kendi küçük görevine odaklanmasına yol açtı. Böylelikle bir memur yalnızca liste hazırlamakla, bir diğeri lojistiği düzenlemekle, bir başkası da gaz odası işletmekle görevliydi. Bu keskin bürokratik hiyerarşi, karar yetkisini yukarıda, icraat görevini ise aşağıda tutarak alt kademedeki memurlara 'ben yalnızca emri yerine getiriyorum' psikolojisini yaşattı. Kimin ne karar verdiği belirsizleşti. Eylem, prosedür statüsüne indirildi.

Etik mesafe, kurbanları soyutlayarak onları istatistiklere ve rakamlara dönüştürdü. Fiziksel uzaklık kadar, kavramsal uzaklık da önemliydi. Kurbanlar sadece rakamlara dönüştüğünde, empati mekanizmaları devre dışı kaldı. Teknik rasyonalizasyon, ideolojik hedeflere verimlilik kazandırdı. Mühendislik mantığı, insanlık dışı projelere meşruiyet kılıfı giydirdi. Grup içi onay ve itaat kültürü bireysel çekinceleri bastırdı. Otoriteye itaat, bireysel sorumluluğu ortadan kaldırdı. İktidarın meşruiyeti altında etik muhakeme tamamen eridi. Etik sorumluluk çözülürse, yıkım başlar!

Holokost

Holokost, etik sorumluluğun bürokratik zincirde nasıl eridiğinin ve sistematik şiddetin sözde nasıl 'normalleştiğinin' trajik ve karanlık bir dersidir.

1961'de Nazi yetkilisi Adolf Eichmann'ın davasını izleyen Alman asıllı siyaset kuramcısı ve filozof Hannah Arendt, onu şeytani zihne sahip sapkın bir canavar değil, oldukça sıradan bir bürokrat olarak tanımlar. Duruşmalarda gözlemlediği, Eichmann'ın ne derin bir nefret ne de sadistik bir zevkle hareket ettiği, aksine 'sadece emri yerine getirme' refleksiyle görev yaptığını söylemesidir.

Arendt'e göre asıl tehlike, failin eylemlerini sorgulamaması, ahlaki muhakemesini askıya almasıdır. Eichmann, emir-komuta zincirine itaatini düşünsel tembellikle meşrulaştırmıştır. Bu durum, bireyin etik sorumluluğunun bürokratik mekanizmalar tarafından erozyona uğratılmasının nasıl mümkün olduğuna örnektir.

Arendt'in meşhur 'kötülüğün sıradanlığı' kavramı, kitlesel şiddetin yalnızca keskin ideoloji veya psikopatoloji kaynaklı olmadığını; sıradan insanların, farkındalık kaybıyla, normalleşmiş prosedürleri uygularken de büyük kötülükler üretebileceğini vurgular. Bauman'a göre bu, sistemin düşünme ihtiyacını yapısal olarak ortadan kaldırmasından kaynaklanır.

Net olan bir konu var. Sistematik durum ve koşullar bireyin sorumluluğunu ortadan kaldıramaz. Yaptığı eylemin etik ve ahlaki sonuçlarından kişiyi muaf tutamaz. Nitekim, örneğini verdiğimiz Adolf Eichmann, soykırım suçlamasıyla yargılandı ve idama mahkûm edildi.

Yapay zekâ çağında etik mesafe

Bugün etik mesafe, algoritmalara devredilen kararlar üzerinden yeniden tanımlanıyor. Mekanizmalarsa dijital altyapılarla yeniden inşa ediliyor.

Yapay zekâ, pasif bir asistan olmaktan çıkıp bankacılıktan insan kaynaklarına, sigortadan güvenlik sistemlerine kadar kritik kararları üstleniyor. Kimin işe alınacağına, kredi alıp almayacağına ya da 'şüpheli' sayılacağına algoritmalar hükmediyor.

Yapay zekâ karar alıyor, ama kararın sosyal-psikolojik bağlamını anlamıyor. Oysa bağlam, niyet, kültür, değerler, vicdan insana ait biricik sezgiler. Sonuçta dijitalleşen bürokrasi, karar kademelerini şeffaflıktan soyutlayarak etik pusulayı gölgeliyor.

Yapay zekâ, 'bunu nasıl yaparız?' sorusunu yanıtlıyor. Peki ya 'yapılmalı mı?' diye kim soruyor?

İşte burası, teknolojik gelişmeyle etik düşüncenin kesiştiği kritik eşik. Bauman'ın dediği gibi, modernite amaçları sorgulamadığı, sadece etkili araçlar ürettiği zaman yıkıcı hale gelebilir.

Algoritmalar bilgiyi, algıyı, fikirleri, davranışları yönlendiriyor. Yüz tanıma sistemleri, belirli etnik grupları daha yüksek risk grubuna yerleştiriyor. Optimizasyon adı altında insanlar verimlilik skorlarına indirgeniyor.

Yani algoritmik sistemler, görünüşte tarafsız ama veriye ve varsayıma dayalı önyargılarla şekillenmiş bir sosyal hijyen rejiminin tuğlalarını örüyor. Bu durum, Bauman'ın 'etik hizalanma' uyarısını dijital çağ için güncellememizi zorunlu kılıyor.

"Belirsizlik, ahlaklı insanın anavatanıdır." — Zygmunt Bauman

Bu cümle, etik olanın özünde bir kesinlik arayışı değil, bir karar verme cesareti olduğunu hatırlatır. Modern dünyanın en temel paradoksu, güvenli bir ahlak zemini ararken aynı anda bu zemini sürekli olarak erozyona uğratmasıdır. Katı kuralların, sarsılmaz otoritelerin ve net reçetelerin geçerliliğini yitirdiği bu akışkan çağda etik, artık dışsal bir otoritenin buyruğundan değil, bireyin içsel muhasebesinden doğar.

Bauman'ın deyimiyle, modern birey artık 'ahlaki yalnızlık' içindedir. Fakat bu yalnızlık aynı zamanda vicdanın, sorumluluğun ve umudun da tek gerçek mekânıdır.

Etik tam da bu yalnızlıkta gelişir. Kuralların gölgesinde değil, belirsizliğin ortasında şekillenen bir ahlak, insanı yeniden özne haline getirir. Her eylem, her karar, her sessizlik bile etik bir sınavdır.

Kafka'nın kapısı

Kafka'nın 'Yasanın Önünde' öyküsünü hatırlayalım. Bir adam, 'yasaya' ulaşmak için kapısına gelir. Kapı açıktır. Kapıcı 'girebilirsin, ancak şimdi değil' der. Adam, izin verilmesini bekler. Günler, aylar, yıllar geçer. Ömrünü orada harcar. Yaşlanır, gözleri kararır. Ölmeden hemen önce ilk kez sorar: 'Herkes yasaya ulaşmak ister, neden bunca yıl benden başka kimse gelmedi?' Kapıcı cevaplar: 'Burası sadece senin için ayrılmıştı. Şimdi gidiyorum ve kapıyı kapatıyorum.'

Bu öykü, modern sistemlerin nasıl çalıştığının mükemmel bir alegorisidir. Yapay zekâ çağında da aynı tuzak devam ediyor: Algoritmaların 'objektifliğine', şirketlerin 'etik komitelerine', 'adil düzenlemelerin yakında geleceğine' inanarak bu yeni çağı bekliyoruz. Her birimizin de 'özel bir kapısı' var gibi görünüyor. Ama sanki tüm bu kapılar, bizi sistem içinde hareketsiz tutmak için tasarlanmış. Birileri bugün tüm insanlığı etkileyecek teknolojileri tasarlıyor ve sözde ortak 'iyi' adına kararlar veriyor.

Sonuç: Her sistem önce insanı hatırlamalı

Bauman, Modernite ve Holokost'ta bize en sarsıcı gerçeği gösterir: İnsanlık tarihinin en karanlık tasarımı, mükemmel işleyen bir bürokrasinin ürünüdür. Teknolojik rasyonalitenin, kurumsal itaatin ve ahlaki mesafenin birleştiği noktada insanlığın nasıl un ufak olabileceğinin de kanıtı.

Bugün yapay zekâ çağında, o ders yeniden önümüzde duruyor. Artık talimatlar kodlardan, kararlar modellerden, eylemler ise sistemlerden doğuyor. Kötülük ise gücünü koruyor. Yine aynı biçimde. Mekanik, steril, vicdansız…

Algoritmalar dünyayı belirsizlikten arındırmaya çalıştıkça, insanın kararsızlık, düşünme, vicdan, hata yapma, sorumluluk alma gibi en temel deneyim ve değerleri de sessizce siliniyor. Yapay zekâ çağının gerçek tehlikesi, makinelerin düşünmesi değil, insanların düşünmeyi bırakması bana göre.

Oysa etik, hatasız sistemlerin değil, düşünebilen insanların işi. Ahlak, güvenli formüllerin değil, kırılgan farkındalıkların ürünü. İnsanın ahlaki değeri hatasız olmasında değil, hata yaptığında sorumluluk alabilmesinde.

Bu yüzden her sistem, ne kadar akıllı olursa olsun, önce tüm değerleri ve kusurlarıyla insana yer açmalı. İnsanlığın gerçek devrimi, teknoloji ile yıkıcı olanı verimli kılmak değil; verimliliği vicdanla, etikle ve insanın kırılgan onuruyla sınırlandırmak olacak.