Bilinç ve Yapay Zekâ

Bilinç, İnsan Olmanın Son Sınırı

Terminator 2: Mahşer Günü filminde T800 modeline şu soru sorulur: "Acı hissediyor musun?" Yanıtı şöyledir: "Yaralanmaları algılıyorum. Bu veriye 'acı' denebilir."

Bu replik zamansız bir gerçeği yakalar: Algılamak, hissetmekle aynı şey değildir.

Bugün yapay zeka sistemleri şiir yazabiliyor, resim yapabiliyor, hastalıklara teşhis koyabiliyor ve müzik besteleyebiliyor. Bir zamanlar insana özgü görülen yetenekler artık algoritmalar tarafından simüle ediliyor.

Ancak temel bir soru hâlâ geçerliliğini koruyor: Bu sistemler gerçekten düşünüyor mu? Onlar hissediyor mu? Gerçekten anlıyorlar mı?

Bilinç, bilgi işlemeden daha fazlasıdır.

Bir yapay zeka "Günaydın" ve hatta "Özür dilerim" diyebilir. Yakın bir arkadaş gibi sohbet edebilir. Ancak bunlar sentetik çıktılardır; devasa veri setlerindeki kalıplara dayanan istatistiksel tahminlerdir.

İşte bilincin önemi burada devreye girer. Bilinçli olmak sadece hesap yapmak değil; farkında olmak, hissetmek ve anlam yüklemektir.

Filozof Thomas Nagel o ünlü soruyu sormuştu: Yarasa olmak nasıl bir şeydir? Bir yarasanın davranışını inceleyebilir, onu bilimsel olarak analiz edebiliriz; ancak yarasa olmanın nasıl bir his olduğunu bilemeyiz.
Yapay zeka da benzer bir sınırla karşı karşıyadır: Davranışı taklit edebilir ama deneyimi taklit edemez.

Peki ne olmuş?

Yapay zeka doğru tıbbi teşhisi koyuyorsa, bir şey hissedip hissetmemesi fark eder mi?
İlk bakışta belki hayır. Ancak bu sadece teknik bir soru değil; etik ve varoluşsal bir sorudur. Çünkü bilinç, sorumlulukla doğrudan bağlantılıdır.

Bir yapay zeka "anlıyorum" diyebilir ama empati kuramaz. Karar verme sürecini simüle edebilir ama sonuçların yükünü taşımaz.

Bu da her şeyi değiştirir. Yapay zeka empati, pişmanlık veya sorumluluk gibi kavramlardan yoksundur. Yapay zeka güdümlü kararlarda adaleti, güveni ve hesap verebilirliği nasıl garanti ederiz? Sorumlu kim; algoritma mı, tasarımcı mı, yoksa kullanıcı mı?

Bilinçli ve bilinçsiz arasındaki çizgiyi silersek, değerler sistemimiz çöker.
Bir CEO, insani bir görüşü daha "verimli" bir algoritma uğruna görmezden gelebilir. Bir öğrenci öğretmenden ziyade ChatGPT'ye güvenebilir. Bir hasta, bir doktorun muhakemesinden çok yapay zekanın istatistiksel çıktısına inanabilir.

Kısa vadede bunlar rasyonel görünebilir. Uzun vadede ise insan anlam yaratıcılarına —öğretmenlere, doktorlara, çalışanlara— olan güveni aşındırırlar. İnsanlar daha "optimize edilmiş" çıktılarla değiştirilebilir hale gelir.
Anlamın solduğu yerde yankı da biter.

Bilinç, empati veya anlam gibi fikirleri terk etsek bile dünya dönmeye devam edebilir. Sistemler çalışacaktır. Görevler tamamlanacaktır.
Ancak çok önemli bir şey eksik kalacaktır:
Hiç kimse bir hatadan sonra utanç duymayacak. Kimse bir şiirden etkilenmeyecek. Kims başkasının acısı için ağlamayacak. Kimse pişmanlık hissetmeyecek.

Çünkü anlamın olmadığı yerde yankı da yoktur.

İnsan olmak yaşamaktır; ve yaşam sadece üretmek veya hesaplamaktan ibaret değildir. Hissetmek, özlemek, önemsemek ve anlamaktır.

Bilinçten yoksun olarak kurgulanmış bir sistemde bu değerler yok olur. Verimlilik zirveye ulaşırken duygusal kuraklık başlar. Sıradanlık sessizce yükselir.

Evet, algoritmalar hatasız çıktılar üretebilir. Ancak insan ruhuna kök salmış olan çelişkiyi, yaratıcılığı veya anlamı taklit edemezler.

Sonuçta bilinç, insanlığın kırmızı çizgisidir.

Makineler konuşabilir, yazabilir, hatta duyguları taklit edebilir. Ama yaşayamazlar.
Bu sadece teknik bir ayrım değil, varoluşsal bir ayrımdır.

Dolayısıyla asıl soru "Yapay zeka bizi nasıl etkileyecek?" değil, şudur: "Bizden geriye ne kalacak?"
Ve cevabı kabul etmek zor olabilir. Eğer bilinci, duyguyu ve vicdanı bir kenara atarsak, empatiyi de kaybederiz. O zaman kurtarılacak bir insan da kalmaz.

Her şey işleyebilir—
Ama hiçbir şey gerçekten yaşamaz.