Harika, Hesap Makinene Kızdın!

Yapay zekaya güveniyor musunuz? Soru basit. Ancak cevap aynı derecede zordur.

Yapay zeka artık her alanda kararları etkiliyor ve süreçleri dönüştürüyor. Bu hızlı bütünleşme heyecan olduğu kadar kaygı da yaratır. Teknoloji ilerledikçe insanlığın anlam arayışı derinleşiyor:‘Bu sisteme neden güvenmeliyim?’

‘Güven’ son derece iddialı ve güçlü bir kavram. Kime, neye ve nasıl güveneceğimiz sorusu karmaşıktır. Algoritmalar söz konusu olduğunda durum daha da sorunlu hale geliyor.

Bu sorunun cevabı yalnızca kod kalitesi veya model doğruluğunda yatmıyor. Gerçek cevap, teknoloji etrafında inşa edilen kültürel, idari ve etik yapılarda yatmaktadır.

Belirsizlik Güveni Aşındırıyor!

Çalışanların %57'si iş yerinde yapay zeka araçlarını kullanıyor. Bu araçları yöneticilerinden saklıyorlar. %48'i ayrıca hassas şirket bilgilerini açık platformlara yüklüyor. Neden? Çünkü nasıl çalıştığını, sınırlamalarını ve risklerini bilmiyorlar. Belirsizlik şüpheyi doğurur.

Bu arada Stanford AI Index 2025 Raporu, yapay zeka ile ilgili hataların geçtiğimiz yıl %56 arttığını ortaya koyuyor. Hatalar arttıkça sorumluluk duygusu bulanıklaşır. Kim hatalıydı? Veri mi, model mi, onu kodlayan kişi mi, yoksa onu onaylayan yönetici mi?

Bu tablo bizi yeni bir paradigma arayışına sürüklüyor. Sadece mühendislik yoluyla güven inşa etmek gerekli değildir. Şeffaflığa, hesap verebilirliğe ve katılımcılığa da odaklanmalıyız.

Güvenin Temel İlkeleri

Rağmengüven soyut bir duygu olarak algılanabilir,aslında kurumsal kapasiteyle doğrudan alakalı. Üç prensip temel olarak belirleyicidir:

1. Şeffaflık: Şeffaflık bilinmeyene karşı ilk savunma hattıdır. Nasıl çalıştığı açıkça paylaşılmalıdır. Beslendiği veriler açıklanmalıdır. Karar verirken kullandığı varsayımlar da açıkça paylaşılmalıdır.
2. Sorumluluk: Sistemin vereceği kararların sonuçlarından kim sorumlu olacak?
3. Katılım: Kullanıcılar sistemi şekillendiren süreçlere katkıda bulunabilmelidir. Sistemin benimsenmesi, kullanıcılarıyla birlikte geliştirilmesine bağlıdır.

Bu ilkeler güven inşa etmenin önkoşullarıdır. Ancak bunların sistematik olarak yönetilebilmesi için bir çerçeveye de ihtiyaç vardır.

Güven Modeli: “Güven Sekizgeni”

Akademisyen J. Cadavid ve meslektaşları tarafından özellikle sağlık sektörü için önerilen Güven Sekizgen modeli, sağlık sektöründeki güveni ele alıyor.yapay zekasekiz temel boyutta. Bu modelde güven ölçülebilir ve yönetilebilir bir sistem içerisinde tanımlanmaktadır:

1. Şeffaflık: Sistem nasıl çalıştığını açıkça gösteriyor mu?
2. Adalet: Farklı gruplar için tarafsız sonuçlar üretiyor mu?
3. Gizlilik: Kişisel veriler etik olarak korunuyor ve işleniyor mu?
4. Güvenilirlik: Sistem istikrarlı ve öngörülebilir mi?
5. Sorumluluk: Kararların mantığı açıklanabilir mi?
6. Güvenlik: Siber tehditlere karşı dayanıklı mı?
7. Yasal Uyumluluk: Sistem yasal mevzuatlara uygun olarak çalışıyor mu?
8. Yorumlanabilirlik: Kullanıcı sistem çıktısını anlayıp değerlendirebiliyor mu?

Güveni entegre etmekyapay zekaKurum kültürüne yatırım yapmak için üç temel alana yatırım yapmak çok önemlidir:

1. Eğitim: Tüm çalışanlara etik, hukuk ve algoritmik okuryazarlık konularında eğitim verilmelidir.
2. Yönetişim: Etik kurallar sadece ilkeler düzeyinde kalmamalıdır. Tüm karar süreçlerine entegre edilmelidirler.
3. Liderlik: Güven oluşturmak, yöneticilerin gösterdiği şeffaflık ve sorumlulukla doğrudan ilgilidir. Liderin verdiği mesaj her zaman sistemin sağladığı verilerden daha güçlüdür.

Sonuç: Güven Olmadan Teknoloji Yetersiz Kalır!

Yapay zeka şüphesiz çağımızın en büyük teknolojik sıçramalarından biridir. Ancak bu sıçramanın toplumsal karşılığı yalnızca algoritmanın performansına bağlı değil. Aynı zamanda onu tasarlayan, uygulayan ve yöneten kurumların değerlerine de dayanır. Dolayısıyla sistemin doğru çalışması yeterli değildir. Ayrıca şeffaf, denetlenebilir ve hesap verebilir olması gerekiyor.

Trust Octagon gibi modeller, bu güvenin sekiz boyutta analiz edilmesini ve yönetişim süreçlerine entegre edilmesini mümkün kılar. Ancak asıl mesele bu çerçevenin varlığı değil, kurumun bunu ne kadar benimsediğidir. Güven, Excel elektronik tablolarıyla değil, davranışlarla oluşturulur. İlk kriz anındaki şeffaflık kurumun kalitesini gösterir. İlk hatadan sonra alınan sorumluluk da bu niteliği yansıtır. İlk başarının ardından kurulan diyalog sistemin değil kurumun gücünü daha da ortaya koyuyor.

Günümüzde teknolojiye yatırım yapan her kurumun aynı zamanda güven stratejisini de oluşturması gerekiyor. Bu strateji tüm paydaşların katılımını gerektirmektedir. Katılımcılar İK'dan iletişime kadar çeşitlilik göstermektedir. Bunlar aynı zamanda hukuk departmanını ve üst düzey yönetimi de içerir. Teknik ekiplerden daha fazlasını içerir. Çünkü algoritmalar karar verebilir ancak güveni yalnızca insanlar inşa edebilir.

Üstelik güvenin sadece kurumsal performans kriteri değil aynı zamanda sürdürülebilirlik kriteri olduğu da unutulmamalıdır. Şeffaf ve adil olmayan bir sistem uzun vadede meşruiyetini koruyamaz. Kendini hesaba katmaz. Bu ne kamuoyunda, ne piyasada, ne de toplumda geçerli.

Dolayısıyla bugünün sorusu 'en iyi yapay zeka modeline kim sahip?' değil, 'En güvenilir karar mimarisine kim sahip?'

---