Yalnızca İK’nın Yanıtlayabilecek Konumda Olduğu Yönetişim Soruları

2018'de Amazon, yıllardır geliştirmekte olduğu bir makine öğrenimi aracını özgeçmişleri taramak için kullanmaktan vazgeçti. Sistem, şirketin teknik rollerde erkek adayları tercih etme yönündeki tarihsel eğilimini yansıtan on yıllık işe alım verileriyle eğitilmişti.

Model bu örüntüden öğrendi ve bunu tekrarladı; "women's" gibi kelimeler içeren özgeçmişlerin değerlendirmesini düşürdü ve yalnızca kadınların eğitim gördüğü üniversitelerden mezun olan adayları cezalandırdı. Amazon mühendisleri bunu düzeltmeye çalıştı. Önyargının başka şekillerde ortaya çıkmayacağını garanti edemediler, bu nedenle sistemi kapattılar.

Bu hikâyeden sık sık yapay zekâ ve önyargı hakkında bir uyarı niteliğinde söz edilir. Ortaya çıkardığı yapısal soruya ise daha az dikkat çekilir. Bunu ilk etapta fark etmek kimin göreviydi? 

Sistemi geliştiren teknik ekipler, sistemin çalışıp çalışmadığına odaklanıyordu. Hukuk muhtemelen sorumluluk riskine odaklanıyordu. Görünüşe göre hiç kimse, sistemin taradığı kişiler için adil sonuçlar üretip üretmediğine, en azından birincil bir yönetişim işlevi olarak, odaklanmıyordu.

Bu sorun çoğu kuruluşta çözülmüş değil. Hatta kurumsal yapay zekâ kullanımı genişleyip hızlandıkça, bunu netleştirmek daha da zor bir hâle geldi.

Şimdi Yanıtlanan İki Soru

Çoğu kurumsal yapay zekâ yönetişimi çerçevesi, iki soru kategorisini yanıtlamak üzere oluşturuldu.

İlki hukuki soru: Bu sistem başarısız olursa, ayrımcı bir sonuç üretirse veya düzenlemeye tabi verileri açığa çıkarırsa hangi sorumluluklar ortaya çıkar? 

İkincisi teknik soru: Hata türleri neler, sistem hangi verilerle eğitildi, güvenlik açıkları nerede? Her iki kategori de önemli. Ancak hiçbiri tek başına yeterli değil, çünkü hiçbiri sistemlerin etkilediği kişilere karşı birincil bir yükümlülük gözetilerek tasarlanmadı.

Bu, hukuk veya BT'ye yönelik bir eleştiri değil. Bu işlevler, kendilerinden yanıtlamaları istenen soruları yanıtlamak üzere yönetişim çerçeveleri oluşturdu. Sorun, kurumsal yapay zekâ kullanımının, kalan soruların sorumluluğunun kimde olduğuna dair bilinçli bir tartışmayı geride bırakacak kadar hızlı ilerlemesi ve çoğu kuruluşun varsayılan olarak hâlihazırda yürürlükte olan çerçevelere yönelmesi.

PwC'nin 2025 tarihli Sorumlu Yapay Zekâ araştırmasına göre yöneticilerin %56'sı, birinci hat ekiplerinin — BT, mühendislik, veri ve yapay zekâ — artık sorumlu yapay zekâ çalışmalarına liderlik ettiğini söylüyor. İK bu oranda anlamlı bir şekilde yer almıyor. 

Pacific AI'nin 2025 Yönetişim Araştırmasına göre kuruluşların dörtte üçü yapay zekâ kullanım politikaları oluşturmuş durumda, ancak yalnızca %36'sı tanımlanmış roller, kontroller ve yaptırım mekanizmaları anlamına gelen resmi bir yönetişim çerçevesi benimsemiş. Bir politika belgesi ile işlevsel hesap verebilirlik arasındaki mesafe, insanlara ilişkin soruların yanıtsız kaldığı yerdir.

2024'te yürütme gerekliliklerini aşamalı olarak uygulamaya başlayan AB Yapay Zekâ Yasası, istihdamda ve iş gücü yönetiminde kullanılan yapay zekâ sistemlerini kategori bakımından yüksek riskli olarak sınıflandırıyor. Bu tanım, işe alım, performans değerlendirmesi, görev dağılımı ve izleme için kullanılan araçları kapsıyor. Başka bir deyişle, çoğu işletmenin artık geniş ölçekte uygulamaya aldığı sistemler bütününü. 

Yüksek risk sınıflandırması, daha sıkı belgelendirme, şeffaflık ve insan gözetimi gereklilikleri anlamına gelir. Bu gereklilikleri karşılamaktan kuruluş içinde kimin sorumlu olduğunu belirtmez. Bu soru yeniden işletmenin önüne bırakılır.

Çoğu kuruluşta yanıt, "hâlihazırda yönetişimden sorumlu olan kişi" olmuştur. Bu genellikle hukuk, uyum veya BT güvenliği anlamına gelir; yani yerleşik çerçevelere sahip işlevler. İK çoğu zaman bir paydaş olarak sürece dahil edilir veya uygulama sırasında görüşüne başvurulur. Nadiren liderlik eder.

Atlanan Sorular

Yapay zekânın insanlara gerçekten zarar verip vermediğini belirleyen sorular, hukuki risk veya teknik arıza çerçevesine düzgün bir şekilde oturmaz. Farklı bir başlangıç noktası gerektirir.

Bu sistem demografik gruplar arasında önyargılı sonuçlar üretiyor mu?

Bu soruyu yanıtlamak, yalnızca hukuken savunulabilir olanın ne olduğunu değil, belirli bir istihdam bağlamında adil olanın neye benzediğini bilmeyi gerektirir. Bunlar farklı standartlardır. 

Bir sistem hukuken savunulabilir olabilir ve yine de bir çalışan grubuna diğerinden sistematik olarak daha kötü sonuçlar sunabilir. Bunu fark etmek, hakkaniyetli istihdam uygulamasının neye benzediğini anlayan ve bir sistem bundan saptığında bunu gündeme getirecek yetkiye sahip birini gerektirir.

Çalışanlar anlamadıkları veya toplandığı konusunda bilgilendirilmedikleri veriler üzerinden mi değerlendiriliyor?

Owl Labs'in 2025 yılı iş yeri araştırmasına göre, çalışanların %20,5'i izleme işleminin gerçekleşip gerçekleşmediğinden emin değil ve %12,8'i nelerin takip edildiğini bilmiyor. 

Bu, ikincil bir konu değildir. ABD'deki şirketlerin %61'i artık çalışan verimliliğini veya davranışlarını ölçmek için yapay zekâ destekli analizler kullanıyor. Çalışanların bunun gerçekleştiğini bilip bilmediği, bunun değerlendirmelerine nasıl dâhil edildiğini anlayıp anlamadığı ve sistemin ürettiği sonuçlara itiraz edebilecekleri herhangi bir yolun bulunup bulunmadığı, çalışma ilişkisine dair soruların tümüdür. Bunlar, çalışma ilişkisini yöneten işlevin sorumluluğundadır.

Bir yapay zekâ önerisinin ne zaman geçersiz kılınacağına ve bunun hangi gerekçelerle yapılacağına kim karar verir?

Yapay zekâ araçlarının işe alım, terfi, performans değerlendirmeleri veya işten çıkarma hakkındaki kararları etkilediği ya da bu kararlara bilgi sağladığı kuruluşlarda, geçersiz kılma sorusu, bir işletmenin alabileceği en önemli yönetişim kararları arasındadır. 

Bir yönde hata yapmak, yapay zekâ önerilerinin denetlenmeden uygulanması anlamına gelir. Diğer yönde hata yapmak ise sistemin çıktılarının yalnızca göstermelik tavsiyeler veya kimsenin güvenmediği pahalı bir altyapı olarak görülmesine neden olur.

Bu eşiği doğru şekilde belirlemek, hem aracın nasıl çalıştığını hem de yöneticilerin nasıl karar verdiğini, insan muhakemesine önyargının nerede dâhil olduğunu ve sonuçlara itiraz edildiğinde hesap verebilirliğin nasıl göründüğünü anlamayı gerektirir.

Bu soruların hiçbirinin çoğu kurumsal yönetişim çerçevesinde belirgin bir yeri yoktur. Bu sorular, hukuk veya mühendislikte değil, İK ve organizasyon tasarımında bulunan alan uzmanlığını gerektirir.

Hesap Verebilirlik Haritası

Yapay zekâ yönetişiminde İK'nın sorumluluğuna giren konular, tercih veya kurumsal politikayla ilgili değildir. Bu durum, işlevin doğasından kaynaklanır. İK, çalışanlara karşı adil muamele görmelerinden gelişimlerine ve çalışma ilişkisi kapsamındaki haklarına kadar birincil yükümlülüğü bulunan kurumsal işlevdir.

Yapay zekâ sürece dâhil olduğunda bu yükümlülük ortadan kalkmaz, ancak daha karmaşık hâle gelir.

Çeşitli hesap verebilirlik kararları, görevlendirme nedeniyle değil, doğaları gereği İK'nın sorumluluğundadır.

İstihdamda yapay zekâ için önyargı denetimi en doğrudan konudur

Teknik ekipler, bir modelin girdiler arasında tutarlı performans gösterip göstermediğini test edebilir. Yalnızca İK, tutarlı performansın bağlam içinde adil sonuçlara dönüşüp dönüşmediğini ve herkesi aynı ölçütle değerlendiren performans yönetimi aracının uygulamada belirli görevlerdeki, coğrafyalardaki veya demografik gruplardaki çalışanları dezavantajlı duruma düşüren puan dağılımları oluşturup oluşturmadığını değerlendirebilir. 

Bu, İK verilerine erişimi, istihdam hukuku ve eşitlik standartlarının anlaşılmasını ve tespit edilen sonuçlara göre harekete geçme konusunda kurumsal yetkiyi gerektirir.

Çalışanlara karşı şeffaflık yükümlülükleri

Çalışanlar, kendileri hakkındaki kararları bilgilendirmek için yapay zekânın ne zaman kullanıldığını, hangi verilerin kullanıldığını ve sonuçlara nasıl ulaşıldığını bilme konusunda menfaate sahiptir. 

Bazı yargı bölgelerinde bu bilgilere ilişkin yasal hakları vardır. Bir kuruluşun bu yükümlülükleri politika, eğitim veya süreç tasarımı yoluyla karşılayıp karşılamadığı ve bu yükümlülükleri asgari bir taban olarak mı yoksa gerçek bir standart olarak mı ele aldığı, İK uygulamalarına bağlıdır.

Geçersiz kılma yetkisi

İnsan tarafından geçersiz kılma tasarımı, genellikle kendisine atfedilenden daha incelikli ve daha önemli bir konudur. Bir insanın yapay zekâ önerisini ne zaman geçersiz kılabileceği veya kılmak zorunda olduğu sorusu, yapay zekâ araçlarının nerede başarısız olma ihtimalinin bulunduğunu, insan muhakemesinin nerede daha güvenilir olduğunu ve geçersiz kılma kararlarında hesap verebilirliğin nasıl oluşturulacağını anlamayı gerektirir; böylece bu kararlar yalnızca önyargı için yeni bir kanala dönüşmez. 

Bu, hem aracı hem de aracın çevresindeki kurumsal davranışları anlayan birini gerektirir. Yapay zekâyı kullanan ekiplerle yakın koordinasyon içinde çalışan İK, bu tasarımın sorumluluğunu üstlenmek için en uygun konumdadır.

Çalışanın başvuru yolları  

Bir kişi, yapay zekânın etkilediği bir kararın yanlış olduğuna inandığında ne olacağı, İK yönetişiminin kapsamına girer. Bunun nedeni yalnızca İK'nın şikâyet süreçlerini yönetmesi değil, aynı zamanda başvuru yollarının tasarlanmasının yapay zekâ çıktılarıyla ilgili anlaşmazlıkların nasıl soruşturulacağını, hangi kanıtların mevcut olduğunu ve hangi telafilerin mümkün olduğunu düşünmeyi gerektirmesidir. 

Hukuk asgariyi belirler. İK, kuruluşun bunu gerçekten ciddiye alıp almadığını belirler.

Teknik Uzmanlık

İK liderliğindeki yapay zekâ yönetişimi önermesine yönelik makul bir itiraz var ve bunu doğrudan ele almakta fayda var. İK, yapay zekâ sistemlerini değerlendirmek için her zaman teknik uzmanlığa sahip olmayabilir. 

Bu doğru. Ancak yönetişim yetkisi ile teknik değerlendirme farklı şeylerdir. Hukuk kod yazmaz ve finans, denetlediği mühendislik süreçlerini yürütmez.

Bir yönetişim alanının sorumluluğunu üstlenen fonksiyonun teknik işi bizzat yapması gerekmez,  standartları belirlemek, sonuçları değerlendirmek ve başkalarını sorumlu tutmak için gerekli konuma ve uzmanlığa sahip olması gerekir.

İK'nın yapay zekâ yönetişimine liderlik etmek için ihtiyaç duyduğu şey bir bilgisayar bilimi ekibi değildir. İK'nın yanıtlamakla yükümlü olduğu soruların ne olduğu konusunda netlik, bu soruları sormak için kurumsal yetki ve bunları yanıtlamak için gereken teknik kaynaklara ve verilere erişimdir. 

Şu anda çoğu büyük kuruluşta İK, bu üç unsurun da sınırlı biçimlerine sahiptir. Kurumsal yetkiyi oluşturmak genellikle en zor olanıdır; çünkü bu, CHRO'ların diğer fonksiyonların varsayılan olarak işgal ettiği bir yönetişim alanını sahiplenmesini gerektirir.

Bu sahiplenme C-suite düzeyinde gerçekleşmelidir. Tamamen hukuk ve BT bünyesinde yer alan bir yapay zekâ yönetişimi komitesi, hukuki ve teknik risk çerçeveleri oluşturacaktır. İK'yı başka birinin çerçevesine katılımcı olarak eklemek, hangi soruların önce yanıtlanacağını değiştirmez. 

Etkili ve insan odaklı yapay zekâ yönetişimi kurmuş olan ve görüştüğüm CHRO'lar bunu genellikle, dağıtım kararları alınmadan önce İK'nın hesap verebilirliğini açıkça ortaya koyarak yaptılar; zaten başka öncelikler etrafında yapılandırılmış bir sürece sonradan etki yerleştirmeye çalışarak değil.

Amazon'daki işe alım aracı başarısız oldu; çünkü onu geliştiren kuruluşta, "elenen kişilere yönelik bu sonuçlar adil mi?" sorusunun sorumluluğunu açıkça üstlenen bir fonksiyon yoktu. Hukuk, sorumlulukla ilgili sorular sordu. Mühendislik, performansla ilgili sorular sordu. Bu soruların hiçbiri gerçekte neyin yanlış gittiğini ortaya koyamadı.

Kurumsal yapay zekâ artık kimin işe alınacağı, kimin terfi edeceği, performansın nasıl değerlendirileceği ve işin nasıl izleneceği konusunda, herhangi bir yöneticinin tek başına oluşturabileceğinin çok ötesinde bir ölçekte kararlar alıyor veya kararları etkiliyor. İstihdam sistemleri için AB Yapay Zekâ Yasası'nın tam kapsamlı uygulamasının ağustosta başlamasıyla birlikte bu belirsizlik, birden fazla açıdan sorumluluk riski hâline geliyor. 

İK, kuruluşların içindeki insanları korumak için oluşturuldu. Yapay zekâ yönetişimi artık bu yükümlülüğün yerine getirilmesi gereken başlıca bağlamlardan biri. İK ya bu alanı sahiplenir ya da farklı sorular için oluşturulmuş çerçevelere bırakır.