Yapay Zekânız Duruşmaya Gelmeyecek

Ekibinizin yapay zekâ destekli olarak verdiği son işe alım kararını gözünüzde canlandırın. İşaretlenen bir aday. Listenin en altlarına yakın bir "uygunluk puanı". İşe alım uzmanınız devam etti.

Şimdi, bu adayın altı ay sonra ayrımcılık şikâyetinde bulunduğunu ve ifade sırasında tam olarak neden reddedildiğini sorduğunu düşünün. Dosyada kimin adı var? Sizin mi? İşe alım uzmanının mı? Tedarikçinin mi?

Dürüst cevabınız "algoritma işaretledi" ise bir hesap verebilirlik sorununuz var demektir ve bu sorun yapısaldır. Hiçbir tedarikçi bunu sizin için çözemez.

Son on yılımı Amazon ve Microsoft'ta iş zekâsı analisti olarak geçirdim. Ayrıca geçen yılı sekiz ticari yapay zekâ özgeçmiş tarama platformunu denetleyerek geçirdim. Yalnızca aday adı değiştirilmiş aynı özgeçmişlerle yaklaşık 4.000 deneme yaptım; hem demografik önyargı hem de temel yeterlilik açısından test ettim.

Bulduğum şey, standart "Yapay zekâ önyargılıdır" anlatısından daha rahatsız edici. En tarafsız olarak övülen bazı platformlar, bozuk bir termometrenin tarafsız olduğu şekilde tarafsız. Nitelikli bir adayla niteliksiz bir adayı anlamlı biçimde ayırt edemedikleri için istikrarlı ve demografik açıdan dengeli sonuçlar üretiyorlar. Bu, çalışmayan bir aracın üzerine yerleştirilmiş adalet görüntüsüdür.

Ben buna "Tarafsızlık İllüzyonu" diyorum ve kıdemli İK liderlerinin en çok endişelenmesi gereken dinamik bu; çünkü önyargı denetiminizin yakalayamayacağı tek şey bu.

Yapay Zekâ Şimdi Anlatı İşini Yapıyor

Burada iş gücü piyasasının bağlamı önem taşıyor; özellikle de güdüler hakkında ortaya çıkardıkları açısından. New York Fed'in Eylül 2025 tarihli bir analizi, hizmet şirketlerinin yalnızca %1'inin son altı aydaki işten çıkarmaların nedeni olarak yapay zekâyı gösterdiğini, %35'inin ise yapay zekânın çalışanları yeniden eğitmelerine yol açtığını söylediğini ortaya koydu.

Ancak ocak ayında yayımlanan ve 1.000 işe alım yöneticisini kapsayan Resume.org anketi, %59'un işe alım dondurmalarını veya işten çıkarmaları açıklarken yapay zekâyı öne çıkardığını kabul ettiğini buldu; çünkü bu, finansal kısıtları belirtmektense "paydaşlar nezdinde daha iyi karşılık buluyor".

Yapay zekâdan operasyonel işinin yanı sıra anlatı işini de yapması isteniyor. Bunu aklınızda tutun; çünkü işten çıkarma için yapay zekâyı suçlayan aynı içgüdü, kötü bir işe alım kararında da yapay zekâyı suçlayacaktır.

"Veriye dayalı" yaklaşım "Bana Veriyi Bul"a Dönüştü

Veriye dayalı liderlik vaadi netti. İçgüdüye olan bağımlılığı azaltın. Kanıtları görünür kılın. İncelenebilir bir kayıt oluşturun. Disiplin korunduğunda bu işe yarar.

Son beş yılda gerçekleştiğini gözlemlediğim şey, hak ettiğinden çok daha az ilgi gördü. Araçlar hiç değişmedi. Liderlerle araçlar arasındaki ilişki değişti. Asıl talep "veriler ne söylüyor?" olmaktan çıkıp "bunu destekleyen veriyi bana bul"a dönüştü.

Yapay zekâ bu değişimi hızlandırıyor; çünkü bir modelin çıktısına itiraz etmek, bir işe alım yöneticisinin içgüdüsel kararına itiraz etmekten daha zor. Bu yüzden bir şeyler ters gittiğinde cevap "sistem bunu ortaya çıkardı" oluyor. Sorunun tamamı bu cümlede yatıyor.

En Adil Modeller Adayları Birbirinden Ayıramıyor

ChatGPT, Gemini, Copilot ve Claude da dâhil olmak üzere sekiz platformda üç örüntü ortaya çıktı.

Önyargı hâlâ var ve daha az öngörülebilir durumda. Bazı modeller, hangi isim kullanılırsa kullanılsın, yalnızca bir aday adı eklendiği için özgeçmişleri cezalandırdı. Diğerleri bazı görevlerde belirli demografik grupları ödüllendirirken başka görevlerde cezalandırdı. Bir model, aynı özgeçmişte tek bir ırksal grubu cinsiyete göre zıt yönlerde değerlendirdi.

Önyargı, göreve ve model sürümüne göre değişiyor. Tedarikçinizin önyargı denetimi, aracın bir sonraki kadro talebinde nasıl davranacağını öngöremiyor.

En "adil" modeller genellikle en yetersiz olanlar. Modellerin ilgili bir özgeçmişi ilgisiz olandan ayırt edip edemediğini test ettiğimde bazıları bunu yapamadı. Bir model, finans anahtar kelimeleriyle doldurulmuş hizmet sektörü özgeçmişine Finans Direktörü görevi için 100 üzerinden 92 puan verdi. Anahtar kelimeler çıkarılmış aynı özgeçmiş 15 puan aldı. Model kelime dağarcığını puanlıyordu. Yeterlilik değerlendirmeye hiç dâhil edilmedi. Böyle bir araç artık hiçbir şeyi değerlendirmeyi bırakmış demektir.

Aynı tedarikçi, hangi sürümün çalıştığına bağlı olarak farklı yanıtlar veriyor. ChatGPT'nin "hızlı" sürümü tarafından değerlendirilen bir aday, aynı gün "yavaş" sürümünde aynı adaydan 15 puan daha yüksek veya daha düşük puan alabiliyor. Yöneticilerin çoğu hangi sürümü kullandığını bilmiyor ve bunun önemli olduğunun da farkında değil.

Bunlar uç örnekler değil. Şu anda yapay zekâ işe alım araçlarının çalışma koşulları bunlar.

Hesap Verebilirliği Aklamak

Daha iyi kararlar, bu araçların benimsenmesinin nedenlerinden yalnızca biri. Bu araçlar, zor kararları savunmayı da kolaylaştırıyor. İşten çıkarmalar. Performans değerlendirmeleri. İşe alım retleri. Ücretlendirme kararları. Model çıktısı dosyada yer aldığında, onay veren kişi daha önce sahip olmadığı makul bir inkâr edilebilirlik elde ediyor.

2025 tarihli bir ResumeBuilder araştırması bunu somutlaştırıyor. Personel kararlarında yapay zekâ kullanan yöneticilerin %64'ü, işten çıkarmaları belirlemeye yardımcı olması için yapay zekâdan yararlanıyor ve beşte birden fazlası, çoğu zaman insan katkısı olmadan son kararı yapay zekânın vermesine izin verdiğini kabul ediyor.

Davranış araştırmaları bu durumu daha da çarpıcı biçimde ortaya koyuyor. Köbis ve çalışma arkadaşlarının 2025 tarihli Nature araştırması, modele bağlı olarak yapay zekâ aracılarının tamamen etik dışı talimatlara %58 ila %98 oranında uyduğunu; aynı talimatları alan insanların ise %25 ila %40 oranında uyduğunu ortaya koydu.

Makineler, etik açıdan sakıncalı emirlere insanların kıyaslanamayacak ölçüde daha istekli biçimde uyar; onları hesap verebilirlik altyapısı olarak kullanışlı kılan özellik de tam olarak budur.

Araştırma literatürünün bunun insan tarafı için bir adı var. Madeleine Clare Elish bunu, insanların otomatik bir sistemin sonuçlarıyla doğrudan karşılaştıkları noktada, dağınık tasarım ve yönetişim kararlarından kaynaklanan başarısızlıkların suçunu üstlendikleri "ahlaki buruşma bölgesi" olarak adlandırdı. Hâlâ takdir yetkileri olduğu hâlde çalışanlar, "biz neye karar verdik" yerine "sistem neye karar verdi" demeye başlıyor.

Bu dinamiğin tamamı için en uygun ad, hesap verebilirliğin aklanmasıdır. Model, eskiden savunulabilir bir insan muhakemesi gerektiren bir kararı alıp kimsenin savunmak zorunda olmadığı bir çıktıya dönüştürüyor. Karar yanlış olduğunda başarısızlık herkesin ve hiç kimsenin oluyor; kuruluşunuz da kendi hatalarından ders çıkarma yeteneğini kaybediyor.

Yönetişim; Yoksa Ürün Gönderilemez

Liderlerin yapay zekâ tedarikini bir BT kararı değil, bir yönetişim kararı olarak ele almasının zamanı geldi.

Yapay zekâ destekli her karara bir isim verin. Bir yapay zekâ avukatının kısa süre önce CIO'ya söylediği gibi, algoritma mahkemeye çıkmayacak. Onu geliştiren, uygulamaya alan veya kullanan insanlar çıkacak. Herhangi bir yapay zekâ aracı işe alıma, performans değerlendirmelerine, ücretlendirmeye veya işten çıkarmalara dokunmadan önce şu soruya yanıt verilmesini zorunlu kılın: bu çıktının yanlış olduğu ortaya çıktığında dosyada kimin adı olacak? Tedarikçinin değil. Modelin değil. Kararı bir düzenleyici kuruma veya davacı avukatına karşı savunabilecek kadar kıdemli bir kişinin.

Açıklanabilirliği, kararın önemine göre ölçeklendirin. Eğitim içeriği öneren bir model kara kutu olabilir. İşten çıkarmaya katkıda bulunan bir model olamaz. Kuruluşların çoğu açıklanabilirlik standardını tedarik aşamasında bir kez belirler. Disiplinli olanlar ise standardı her kullanım senaryosu için yeniden belirler ve daha yüksek standardı karşılayamayan tedarikçilerden vazgeçer.

Kendi ikili doğrulama denetimlerinizi gerçekleştirin. Tedarikçi yanlılığı denetimleri gerekli olmakla birlikte yetersizdir. Yetkinliği de test edin. Araç, işe aldığınız pozisyonlarda nitelikli adayları niteliksiz olanlardan gerçekten ayırt edebiliyor mu? Birkaç uyumsuz özgeçmiş. Anahtar kelimelerle doldurulmuş birkaç özgeçmiş. Puanları karşılaştırın. Model aradaki farkı anlayamıyorsa, ne kadar tarafsız göründüğüne bakılmaksızın size yardımcı olamaz.

İK, yapay zekâ tedarikçilerinin en çok ilgi gösterdiği ve bu araçlardan biri savunulamaz bir çıktı ürettiğinde sorumluluğu üstlenen işlevdir. Tedariki bir tedarikçi meselesi olarak görme eğilimi güçlü olacaktır. Buna direnin.

Bir iş hukuku avukatının, algoritmalar işten çıkarma listelerini şekillendirmeye ilk başladığında The Washington Post'a söylediği gibi: "Suçu yazılıma atmaya çalışmayın."

Kusurlu, yapay zekâ destekli bir karara verdiğiniz yanıt "bunu sistem yaptı" ise sisteminiz riskiniz hâline gelmiştir. Kuruluşunuzun bir yerinde, bu araçların dokunduğu her kararın sorumluluğunu üstlenmesi gereken bir kişi var. Bir ifade alma süreci bunu ortaya çıkarmadan önce o kişinin kim olduğunu bulun.