Performans Geri Bildirimi Paradoksu: Yapay Zekâ Gizliyken Daha İyi Çalıştığında

En iyi performans geri bildirim sistemleri, bir bakımdan sihirbazlık numarası gibi çalışır: numaranın nasıl yapıldığını bilmediğinizde en etkili hâllerindedir.

Strategic Management Journal'da yayımlanan 2021 tarihli bir araştırma, yapay zekâ tarafından oluşturulan geri bildirimin çalışan performansını insan yöneticilerin geri bildiriminden daha fazla geliştirdiğini ortaya koydu. Peki sorun ne? Bu yalnızca çalışanlar geri bildirimi bir insanın yazdığını düşündüğünde işe yaradı. Yöntemi açıkladığınız anda sihir ortadan kayboluyor.

Geri bildirim daha tutarlı, daha kişiselleştirilmiş ve performansı geliştirmede nesnel olarak daha etkiliydi; ancak çalışanlar performanslarına ilişkin içgörüleri algoritmaların oluşturduğunu öğrendiğinde kazanımlar ortadan kalktı.

İnsan bir yöneticiye atfedildiğinde sonuçları iyileştiren aynı geri bildirim, çalışanlar gerçek kaynağını bildiğinde direnç, daha düşük bağlılık ve daha kötü performansa yol açtı. Araştırmacılar bunu, yalnızca yapay zekânın işin içinde olduğunu bilmenin neden olduğu ölçülebilir performans düşüşü olan "açıklama etkisi" olarak adlandırdı.

Yapay zekânın performans yönetiminde kullanımı günümüzde giderek yaygınlaşıyor; tıpkı ChatGPT, Claude ve Gemini gibi yapay zekâ araçlarının kullanımının yaygınlaşmasıyla yapay zekânın yaşamın diğer alanlarına entegre edilmesinin de yaygınlaşması gibi. Ancak kullanımın artmış olması, güvenin de aynı ölçüde arttığı anlamına gelmiyor.

Yapay zekâ kullanımını hayata geçiren İK liderleri için araştırmacıların 2021'de ortaya çıkardığı paradoks, imkânsız bir durum yaratıyor. Yapay zekâ geri bildirim sistemlerini şeffaf bir şekilde uygulayın ve performans kazanımlarından vazgeçin. Yapay zekânın dahil olduğunu gizleyin ve gerçek kaçınılmaz olarak ortaya çıktığında güvenin feci şekilde zedelenmesi riskini alın.

Bu karar, kuruluşların neyi optimize ettiğiyle ilgili temel bir gerçeği ortaya koyuyor. Önemli olan bu çeyreğin rakamları mı, yoksa uzun vadeli dönüşüm kapasitesi mi?

Güven Krizi Bağlamı

Açıklama etkisi boşlukta ortaya çıkmıyor. SHL tarafından gerçekleştirilen yakın tarihli bir araştırma, çalışanların yalnızca %27'sinin işverenlerine İK kararlarında yapay zekâyı sorumlu bir şekilde kullanacakları konusunda tamamen güvendiğini gösteriyor. Daha da endişe verici olanı, %59'u yapay zekânın iş yerindeki önyargıyı azaltmak yerine daha da kötüleştirdiğine inanıyor.

Bu durum paradoksu daha da belirgin hâle getiriyor. Daha iyi ve daha az önyargılı geri bildirim sağlayabilecek teknoloji, bu geri bildirimi alacak çalışanların çoğunluğu tarafından güvenilmez bulunuyor. Araştırma ayrıca güvensizliklerinin kendi kendini gerçekleştirdiğini gösteriyor. Geri bildirimin kendisi nesnel olarak daha üstün olsa bile, yapay zekânın işin içinde olduğunu bilmek çalışanların daha kötü performans göstermesine neden oluyor.

Fortune 500 şirketlerinin %75'inden fazlasıyla çalışan Hogan Assessments'ın Baş Bilim Sorumlusu Dr. Ryne Sherman, çalışan direncini yönlendiren iki güç olduğunu düşünüyor.

İkinci faktör daha derine iniyor. Mesele yapay zekânın performansı doğru bir şekilde değerlendirip değerlendiremeyeceği değil; yapay zekâ kullanma tercihinin bir kuruluşun çalışanlarına bakışı hakkında ne ifade ettiği.

Sherman şöyle diyor: "İnsan katkısının olmaması, çalışanlara empati veya insan olarak refahlarına yönelik bir ilgi gösterilmeksizin, yalnızca kelimenin tam anlamıyla insan kaynağı olarak işlendikleri hissini veriyor. Araştırmamız, en etkili liderlerin çalışanlarına karşı samimi bir ilgi gösterdiğini ortaya koyuyor. Performans değerlendirmelerini gerçekleştirmek için yapay zekâ kullanılması, kuruluşun liderlerinin çalışanlarını gerçekten önemsemediğini düşündürüyor."

Bu varsayımların doğru olup olmadığı, var oldukları gerçeğinden daha az önem taşıyor. Çalışanların algısı davranışlarını, davranışları da performansı şekillendiriyor.

Aldatma Neden İşe Yaramaz?

Yapay zekânın performans avantajlarından yararlanırken açıklama etkisinden kaçınmayı uman kuruluşlar, çalışanların zaten bilgi sahibi olması gibi pratik bir sorunla karşı karşıya.

Edie Goldberg, endüstri ve örgüt psikoloğu ve yakında yayımlanacak Performansı Güçlendirme kitabının yazarı olarak, yapay zekâ tarafından oluşturulan geri bildirimi ele veren işaretlere dikkat çekiyor.

Yapay zekâ tarafından oluşturulan metinlerin üslup kalıpları, yapay zekânın kullanımını gizlemeye çalışmanın boşuna olabileceği kadar tanınabilir hâle geldi. Kuruluşlar yapay zekâ kullanımını açıkça belirtmese bile çalışanlar algoritmik izleri fark ediyor.

Bu durum, her şeyi gizleme stratejisinin tamamını zayıflatıyor. Çalışanlar yapay zekânın kullanıldığından şüpheleniyor ancak kendilerine doğrudan söylenmiyorsa kuruluşlar her iki dünyanın da en kötü tarafını yaşıyor: algılanan yapay zekâ kullanımının neden olduğu performans düşüşü ve aldatma girişiminin yol açtığı güven ihlali.

Goldberg'in önerdiği yaklaşım bu paradoksu tamamen ortadan kaldırıyor.

Taslak oluşturun, gözden geçirin, yeniden düzenleyin

“Yöneticilerin ilk taslağı oluşturmak için yapay zekâyı kullanmasını, ancak ardından metni gözden geçirip yeniden düzenleyerek daha fazla ayrıntı eklemesini öneriyorum,” diye açıklıyor. Bu, yapay zekâyı yöneticilerin yerine geçen gizli bir araç olarak değil, onlara yardımcı olan görünür bir araç olarak konumlandırıyor.”

Bu ayrım önemlidir. Yapay zekâ; akranlar, müşteriler ve kurum içi iletişim platformları gibi birden fazla perspektiften gelen geri bildirimleri bir araya getirebilir ve bunları kurum içi sistemlerden elde edilen somut verilerle birleştirebilir.

Goldberg, performans değerlendirmelerinde yönetici önyargısına ilişkin kapsamlı araştırmalara atıfta bulunarak, "Tüm bu faktörler geri bildirimi doğası gereği daha adil hâle getiriyor çünkü geri bildirim yalnızca bir kişinin bakış açısına dayanmıyor," diyor.

Ancak adillik avantajı yalnızca çalışanlar sürece güvenirse ortaya çıkar. Goldberg bunu şeffaflık sorunundan ziyade iş bölümüne ilişkin bir sorun olarak ele alıyor. Yapay zekâyı, başarılı olduğu veri birleştirme ve örüntü tespiti işlerinde kullanın. Çalışanların geri bildirimin samimi olduğuna inanması için gereken bağlam, özgüllük ve ilişki boyutlarının sorumluluğunu insanlarda bırakın.

Sonuç olarak çözüm, yapay zekânın rolünü gizlemek değil, onu yeniden tanımlamaktır.

Önce Şeffaflık Yaklaşımı

Performans yönetimi platformu Opre'nin CEO'su Kate O'Neil, tüm ürününü yapay zekâyı gizleme yaklaşımını reddetme üzerine kurdu. Opre kullanıcılarının aldığı tüm geri bildirimler açıkça yapay zekâ tarafından oluşturulmuş olarak belirtiliyor ve ne yöneticiler ne de çalışanlar geri bildirimi insan tarafından yazılmış gibi gösterecek şekilde değiştirebiliyor.

Opre'nin tasarım felsefesi, O'Neil'in "yönetici ve çalışan karşı Opre" olarak adlandırdığı dinamik üzerine kuruludur. Sistem, performans içgörülerini her iki tarafa aynı anda göndererek yukarıdan aşağıya bir yargı yerine, görüşme için ortak bir referans noktası oluşturur.

Bir sonraki bire bir görüşmelerinde yönetici ve çalışan, Opre'nin neyi doğru yaptığını, neyi gözden kaçırdığını ve bağlam konusunda neyi yanlış anlamış olabileceğini tartışır.

O'Neil, "Bu, özellikle performans düşük olduğunda veya performans görüşmelerinden kaçınıldığında, bugün sıklıkla gördüğümüz çok daha verimsiz olan yönetici karşı çalışan dinamiğinin yerini alıyor," diye açıklıyor.

Ancak O'Neil, karşılaştırma verisine sahip olmadığını kabul ediyor. "Çalışanların bunun yapay zekâ tarafından oluşturulduğunu bilmesinin herhangi bir etkisi olup olmadığını bilmiyorum çünkü bunu, yapay zekâ tarafından oluşturulduğunu bilmeyen çalışanlardan oluşan bir grupla karşılaştıracak veriye sahip değilim."

Şeffaflığa öncelik vererek performans kazanımlarından vazgeçip geçmediği sorulduğunda O'Neil tereddüt etmiyor.

Bunun yapay zekâ tarafından oluşturulduğunu bilmenin etkililiği yok ettiğini düşünmüyorum. Geri bildirimin samimi olmadığı hâlde samimi olduğu yanılsamasının, yöneticiler ile ekipleri arasındaki güveni ve sosyal sözleşmeleri yok ettiğini düşünüyorum. Güvenin yok olması performansı da yok eder.

Önyargı sorusunu daha da ileri götürüyor. Yapay zekâ tarafından oluşturulan geri bildirim kısa vadede nesnel olarak önyargıyı azaltsa bile, kaynağının gizlenmesi zaman içinde nihayetinde önyargıyı artıran bir güven sorununa yol açıyor.

O'Neil şöyle açıklıyor: "Yapay zekâ tarafından oluşturulan içerik gerçekten önyargıyı azaltıyorsa, ancak çalışanlar bunun önyargıyı artırdığına inanıyorsa, uzun vadeli etkisi güvenin zedelenmesi olacaktır. Yöneticilerin yapay zekâ tarafından oluşturulan geri bildirimi kendilerininmiş gibi sunması, aralarındaki ve ekipleriyle olan güveni zedeler; bu da daha sonra önyargının artmasına yol açar."

Opre'nin sistemi bu nedenle yöneticilerin yapay zekâ tarafından oluşturulan içgörüleri düzenlemesini veya yumuşatmasını engelliyor. Hem yönetici hem de çalışan aynı geri bildirimi eş zamanlı olarak alıyor ve böylece aldatma olasılığı ortadan kalkıyor. Yöneticiler ve çalışanlar bağlam ekleyebilir veya sistemden açıklama isteyebilir, ancak sistemin ürettiği şeyi değiştiremezler.

Onun yaklaşımı aynı zamanda zaman ufuklarına ilişkin bir hesaplamaya dayanıyor. Kuruluşlar kısa vadeli performans ölçütleri için optimizasyon yapabilir ya da yıllar içinde dönüşme kapasitesini geliştirmeye odaklanabilir. Ona göre yapay zekânın kullanıma alınması söz konusu olduğunda bu iki hedef birbiriyle bağdaşmıyor.

"Şeffaf olmamak bir performans stratejisi değildir," diyor. "Bu, kısa vadeli bir sömürü stratejisidir. Çalışanlar kuralları çözmeye çalışırken kısa süreli bir çaba artışı elde edebilirsiniz. Ancak kısa süre sonra en iyi çalışanlarınızı kaybeder, geri kalanları tüketir ve yeni yetenekleri çekme becerinize zarar verirsiniz."

Güven Sarsıldığında

Hem Goldberg hem de Sherman, yapay zekâ kullanımıyla ilgili aldatmacanın kısa vadeli performans kazanımlarını fazlasıyla aşan sonuçlar doğuracağı konusunda uyarıyor.

Goldberg, "Güveni sarsmak kolay, yeniden inşa etmek ise çok zordur," diyor. "Burada hiçbir fayda yok, yalnızca risk var."

Bu uyarı yalnızca etik bir gösteriş değil. Hem Goldberg hem de Sherman, bozulan güvenin sonuçlarının birden fazla kuruluşta nasıl ortaya çıktığını gördükleri ortamlarda çalışıyor. Aldatmacanın başarısız olduğuna dair kesinlikleri felsefeden ziyade örüntü tanımaya dayanıyor.

"Kuruluşların aldatıcı performans değerlendirmesi uygulamalarına başvurması felaketle sonuçlanır," diye uyarıyor Sherman. "İlk olarak, büyüklüğü ne olursa olsun hiçbir kuruluşta aldatmacanın gün yüzüne çıkmayacağına dair en ufak bir umut bile yoktur. Tüm kuruluşlarda bilgi sızıntıları yaşanır ve bu tür bilgiler kesinlikle dışarı sızar.

Sherman'ın değerlendirmesine göre sonrasında yaşanacaklar ağır olur.

"Bu bilgi bir kez duyulduğunda, kuruluşa duyulan güven dibe vurur," diyor. "Çalışanlar protesto eder, istifa eder ve belki de daha kötüsü, tamamen bağlılıklarını kaybederler."

Böyle bir senaryoya yakalanan kuruluşlar için önerisi, hiçbir şeyi esirgemiyor. Çalışanlar hesap verilmesini talep edecektir; bu da muhtemelen aldatmacaya dahil olan üst düzey yöneticilerin görevden alınması anlamına gelir.

"O zaman bile," diyor, "kuruluşun güveni yeniden kazanmaya başlayabilmek için tüm performans değerlendirme sürecini radikal şeffaflığa dayalı bir sürece dönüştürmeyi ciddi biçimde değerlendirmesi gerekecek."

Goldberg'in kendilerini bu konumda bulan kuruluşlara tavsiyesi daha basit, ancak aynı sonuca ulaşıyor.

Şeffaflık Kazanır

“Dürüst olun. Açıkça konuşun ve bunun neden yapıldığını açıklayın. Günümüzdeki en iyi uygulama, herhangi bir İK sürecinde yapay zekâyı nasıl kullandığınızı açıklamaktır.”

Seçim Ne Ortaya Çıkarıyor?

Performans yönetiminde yapay zekânın dahil olup olmayacağını açıklama kararı nadiren performans ve güven arasında bir seçim olarak çerçevelenir. Daha çok teknik bir uygulama sorunu veya bir değişim yönetimi sorunu olarak sunulur. Ancak araştırmalar bunun aslında kuruluşun değerleri için bir turnusol testi olduğunu gösteriyor.

Kısa vadeli performans ölçütleri için optimizasyon yapan şirketlerin yapay zekâ kullanımını gizlemek konusunda açık bir teşviki vardır. Kullanıma alma etkisi gerçek ve ölçülebilirdir.

Uzun vadeli dönüşüm için yapılanan şirketler, bu durum kısa vadeli performansın daha düşük kabul edilmesi anlamına gelse bile güven ihlalini göze alamaz.

Uygulayıcıların nadiren doğrudan ele aldığı rahatsız edici bir sınıfsal boyut da var. Yapay zekâ kullanımının kısmen açıklandığı kuruluşlarda kim bilgi sahibi oluyor? Yöneticiler şeffaf yapay zekâ sistemleri kullanırken ön saflardaki çalışanlar gizli yapay zekâ geri bildirimleri mi alıyor? Yönetim ile çalışanlar arasındaki güven açığı zaten geniş. Seçici açıklama bu açığı tamamen uçuruma dönüştürebilir.

Sherman'ın kaçınılmaz keşifle ilgili görüşü vurgulanmayı hak ediyor. Çalışanların kurum içi iletişimlerin ekran görüntülerini aldığı, şirket değerlendirme sitelerinde anonim olarak paylaşım yaptığı ve özel Slack kanalları aracılığıyla örgütlendiği bir çağda, performans değerlendirmelerinde yapay zekânın rolünün gizli kalabileceği fikri inandırıcı değil.

Goldberg'in, çalışanların yapay zekâ tarafından oluşturulan metinleri kalıplarından zaten tanıyabildiği yönündeki gözlemini de ekleyince, gizleme yaklaşımı bir stratejiden çok erteleme taktiği gibi görünüyor.

Soru, çalışanların bunu öğrenip öğrenmeyeceği değil, öğrendiklerinde ne olacağı haline geliyor.

Farklı Bir Uygulama

Goldberg, yapay zekânın performans yönetimindeki asıl vaadini tamamen farklı bir yönde görüyor: yıllık veya üç aylık değerlendirmeler yerine gerçek zamanlı geri bildirim.

Yapay zekâ sistemleri, en faydalı olduğu anda, anlık olarak çok sayıda geri bildirim sağlanmasına yardımcı olabilir," diye açıklıyor. "Ancak yapay zekâ, bireysel performansın daha dengeli ve daha az önyargılı bir tablosunu sunmak için tüm bu geri bildirim noktalarını bir performans dönemi boyunca bir araya getirebilir. Performans yönetiminde yapay zekânın gücü, değerlendirmeyi basitçe yazmak değil, budur.

Bu durum, açıklama meselesini yeniden çerçevelendiriyor. Yapay zekâ belirli eylemler hakkında anında ve bağlama dayalı geri bildirim sağlıyorsa — proje zaman çizelgeleri aksadığında bunu işaret ediyor, iş birliği kalıpları değiştiğinde bunu belirtiyor, iletişim sıklığı azaldığında bunu vurguluyorsa — kaynağın önemi zamanlamaya kıyasla azalır. Çalışanlar, eylemleri ile geri bildirim arasındaki doğrudan bağlantıyı görebilir; bu da sistemin doğruluğuna olan güveni zedelemek yerine güçlendirir.

Yapay zekâ tarafından yazılan yıllık performans değerlendirmesi, ilişkinin ve otoritenin önem taşıdığı bir bağlamda insan yargısını taklit etmeye çalıştığı için hâlâ açıklama etkisini tetikler.

Yapay zekâdan gelen gerçek zamanlı geri bildirim ise farklı bir düzlemde işler. İnsan bilgeliği taklidi yapmaz; insanların geniş ölçekte sunmakta zorlanacağı, veriye dayalı gözlemler sağlar.

Bu yaklaşımın, açıklamanın yarattığı performans düşüşünü önleyip önlemediği, bulabildiğim kadarıyla henüz geniş ölçekte test edilmiş değil ve yapay zekânın nasıl çalıştığına ilişkin aşinalık arttıkça bu konudaki algılar da değişiyor olabilir. Ancak bu durum, yapay zekânın hangi uygulaması hakkında hangi sorunun sorulması gerektiği konusunda gizlemek mi yoksa açıklamak mı tartışmasının yanlış soruya odaklanıyor olabileceğini gösteriyor.

Çözülmemiş Soru

Bugün yapay zekânın kullanıma sunulmasıyla ilgili kararlar alan liderler için araştırma, rahat bir seçenek sunmuyor.

Şeffaflığı savunan O'Neil, Goldberg ve Sherman, yapay zekânın sürece dâhil olduğunu gizlemenin, bu durum ortaya çıktığında bir güven felaketini garanti ettiğini ve çalışanların zaten yapay zekâ tarafından üretilen metinleri tespit edebildiğini savunuyor. Kısa vadede performansa mal olsa bile dürüstlük yoluyla yapay zekâya hazır kültürler oluşturmak daha iyi.

Karşı argümanı göz ardı etmek göründüğünden daha zor. Yapay zekâ geri bildirimi nesnel olarak önyargıyı azaltıyor, daha tutarlı değerlendirmeler sunuyor ve sonuçları iyileştiriyorsa, şeffaflık esas olarak İK liderlerinin kendilerini etik hissetmelerine hizmet eden pahalı bir lüks mü?

Her iki taraf da şeffaf yapay zekâ geri bildiriminin kullanıma sunulmasından üç yıl sonra neler olduğunu gösteren uzun vadeli verilere işaret edemiyor. Teknoloji çok hızlı gelişti ve kullanıma sunulan uygulamalar çok yeni. Ancak bu seçim, liderlerin iş gücü hakkında neye inandığını ve sonuç almak için nelerden vazgeçmeye istekli olduklarını ortaya koyuyor.

Gizliliği seçen kuruluşlar, performans kazanımlarının sonunda yaşanacak güven krizine değeceği yönünde bir bahis oynadı. Şeffaflığı seçenler ise yapay zekâya hazır kültürler oluşturmanın, kısa vadede performansa mal olsa bile yapay zekânın rolü hakkında dürüst olmayı gerektirdiği yönünde bir bahis oynuyor.

Araştırma, açıklamanın hemen sonrasında neler olduğunu gösteriyor. Henüz aynı kesinlikle yanıtlayamadığımız şey ise hangi yaklaşımın zaman içinde daha dirençli ve daha yüksek performans gösteren kuruluşlar oluşturduğudur.

Şimdilik bu, felsefe, risk toleransı ve liderlerin ne tür bir kuruluş inşa etmeye çalıştığı meselesi olmaya devam ediyor.