Çalışanlarınızın Muhakemesinde Yaşananların Bir Adı Var

Yapay zekâ araçları kuruluşlar genelinde yayılırken çalışanların başına bazı şeyler geliyor ve bir noktada şu soru ortaya çıkıyor: Liderlik ekibiniz yaşananları ifade edecek bir dile sahip mi?

Endişelenmeyin. Geçen ay MIT Sloan Management Review ve Boston Consulting Group tarafından yayımlanan bir rapor bu dile sahip.

“Modelin Ötesinde: Sorumlu Yapay Zekâ İş Gücü Üzerindeki Etkiyi Neden Ele Almalı?” başlıklı makale, iki kurumun küresel yönetici anketleri ve seçilmiş uzman panelleri temelinde hazırladığı beşinci yıllık sorumlu yapay zekâ araştırmasıdır.

Önceki yıllarda araştırma; yönetişim olgunluğuna, üçüncü taraf riskine ve hesap verebilirlik yapılarına odaklanıyordu. Bu yıl araştırmacılar daha acil bir konuya yöneldi: Kurumsal yapay zekâ kullanıma sunulduğunda, onu kullanan insanlar üzerinde ne gibi etkiler yaratıyor?

Beş etki belirlediler.

• Aşırı güven
• Becerilerin körelmesi
• Güç kaybı
• İşin yoğunlaşması
• “Yapay zekâ beyin yanması.”

Elizabeth Renieris, David Kiron, Steven Mills ve Anne Kleppe tarafından ortaya konan argüman son derece açık: Bunlar varsayımsal riskler veya istisnai durumlar değil. Bir kuruluş belirli bir yapay zekâ aracını kullanmaya karar vermeden önce, herhangi bir aracı kullanıp kullanmamaya ilişkin kararların temel unsurları olması gereken ölçülebilir iş gücü sonuçlarıdır.

Bu ürün değerlendirme dili kasıtlı olarak kullanılıyor. Yazarlar, iş gücü üzerindeki etkinin teknik performans, mevzuata uygunluk ve toplam maliyetle aynı analiz kapsamında değerlendirilmesi gerektiğini ve şu anda bunun yapılmadığını söylüyor.

Araştırma Ne Gösteriyor?

Beş etkinin en kesin biçimde ölçüleni, “yapay zekâ beyin yanması” olarak adlandırdıkları durumdur. Bu terim, BCG ve University of California, Riverside tarafından yürütülen ve Harvard Business Review'da yayımlanan bir araştırma aracılığıyla mart ayında araştırma literatürüne girdi.

Araştırmacılar bunu, yapay zekâ araçlarının bir çalışanın bilişsel kapasitesini aşacak ölçüde aşırı kullanımından, bu araçlarla etkileşimden veya bunların gözetiminden kaynaklanan zihinsel yorgunluk olarak tanımladı.

Bu araştırmanın sonuçlarına göre yapay zekâ kullanan çalışanların %14'ü bu durumu yaşadığını bildirdi.

Beyin yanması yaşayan çalışanlar, yaşamayanlara kıyasla %39 daha fazla ciddi hata yaptı. Çalışanlar aynı anda üçten fazla yapay zekâ aracını kullandığında verimlilik düşmeye başladı. Yapay zekâyla etkileşimin bilişsel açıdan en fazla yük oluşturan biçimi, istemlerin karmaşıklığı veya çıktıların hacmi değil, gözetimdi. Yapay zekâ sistemlerini izleyen çalışanlar, izlemeyenlere kıyasla %12 daha fazla zihinsel yorgunluk ve %19 daha fazla bilgi yüklemesi bildirdi.

En çok etkilenen gruplar pazarlama, yazılım geliştirme, insan kaynakları, finans ve BT alanlarında çalışanlardı. Bunlar tali işlevler değil.

Araştırmacıların ortaya koyduğu paradoks, iş gücü planlaması hakkında düşünen herhangi bir COO veya CHRO için önem taşıyor. Beyin yanması riski en yüksek çalışanlar genellikle yapay zekâyı ilk benimseyen, bu teknoloji konusunda en hevesli kişilerdir.

Daha fazla araç kullanıyor, daha fazla çıktıyı denetliyor ve bu süreçte daha fazla bilişsel yük üstleniyorlar. Yüklerini azaltmak için tasarlanan teknoloji, uygulamada bu yükü artırıyor.

ButcherBox Operasyon Direktörü Eliza Jackson, bu olguyu içeriden deneyimleyen biri olarak anlattı.

Kuruluşunun daha fazla düşünmeye ve değerlendirmeye zaman ayırmaya aktif olarak çalıştığını, ancak bunun nasıl yapılacağını hâlâ belirlemeye çalıştıklarını da ekledi.

Becerilerin körelmesi daha yavaş bir zaman çizelgesinde gerçekleşiyor. Geçen yıl CHI Konferansı'nda sunulan ve 319 bilgi çalışanından alınan gerçek dünyaya ilişkin 936 örneğe dayanan bir Microsoft Research ve Carnegie Mellon University araştırması, yapay zekâ araçlarına duyulan daha yüksek güvenin sürekli olarak daha az eleştirel düşünmeyle ilişkili olduğunu ortaya koydu.

Çalışanlar analiz yapmaktan kaçınmıyordu. Çıktıya güveniyor ve yollarına devam ediyorlardı. Araştırma ayrıca yapay zekâ kullanımının eleştirel düşünmenin niteliğini değiştirdiğini; analiz üretmekten onu doğrulamaya kaydırdığını ortaya koydu. Bu bir uyum süreci gibi görünebilir, ancak aslında kapsamın daralmasıdır. Yapay zekâ hatalı olduğunda soru, çalışanların bunu fark edebilecek kadar bağımsız muhakeme yetisine hâlâ sahip olup olmadıklarıdır.

Bu dinamiğin klinik versiyonu uygulamada zaten belgelenmiştir. Teorik sinirbilimci ve yapay zekâ araştırmacısı Vivienne Ming, gastroenterologların yapay zekâ destekli kolonoskopi sistemlerini kullandığı bir çalışmaya dikkat çekiyor. Bu sistemler kapatıldığında doktorların performansı, yapay zekâyı kullanmaya başlamadan önceki düzeylerine kıyasla ölçülebilir biçimde daha kötüydü.

Risk yalnızca mevcut performansla ilgili değil; asıl risk, araç işi yaparken arka planda aşınan yetkinliktir.

Her ikisinin altında yatan örüntü, aşırı güvenmedir. Çalışanlar, araç güvenilmez olduğunda veya yetkinlik alanı dışında çalıştığında bile yapay zekâ çıktılarına bel bağladığında, bireysel hatalar birikir. Aynı çıktıları izleyerek aynı kararlara yönelen bir iş gücü genelinde ise bu hatalar ölçeklenir.

Bireysel düzeyde bu bir performans sorunudur. Aynı araçları kullanarak aynı çıktılara ulaşmaya çalışan bir iş gücü genelinde ise sistemik bir sorundur.

Yönetişim Sorunu

MIT Sloan raporu, CHRO'ların ve COO'ların yapay zekâ kararlarındaki konumlanışı açısından yapısal sonuçlar doğuran bir öneride bulunuyor. İş gücü üzerindeki etkiler, yapay zekâ kullanımına ilişkin iş gerekçesinin bir parçası olarak değerlendirilmeli, uygulama planlarına dâhil edilmeli ve tedarikten önce ele alınmalıdır. Kararların çoğu şu anda böyle alınmıyor.

Araştırmacılar bunu bir öneri değil, bir yükümlülük olarak çerçeveliyor. Kuruluşlar, yapay zekânın görevlerini nasıl yeniden şekillendireceği veya ortadan kaldıracağı, geçiş desteğinin nasıl görüneceği ve bu kararların nasıl alındığı konusunda çalışanlarla açıkça iletişim kurmalıdır. Bunun bir nezaket gereği olarak değil, temel bir yönetişim sorumluluğu olarak yapılması gerektiğini belirtiyorlar.

Bunun yarattığı hesap verebilirlik açığı gerçektir. CHRO'lar genellikle çalışanlarla ilgili sonuçların sorumluluğunu taşır, ancak yapay zekâ araçları seçilirken karar masasında nadiren yer alırlar. Teknoloji liderleri teknoloji yığınından sorumludur, ancak bu yığını kullanan iş gücünde sonradan ortaya çıkan beceri erozyonundan sorumlu değildir.

Operasyon liderleri performansı takip eder, ancak performans düşüşünden önce gelen yetkinlik kaybını izlemek için çoğu zaman bir çerçeveden yoksundur.

MIT Sloan'ın tanımladığı terimler, tam da sahipliği atayacak kadar özgül ve ölçülebilecek kadar ayrıntılı oldukları için kullanışlıdır.

Aşırı güvenme, güçsüzleştirmeyle aynı risk değildir. Her biri, uygulama aşamasında farklı yönetişim soruları ve kuruluş içinde farklı bir sorumlu gerektirir.

Çoğu şirket için bu sorumluların hiçbiri henüz mevcut değildir.

Araştırma bir organizasyon şeması önermiyor. Yaptığı şey, beş yıllık sorumlu yapay zekâ verisinin ağırlığını arkasına alarak açıkça bu boşluğun adını koymaktır.

Devam/etmeme kararları, bu soruların gündeme gelmesi gereken noktadır. Sözleşme imzalanmadan, uygulama başlamadan ve ilk eğitim oturumu düzenlenmeden önce kuruluşta birilerinin bu aracın onu kullanan kişilerin muhakemesi üzerindeki etkisini sorgulaması ve yapay zekâ kullanımının bir performans ölçütüne dönüşmesini engellemesi gerekir.

Şu anda çoğu kuruluşta bu kişinin kim olduğu konusunda bir yanıt yok.