Key Takeaways
Farkındalık Açığı: Çalışanların çoğu, iş yerlerinde çalışan yapay zekâ aracılarından habersizdir; bu da güvensizliğe ve kafa karışıklığına yol açar.
Şeffaflığın Önemi: Yönetişim çerçeveleri insan gözetimini varsayar; ancak çalışanların farkındalık eksikliği hesap verebilirlikte aksama riskini artırır.
Güvenin Aşınması: Çalışanların %62'si yapay zekâ aracılarının güvenilirliği konusunda endişelerini dile getirdiğinden, birçok çalışan yapay zekâ sistemlerinin güvenilir olmadığını düşünüyor.
Çalışanların Katılımı: Açıklama kritik önem taşır; çalışanların sistemleri etkili biçimde denetleyebilmesi ve bu sistemlerle etkileşim kurabilmesi için yapay zekânın rolünü anlamaları gerekir.
Eğitim Eksikliği: Kuruluşların yalnızca %38'i yapay zekâ araçları hakkında eğitim veriyor; bu durum çalışanların gereksiz hâle geldikleri yönündeki duygularını güçlendiriyor.
Çoğu çalışan, neyle birlikte çalıştığını bilmiyor.
Ajan tabanlı yapay zekâ, pilot aşamasını çoktan geride bıraktı ve artık müşteri hizmetleri taleplerini yönlendiriyor, performans aykırılıklarını işaretliyor, görüşmeleri planlıyor ve herhangi biri oturumunu kapatmadan önce toplantıları özetliyor.
Giderek daha fazla kuruluşta, neler olup bittiği kendilerine söylenmemiş çalışanlar adına yanıt taslakları hazırlıyor ve düşük riskli kararlar alıyor.
Dağıtım, bilgilendirmenin önüne geçti. Nisan ayında yayımlanan Cloud Security Alliance araştırmasına göre, kuruluşların %82'si son bir yıl içinde BT ortamlarında daha önce bilinmeyen yapay zekâ ajanlarının çalıştığını keşfetti; bunların çoğu birden fazla kez ortaya çıktı. Bu, BT görünürlüğüyle ilgili bir sorun. Çalışanların farkındalığıyla ilgili sorun ise daha derin.
Kuzey Amerika, APAC ve EMEA genelinde yaklaşık 3.000 karar vericiyle yapılan Workday'in 2025 küresel araştırması, çalışanların yalnızca %24'ünün, bilgileri olmadan arka planda çalışan yapay zekâ ajanları konusunda rahat olduğunu ortaya koydu.
Dört çalışandan üçü net bir sınır çiziyorsa ve çoğu bunu kendi iş yerinde bu sınırın gerçekte nerede bulunduğuna dair tam bilgiye sahip olmadan yapıyorsa, bunu marjinal bir endişe olarak nitelendiremeyiz.
Şeffaflık ve Paylaşılan Varsayımlar
Bu boşluğu kapatmanın etik gerekçesi açık. Çalışanlar, görev dağılımlarını, iş yüklerini ve bazı durumlarda performans değerlendirmelerini şekillendiren sistemleri anlama konusunda meşru bir hakka sahip. Ancak operasyonel gerekçe, bunu duyması gereken yöneticiler açısından daha anlaşılır olabilir.
NIST'in Yapay Zekâ Risk Yönetimi Çerçevesi, AB Yapay Zekâ Yasası'nın şeffaflık gereklilikleri ve son iki yılda hazırlanan çoğu kurumsal yapay zekâ politikası gibi yönetişim çerçeveleri, insanların sürecin içinde kalmaya devam ettiği yönündeki ortak varsayım üzerine kuruludur.
Yalnızca yöneticiler veya uyum ekipleri değil, işi yapan insanlar da bu sürecin parçasıdır. İnsan gözetimi, bir ajan hata yaptığında, bir vakayı yanlış yönlendirdiğinde, kusurlu bir değerlendirme ölçütü uyguladığında veya amaçlanan davranışından saptığında birinin bunu fark etmesi anlamına gelir. Bu kişi neredeyse her zaman, bir şeylerin yolunda gitmediğini anlayabilecek kadar çıktıya yakın olan ön saflardaki çalışandır.
Çalışanlar bir ajanın işlem yaptığını bilmediğinde, bu gözetim yapısal olarak ortadan kalkar. Hesap verebilirlik mimarisi, mevcut olmayan bir farkındalığa bağlıdır.
Öğrendiklerinde Ne Olur?
Bozulma yaşandığında genellikle kişisel bir hâl alır. People Managing People ile konuşmadan yaklaşık sekiz ay önce, bir inşaat planlama platformu olan Outbuild'de Ürün Başkan Yardımcısı Mike Rolfe, müşteri başarı operasyonlarına; hesap sağlığını özerk biçimde izleyebilen, CSM'ler adına görüşmeler planlayabilen ve kimse tetiklemeden yenileme riski raporları hazırlayabilen ajan tabanlı bir sistem yerleştirdi.
Yönetim bilgilendirilmişti, ancak daha geniş müşteri hizmetleri ekibi bilgilendirilmemişti; bunun nedenlerinden biri, şirket içinde herkesin sistemi gerçekte olduğu şey yerine "otomasyon" olarak adlandırmaya devam etmesiydi.
\u0022Bir CSM müşteri görüşmesine girdi ve müşteri, daha önce planladıkları bir toplantıdan bahsetti; oysa CSM bunu hiç ayarlamamıştı.\u0022
Ekip içindeki güven kaybının onarılması haftalar sürdü. Artık uyguladığı kural şu: Bir yapay zekâ sistemi başka birinin gördüğü bir işlem gerçekleştirdiği anda, adı bu işleme iliştirilen kişi, işlem gerçekleşmeden önce bundan haberdar edilmelidir.
Ekibi ayrıca "otomasyon" kelimesini kullanmayı tamamen bıraktı ve bunun yerine açık tanımlamalar kullanmaya başladı. Örneğin, "sistem sizin için toplantıları planlayacak ve müşteriye sizin adınızla bildirim gönderecek".
Bunun nedeni, özellikle inşaat kültüründe belirsiz teknoloji dilinin bilinçli onam oluşturmamasıdır. Bu dil, CSM'inin yaşadığı türden bir anın ortaya çıkması için koşulları yaratır.
Hesap Verebilirlik İnsanların Sorumluluğudur
Elestio'nun Operasyon Direktörü ve veri koruma görevlisi Steven Betito da bunu bizzat gördü.
Ekibi, özerk yapay zekâyı günlük operasyonlara entegre ettiğinde, açıklığı en baştan sürece dâhil ettiler. Her ajanın belgelenmiş bir rolü vardı ve ekip üyelerine açıkça yapay zekâ olarak tanıtılıyordu; bu da hiç kimsenin neyle çalıştığından emin olamama durumunu ortadan kaldırıyordu. Yeterince erken oluşturmadıkları şey ise net bir eskalasyon yapısıydı.
İlk birkaç ayda eskalasyon yollarını resmîleştirmemiştik. İnsan ekip arkadaşlarından biri belirsiz bir taleple bir ajana e-posta gönderiyor, ajan bunu elinden geldiğince yorumluyor ve çıktı bazen net bir insan incelemesi yapılmadan üretime alınıyordu.
Sorunu tespit ettikten sonra çözüm basitti. Artık belirlenmiş bir eşiğin üzerindeki her ajan eylemi, adı belirlenmiş bir insan onayı gerektiriyor; ancak çıkarılan ders geçerliliğini korudu. Bir ajanın ne olduğu konusunda şeffaflık, onun yaptıklarına ilişkin hesap verebilirliği kendiliğinden sağlamaz. Bunlar ayrı sorunlardır ve ayrı çözümler gerektirir.
Güven Hiçbir Yerde Bulunamıyor
ABD ve Birleşik Krallık'ta 2.000'den fazla bilgi çalışanına uygulanan Asana'nın 2025 Küresel İş Yerinde Yapay Zekânın Durumu raporu, katılımcıların %62'sinin yapay zekâ ajanlarını güvenilmez bulduğunu ortaya koydu.
Bu sayının ardında yatan şey daha da çarpıcı: Çalışanların %82'si, yapay zekâ ajanlarını etkili biçimde kullanmak için uygun eğitimin gerekli olduğunu söylerken kuruluşların yalnızca %38'i bu eğitimi sağlamış durumda.
Buradaki mesele çalışanların yapay zekâ ajanlarını reddetmesi değil; kendilerine sunulanlarla öğretilenler arasındaki uyumsuzlukla başa çıkmaya çalışıyorlar ve uygulama hızlandıkça kendilerini giderek daha az ilgili hissediyorlar.
Çalışanlar, bir iş arkadaşı, süreç değişikliği veya açıklayamadıkları bir sonuç aracılığıyla yapay zekâ sistemlerinin iş akışlarında çalıştığını öğrendiğinde tepki genellikle merak olmuyor. Bu, sürece dâhil edilmek yerine yönetildiklerini hissetmelerinden kaynaklanan özgül bir güvensizlik türüdür. Bu güvensizlik yalnızca yapay zekâ meselesiyle sınırlı kalmaz.
Sorunun bir kısmı tanımlarla ilgilidir. Araçların kendileri kullanıma alınmış olsa da "özerk yapay zekâ" çoğu çalışan el kitabında veya yönetici eğitim programında yer almıyor. Pek çok kuruluş, altta yatan özerkliği açığa çıkarmayan tedarikçi ürün adları altında ajanlar kullanıma sundu: iş akışı asistanları, CRM entegrasyonları ve planlama platformları.
Bir vaka yönlendirme önerisini izleyen bir çalışan, yönlendirmenin bir yönetici veya statik bir kural yerine yapay zekâ ajanı tarafından yapıldığından haberdar olmayabilir.
WalkMe'nin 2025 iş yeri araştırması, çalışanların %78'inin işverenleri tarafından sağlanmayan yapay zekâ araçlarını kullandığını ve neredeyse yarısının yargılanmaktan kaçınmak için iş yerinde yapay zekâ kullanımını açıklamaktan kaçındığını ortaya koydu. Gölge kullanım ve kurumsal kapalılık birbirini besliyor.
Bunu düzeltmek tek seferlik bir iletişim çalışması değildir. İşe yarayan yaklaşım, bir sistemin ne yaptığını ve ne yapmadığını bir ekibin iş akışında kullanıma alınmadan önce açıklayarak, dağıtım sürecinin içine açıklığı yerleştirmek; ajanların nerelerde çalıştığına ilişkin sürekli görünürlük sağlamak ve çalışanlara bir şeylerin yanlış göründüğü durumları bildirebilecekleri net bir kanal sunmaktır.
Bu son kısım, çoğu yapay zekâ kullanıma alma planının kabul ettiğinden daha önemlidir.
Çalışanlar yalnızca açıklamanın hedef kitlesi değildir. Kendi alanlarında çalışan her özerk sistem için birincil hata tespit katmanıdırlar. Ne çalıştığını bildiklerinde ve sistem hata yaptığında ne yapacaklarını anladıklarında yönetişim tasarlandığı şekilde işler. Bunu bilmediklerinde ise bu çerçeveler teorik kalır.
