Koçluk ve Gözetim Aynı Araçta Birleşiyor

Cognite'de bir yönetici, kendi işe alım mülakatlarının sonuç raporunu incelemek için oturduğunda, sorularının %90'ının kapalı uçlu olduğunu fark etti. Bir diğeri, dinlemeye ayırması gereken bir konuşmanın %85'inde kendisinin konuştuğunu öğrendi. 

İkisi de bunu bir disiplin sürecinin veya eleştirinin parçası olarak öğrenmedi. Kendi başlarına görmelerinin hiçbir yolu olmayan bir şey kendilerine gösteriliyordu ve bu sonuç raporlarını üreten koçluk senaryolarını yöneten insan ve kültürden sorumlu başkan yardımcısı Brad Wilkins'e göre çoğu bunu düzeltti.

Wilkins bize, "Çoğu daha iyi olmak istiyor; sadece daha önce aynaları yoktu," dedi.

Bu iyi bir sonuç ve iki insanın özel bir konuşmada birbirine söylediği her kelimeyi kaydeden bir süreç sayesinde ortaya çıktı. Önce kayıt yapıldı, koçluk daha sonra geldi ve bu sıralama, göründüğünden daha önemli.

Wilkins gerçek bir şeyi tarif ediyor. Yapay zekânın, bir yöneticinin önceliklerinin ne olduğunu söylediği hâlden uzaklaşmış takvim, üçüncü haftasında ters gitmeye başlayan işe alıştırma süreci veya performansı yüksekken gerilemeye başlayan çalışan gibi daha önce görünmez olan işleri görünür hâle getirmesinden söz ediyor.

Bunlar her zaman oluyordu. Sadece kimsenin dikkatinin ayırt edebileceği çözünürlüğün altında gerçekleşiyorlardı; artık öyle değiller.

Ölçüm Her Zaman Bir Kaçış Yolu Beraberinde Gelir

Lynn Parramore, iş yerinde ölçüm üzerine çalışan bir araştırmacı olarak, geçmişi Samuel Bentham'a kadar götürüyor. Bentham, tek bir gözetmenin her işçiyi merkezi bir noktadan gözlemleyebileceği bir fabrika tasarlamıştı. Kardeşi Jeremy bu tasarımı bir hapishane için ödünç aldı ve ona kalıcı olan adını verdi. Panoptikonun amacı hiçbir zaman yalnızca izlemek değildi; amaç, işçilerin izlenme ihtimalini içselleştirerek kendilerini düzenlemeleriydi.

Frederick Taylor, bir yüzyıl sonra fabrika zeminine bir kronometre getirdi ve emeği süreleri ölçülen bileşenlere ayırdı. Parramore'a göre bu, "bir noktaya kadar" işe yaradı. İşe yaramayı bıraktığı nokta, işçilerin açığı bulduğu andı. Taylor odadan çıktığında saati sıfırladılar.

Aradan yüz yıl geçtikten sonra uzaktan çalışanlar etkinlik varmış gibi göstermek için fareyi oynatıyor veya masa başında oturan bir insan gibi görünmek için dizüstü bilgisayar kamerasının önüne bir ananas koyuyor.

Bu örüntü bugün de geçerli. Ölçüm, kuruluşun gerçekten istediği bir şeyle birlikte gelir; ister fabrika zeminindeki kazaların azalması ister bir yöneticinin nihayet bir odada nasıl konuştuğunu öğrenmesi olsun ve bunun yarattığı direnç bir uyum sorunu olarak ele alınır. 

Parramore, bu sorunun yanıtının çoğu zaman ilkelerden ziyade coğrafyaya göre belirlendiğine dikkat çekiyor. AB'nin büyük bölümünde işçi konseylerinin, izleme sistemleri kurulmadan önce bu sistemler hakkında danışılma hakkı var; dolayısıyla verilerin başka neler yapabileceğine ilişkin konuşma önceden gerçekleşiyor ve ölçülen kişileri de içeriyor. 

Amerika'daki varsayılan yaklaşım bir mülkiyet sorusuna daha yakın. Şirket dizüstü bilgisayarın sahibi olduğuna göre, üzerinde neler olduğunu görebilir.

Yeteneğin Ne Hâle Geleceğini Üç Soru Belirler

Kayıt, yazıya dökme ve davranış analizi tek bir yetenektir. Bu yeteneğin neye dönüşeceği, üç tasarım sorusunun yanıtlarıyla belirlenir ve buradaki iddiam şu: Bu kararlar, genellikle niyete atfedilen işin tamamını yapar.

• Çıktıyı kim görüyor?
• Ölçülen kişi gördükleri doğrultusunda harekete geçebiliyor mu?
• Kayıt, kullanıldığı andan sonra da tutuluyor mu?

Cover Genius'taki Greg Russell'ın uygulamasını bu sorular üzerinden değerlendirin. Yetenekten sorumlu başkan yardımcısı Russell, her telefon ön görüşmesini ve panel mülakatını onay alarak kaydediyor; yapay zekâ da bunları yazıya döküp özetliyor. 

Çıktıyı, mülakat yapan kişilere soruların kalitesi, konuşma süresi oranı ve üç farklı teklif almış bir adaya şirketi gerçekten tanıtıp tanıtmadıkları konusunda koçluk yapmak için kullanıyor. Bunu, mülakat yapanların performansına eşi benzeri görülmemiş bir görünürlük sağlamak olarak nitelendiriyor ve yetenek kazanımı ekiplerinin çoğu için bu, eski bir yeteneğin geliştirilmesinden ziyade gerçekten yeni bir yetenek.

Ayrıca gözden kaçırılması kolay bir noktaya da dikkat çekiyor: Mülakat yapan kişiler, biri konuşurken not almak için bir şeyler karalamadıkları için konuşmaya daha fazla odaklanıyor.

Çıktı, görüşmeciye ve Russell'a gider. Görüşmeci gelecek hafta nasıl görüşme yaptığını değiştirebilir ve Russell'ın oluşturduğu en önemli güvenlik önlemi, insanların kendi değerlendirmelerini ve kendi puanlarını yazması, yapay zekânın ise bir adayı asla otomatik olarak reddetmemesidir. 

Russell'ın Liderlik ve Değerler görüşmesi veto yetkisine sahiptir ve herhangi bir "hayır" yanıtında dökümü okur. Otomatik reddetme yapılmayacağını açıkça söylemek zorunda kalmasına biraz şaşırmıştı.

Şaşırmaması gerektiğini düşünüyorum. Bunun söylenmesi gerekmesinin nedeni, teknolojide bunu zorunlu kılan hiçbir şeyin bulunmamasıdır. Bu uygulama, onun böyle olmasına karar vermesi sayesinde yürür.

Wilkins de aynı testi geçer; yapay zekânın öncülük ettiği, yardımcı olduğu ve hiç söz hakkının bulunmadığı alanlara ilişkin üç kademeli sınıflandırması, bir kuraldan ziyade yapı olarak ifade edilen aynı içgüdüdür.

Russell'ın durumunda rıza gerçekten önemli bir işlev görüyor. Adaylar ve görüşmeciler kaydın yapıldığını biliyor. Bu, tasarımın küçük bir özelliği değildir; geri kalan her şeyi savunulabilir kılan unsurdur ve bir araç tek bir ekipten bütün şirkete ölçeklendiğinde genellikle ilk terk edilen şeydir.

JPMorgan'ın Başarılı Olduğu ve Başarısız Kaldığı Noktalar

Financial Times, mart ayında JPMorgan'ın genç bankacıların zaman çizelgelerinde bildirdikleri çalışma saatlerini, görüntülü görüşmelerden, masaüstü tuş vuruşlarından ve planlanmış toplantılardan elde edilen, bankanın bilişim sistemleri tarafından kaydedilen etkinliklerle karşılaştıran bir pilot uygulama başlattığını bildirdi. 

Bankacılar, iki sayıyı yan yana gösteren haftalık bir rapor alıyor. Banka, aracın yaptırım uygulamaktan ziyade "farkındalıkla ilgili" olduğunu ve performans değerlendirmesinde kullanılmayacağını söyledi; ayrıca raporları telefondaki haftalık ekran süresi özetine benzetti.

Çerçeve refah üzerine kurulmuş durumda, çünkü temelindeki sorun gerçek. Genç bankacılık onlarca yıldır 100 saatlik çalışma haftalarıyla yürütülüyor ve 2024 ile 2025'te iki genç bankacının ölümünün sektör çapında incelemeye yol açmasının ardından JPMorgan, genç bankacıların refahını denetleyen bir görev oluşturdu ve çalışma haftasını 80 saatle sınırlandırdı. 

Bu, iyi niyetli versiyon. Kimse kimseyi yakalamaya çalışmıyor. Sınır kendi başına uygulanmadı ve ulaşılabilecek geriye kalan şey görünürlük; bu da bir yöneticiye konuşma süresi oranını gösterme isteğinin ardındaki aynı içgüdüdür. 

Pilot uygulamayı üç soru üzerinden değerlendirelim. Bankacı, izlenen çalışanların çoğundan daha fazlasını elde ederek raporu alıyor. 

İkinci soru, işlerin nerede dağıldığını gösteriyor. Kapalı uçlu sorular sorduğunu öğrenen bir yönetici yarın açık uçlu sorular sorabilir. Çalışmaya yeni başlayan bir analist, 91 saat çalıştığını öğrendiğinde 60 saat çalışmaya karar veremez; çünkü çalışma saatlerini iş akışı ve yorumları gece 23.00'te gönderen genel müdür belirler. 

Rapor, kontrol edemediği bir koşul hakkında zaten bildiği bir şeyi ona söylüyor ve gerçekten değiştirebileceği tek değişken, zaman çizelgesine ne yazdığı.

Pilot uygulamaya ilişkin haberlerde, genç çalışanların daha önce kurum içi sınırların içinde kalmak için saatlerini eksik bildirmeye teşvik edildiği belirtildi; bu da ölçümün, çalışanın üzerinde herhangi bir güce sahip olduğu tek davranışa yöneldiği ve kimsenin bunu amaçlayıp amaçlamadığına bakılmaksızın oraya ulaştığı anlamına geliyor.

Üçüncü test, biraz dikkat gerektiren test. Bu veriler artık bankanın sistemlerinde sürekli olarak üretiliyor ve değerlendirmede kullanılmayacağına dair taahhüt, mimari bir taahhüt olmaktan ziyade bir politika taahhüdü niteliğinde. Politikalar, onları yazmamış kişiler tarafından değiştirilir.

Niyet, Altyapıyla Temas Ettikten Sonra Varlığını Sürdüremez

Öyleyse kimse toplanan verilerin ne kadar süre saklanacağına karar vermemişken bu verilere ne olur?

WorkComposer, 200.000'den fazla kişi tarafından kullanılan, etkinlikleri kaydeden ve periyodik ekran görüntüleri alan bir çalışan izleme aracıdır. 

Şubat 2025'te Cybernews araştırmacıları, bu ekran görüntülerinden 21 milyondan fazlasının, nereye bakacağını bilen herkesin erişimine açık, yanlış yapılandırılmış bir Amazon S3 klasöründe bulunduğunu ortaya çıkardı. Görüntülerde e-postalar, kurum içi sohbetler, gizli iş belgeleri ve kullanıcı adları, parolalar ile API anahtarlarının görüntülendiği giriş sayfaları yer alıyordu. 

Araştırmacılar, durumu bulduktan sonraki gün şirkete bildirdi, ancak klasör 1 Nisan'a kadar kapatılmadı.

Altı hafta. Bu şirketlerin hiçbirindeki hiç kimse çalışanlarının çalışma günlerini yayımlamaya karar vermedi. Onları ölçmeye karar verdiler ve yayımlama işlemi bir depolama yapılandırması tarafından gerçekleştirildi.

Bu konunun, hiçbir niyet beyanının erişemeyeceği kısmı budur. Ne toplarsanız toplayın, artık onu saklamaktan siz sorumlusunuz ve tamamen kontrol edemediğiniz koşullar altında; tedarikçi değişiklikleri, satın almalar, personel değişimi ve elinizde bulunan verilere ikinci bir kullanım alanı bulmaya yönelik gelecekte var olacak her türlü teşvik boyunca bundan siz sorumlu olursunuz.

Parramore, ikinci kullanımın nasıl göründüğünü gösteren bir örnek ortaya koyuyor. Kendisi, Meta çalışanlarının, yerlerini alacak şekilde geliştirildiğinden şüphelendikleri sistemlerin eğitimine katkı sağlayan biçimlerde izlendiklerini fark ettiklerini belirtiyor. Verilerin toplanması, belirtilen amacını aştı ve verileri üreten kişilere yeni amaç hakkında en son danışıldı.

Sistem, öznenin itiraz edemeyeceği bir çıktı ürettiğinde, özne yargıda bulunma yetisini kaybetmez. Yargı yalnızca yeraltına iner ve kuruluş, güvenle birlikte bilgiyi de kaybeder.

Kaçındığım kelime buydu ve artık onu kullanmanın zamanı geldi. Gözetim bir teknoloji kategorisi değildir. İzlenen kişi çıktıyı görebildiğinde ancak onunla hiçbir şey yapamadığında ya da çıktıyı hiç göremediğinde ve kayıt, oluşturulma gerekçesinden daha uzun süre varlığını sürdürdüğünde izleme gözetim hâline gelir.

Yararlı Bir Tasarım Kararı

Analiese Brown, Campminder'da insan ve kültürden sorumlu üst düzey yönetici olarak, şirketin iş tanımları ve performans felsefesiyle bağlantılı, Claude üzerinde bir kariyer seviyeleri projesi oluşturdu. Çalışanlar bunu kendi ilerlemeleri hakkında soru sormak için kullanıyor; bu, insanların geçmişte yöneticiye güveniyorlarsa yöneticilerine sordukları türden bir soru.

Ekibi, insanların sorduğu soruları ve sistemin oluşturduğu yanıtları görebiliyor. Bu, burada ele aldığım diğer her şeyle aynı düzenek: bir grubun, başka bir grubun bir araç içinde yaptıklarını izlemesi. Brown'ın yaptığı ise farklı. 

Brown bunu bir güvenlik ağı olarak görüyor; yanıtların yetersiz kaldığı veya insanların aynı belirsizliğin etrafında dönüp durduğu noktaları izliyor, çünkü insan rehberliğine ihtiyaç duyulan ve bu rehberliğin ulaşmadığı yerler bunlar. Onun yaklaşımına göre otomasyon, insan rehberliğinin yerini almaz; nerede gerekli olduğunu göstererek onu korur.

Brown, kişinin performansı yerine desteğin kalitesini izliyor ve sistemin ürettiği şey bir kayıt değil; aynı soruyu üç farklı şekilde sormaya devam eden çalışanı bulup onunla iletişime geçmesi için İK'daki birine verilen bir işaret. 

Satın Alma Departmanı Sizin Adınıza Yanıt Veriyor

Bu üç soru, son 18 ay içinde not alma aracı, deşifre aracı veya analiz katmanı satın alan çoğu şirketin içinde şu anda yanıtlanıyor ve bu şirketlerin büyük bir bölümünde yanıtları bir yenileme tarihi, varsayılan bir saklama ayarı ve tedarikçinin işe alıştırma kontrol listesi belirliyor.

Bu bir etik başarısızlığı değil. Sıralama hatası. Araç geliyor, pilot uygulama iyi gidiyor, koçluk değeri ilk ay içinde gerçek ve görünür hâle geliyor ve saklama politikası, tedarikçinin sunduğu neyse o oluyor. Herhangi biri transkriptlerin ne kadar süre saklandığını ve başka kimlerin bunlara erişebileceğini sorduğunda, ortada 14 aylık transkript birikmiş oluyor.

Russell, Wilkins ve Brown kararlarını uygulamaya geçmeden önce verdiler ve bunu yapmak için hiçbirinin bir yönetişim çerçevesine ihtiyacı olmadı. Görünürlüğün hangi amaçla kullanılacağına karar vermeleri gerekiyordu.