İki Konferans, Tek Sorun: Geliştiricilerin ve CHRO’ların Birbirlerine Söylemediği Şey

Transform'da öğleden sonra, HR liderleriyle dolu bir odaya basit görünen ancak basit yanıtları olmayan bir soru yöneltiliyor. Kuruluşunuzda yapay zekâ okuryazarlığının sorumluluğu kimde?

Yanıtlar, ekrana yansıtılan bir anket aracı üzerinden geliyor. "L&D." "BT." "Üst yönetim." "Herkes." Ardından büyük bir dürüstlük payı: "Hiç kimse."

Oturum kolaylaştırıcılarından biri ekrana bakıp odadaki herkesin zaten bildiği şeyi söylüyor. 

"Büyük bir boşluk var. Bence kimse bunun sorumluluğunu üstlenmiyor." 

Başka bir katılımcı söze giriyor.

"Her şeyi belirli liderler belirliyor ve bu bir sorun, çünkü herkes sonunda tamamen farklı noktalarda oluyor"

Anket verileri odadaki herkesin hissettiğini doğruluyor. Özellikle yapay zekâ benimsenmesini görüşmek üzere bir araya gelen İK profesyonelleri arasında, "bunun sorumluluğu kimde" sorusuna verilen en yaygın yanıt, neredeyse herkes ile hiç kimse arasında başa baş gidiyor.

Bu, başarısızlık hakkında bir konferans oturumu değil. İşlerin gerçekte nasıl olduğuyla ilgili bir oturum. Ve bu ilkbahardaki konferans serisi kapsamında katıldığım en büyük iki konferansta ve yöneticiler, uygulayıcılar, danışmanlar, yatırımcılar, hukukçular ve geliştiricilerle yaptığım onlarca saatlik görüşmede ortaya çıkan gerçek şu: yapay zekâyı devreye almaktan sorumlu kişiler ile onu benimsemekten sorumlu kişiler sürdürülebilir ve yapısal bir şekilde birbirleriyle konuşmuyor. Konuştuklarında da çoğu zaman farklı soruları yanıtlıyorlar.

Bu yolculuğa çıktığımda mart başından nisan ortasına kadar toplam dört konferansın haritasını çıkardım. Bunların en dikkat çekici ikisi muhtemelen çok farklı kitleleri çekecekti, ancak işin geleceği ve bunun liderler ile kuruluşlar için oluşturduğu zorluk hakkında yanıtlar sunacaktı.

İki Oda

Las Vegas'ta düzenlenen Transform, genellikle “İK yaz kampı” olarak adlandırılıyor; dört binden fazla İK yöneticisinin/İnsan ve Kültür Direktörünün, yetenek liderinin ve kuruluşları yapay zekâ araçlarının yarattığı dönüşüm boyunca yöneten diğer kişilerin bir araya geldiği bir etkinlik.

İki hafta sonra San Francisco'da düzenlenen HumanX ise araçları kullanıma sunan kurucuları ve platform geliştiricilerini çekti. İki kitle; yapay zekâ benimsenmesi, yeniden beceri kazandırma ve eyleyici iş akışları gibi ortak bir söz dağarcığını paylaşıyor, ancak hangi odada bulunduğunuza bağlı olarak bu kelimeler farklı işlevler görüyor.

Geliştiriciler için baskın soru yetenek etrafında şekilleniyor. Bu sistemler neler yapabilir, tam potansiyellerini nasıl açığa çıkarabiliriz, yardımcı olan yapay zekâdan eyleme geçen yapay zekâya nasıl geçebiliriz? 

Dataminr CEO'su Ted Bailey, şirketini Beyaz Saray Durum Odası'na ve 30 uluslararası orduya gerçek zamanlı istihbarat sağlayan bir şirket olarak tanımladı. Otonom yapay zekâ konusundaki felsefesi oldukça net: mümkün olan en iyi istihbarat tablosunu oluşturun, ardından nihai kararı bir insana bırakın. 

Webflow CEO'su Linda Tong, her çalışana sınırsız belirteç verme ve şirketin kendisini eyleyiciler etrafında yeniden yapılandırmasını izleme sürecini anlattı. 

Transform'daki ağırlıklı olarak insan odaklı oturumlarda baskın soru farklıydı. Yapay zekânın ne yapabileceği değil, yanlış bir şey yaptığında bundan kimin sorumlu olacağı konuşuluyordu.

Transform'da konuşan PEBL Baş Hukuk Sorumlusu Shawn McIntire, hesap verebilirlik sorununu dört kelimeyle ortaya koydu: "Her yerde sahipleniliyor, bir yerde hesap veriliyor." 

Üstten aşağıya oluşturulan yapay zekâ yönetişim çerçeveleri sahaya ulaşmadığında neler olduğunu anlatıyordu. Yönetişim kurulu toplanıyor. Kullanım politikası yazılıyor. Ardından, sabahın ikisinde biri yönetişim kurulunun asla incelemeyeceği bir konuda anlık bir karar veriyor. 

Bu, hesap verebilirlik açığıdır. Ve doğrudan iki oda arasındaki boşluktan geçer.

Bundan Kim Sorumlu

Geliştiriciler bu sorunun bir versiyonunu teknik düzeyde çözdü.

Harness CEO'su Jyoti Bansal, yapay zekâ tarafından oluşturulan kod ile dağıtıma hazır bir ürün arasındaki katmanları anlattı. Sekiz tür test, sekiz tür güvenlik incelemesi, dağıtım doğrulaması, geri alma protokolleri, maliyet optimizasyonu. Kod ile üretim arasında otuz ila kırk kontrol. 

"Doğrulama olmadan güvene sahip olamazsınız," dedi.

Aynı panelde Windsurf'ten Jeff Wang, bir yapay zekâ ajanı bir şeyi bozduğunda bu hatayı kaydettiğini ve tekrarlamamayı öğrendiğini ekledi. Sistem, teknik düzeyde kendi kendini düzeltiyor.

İnsan ister istemez şunu soruyor: Hangi kuruluş insan süreçleri için bunun eşdeğerini oluşturdu? Aynı şekilde, iş operasyonları genelinde ajan davranışlarını kim sistematik olarak kontrol ediyor? Tıpkı bir denetçinin mali tabloları incelemesi gibi, geçen çeyrekte bir ajanın verdiği kararların örüntüsünü kim inceliyor? 

Geliştirici oturumlarında yazılım işlem hatları için bu sorulara ayrıntılı yanıtlar vardı. Örgütsel yönetişim açısından ise uygulayıcı oturumları doğaçlamaya daha yakın bir tablo ortaya koydu.

Transform'da Victoria Reimers, şirketlerin yönetişim komitelerine ve kullanım politikalarına büyük çaba harcarken işi gerçekten yapan insanlara yeterince yatırım yapmadığını gördü. Onun önerisi mi? Basit: İnsanlarınıza komitenize harcadığınızdan on kat daha fazla harcayın. 

Bu bir şaka gibi gelebilir, ancak Juniper Square'de anlattığı model —güvenli ya da ölçeklenebilir olup olmadığından emin olmayan herkese yardımcı olan, yapay zekâ konusunda kurum içi uzmanlara dönüşmüş on iki çalışanlık bir ekip— gördüğüm, açığı yönetim kurulundan aşağıya doğru değil, temelden yukarıya doğru kapatmaya yönelik birkaç somut mimariden biridir.

GDPR karşılaştırmaları birden fazla kez gündeme geldi. Bazı açılardan, yapay zekânın ortaya çıkardığı veri sorunu bundan pek de farklı değil; değişim için bir güç oluşturuyor ve şirketlere topladıkları çalışan verileriyle ne yaptıklarını sormak için bir araç işlevi görüyor. 

McIntire, "İnsanlar (GDPR konusunda) ne yapacaklarını bilmiyordu," dedi. "Ancak bu, şirketleri kişisel bilgileri nasıl yönettiklerine bakmaya zorlayan bir işlev gördü.

Bunun anlamı, düzenlemenin hesap verebilirlik sorusunu ertelemeyi nihayet imkânsız kılan şey olabileceğidir; ancak altı yıldır Fortune 500 şirketleri için yapay zekâ yönetişimi altyapısı oluşturan Credo AI'nin kurucusu ve CEO'su Navrina Singh, kuruluşların bu zorlayıcı etkiyi beklememesi gerektiğini savunuyor. Bir olayın yaşanmasını bekleyip ardından yapay zekâ yönetişimine yatırım yaparlarsa, zaten önemlerini yitirmiş olacaklarını belirtti.

Dataiku CEO'su Florian Douetteau, maliyet meselesini daha açık biçimde ortaya koydu. İnsanlar, orkestrasyon veya yönetişim konusunda başarısız olun ve ajan tabanlı yatırımın tamamı çöksün. 

Süreç ile İnsanlar Arasında

Bu arada, yeniden beceri kazandırma tartışması iki tarafın arasında garip bir orta noktada duruyor.

Transform by Brandon Hall Group'ta sunulan araştırma, kuruluşların %65'inin yapay zekâyı temel iş akışlarına entegre ettiğini, ancak %30'dan azının rollerini veya iş yapılarını bunu yansıtacak şekilde anlamlı biçimde yeniden tanımladığını ortaya koydu. 

Teknoloji ilerliyor, ancak çevresindeki insani yapı buna ayak uyduramıyor. Açıkça ifade etmek gerekirse bu, kuruluşların çoğu yolcunun neler olduğunu veya nereye gittiklerini bilmesini sağlamadan, araçlarını sürüş sırasında yeniden inşa etmelerine benziyor.

Databricks'in İnsan ve Kültürden Sorumlu Genel Müdürü Amy Reichanadtner, ekibinin karşılaştığı zorluğu bende iz bırakan ifadelerle anlattı. 

“Onlar için bir orman oluşturmak istemiyoruz,” dedi; yapay zekâ araçlarının nasıl birbirine bağlandığına dair tutarlı bir harita olmadan geniş çapta kullanıma sunulmasından bahsediyordu. “İnsanların palaya değil, bir yola ihtiyacı var.”

Çalışanların o yolun yokluğunda hissettikleri şeyin, artık FOBO veya modası geçme korkusu olarak adlandırdığımız şeyin bir adı var. Çok sayıda sunum yapan kişiye göre bu, yapay zekâ gündeme geldiğinde ekiplerinin duyduğu en yaygın endişe.

Üretici oturumları, benimsemeyi öncelikle erişim ve teşviklerle çözülebilecek bir sorun olarak ele alıyor. Herkese token verin. Şirket çapında bir yarışma düzenleyin. Üretmeyi beklenti hâline getirin.

Bu yaklaşım, deney yapma kültürünün zaten mevcut olduğu ve çalışanların kuruluş içindeki rollerinin devam edip etmeyeceğinin sorgulanmadığını bildiği kuruluşlarda açıkça işe yarıyor. Diğer herkes içinse soru daha karmaşık.

HumanX'te konuşan Zensai Baş İşletme Sorumlusu Robin Daniels, “netlik olmadan hız, dönüşüm yerine kaos üretir” diyerek konuya dikkat çekti. 

Üretici taraftan gelen daha hızlı benimseme, daha fazla uygulamayı kullanıma sunma ve rakiplerle aradaki farkı kapatma aciliyeti, sırada ne olduğunu kimsenin belirlemediği kuruluşlarda farklı karşılık buluyor. 

Kendi Ayakkabısını Dikemeyen Ayakkabıcı

Transform'daki okuryazarlık atölyesi, kendi açısından her iki konferanstaki en dürüst oturumdu. Özellikle yapay zekâ kullanımını ele almak üzere bir araya gelen İK uygulamacılarıyla dolu bir oda, yapay zekâ okuryazarlığının herkese ait olduğuna oy verdi; bu da pratikte hiç kimseye ait olmadığı anlamına geliyor. 

Tüketici ambalajlı ürünler sektöründeki bir şirketten gelen katılımcı, kuruluşunun kasıtlı olarak geri durduğunu, önce başkalarının hatalar yapmasına izin verdiğini ve yalnızca geçen ay harekete geçmek için yönetim kurulundan yetki aldığını söyledi. 

Bir diğeri, alternatifin insanları işten çıkarmak olması nedeniyle her departmanın kendi yapay zekâ okuryazarlığının sorumluluğunu üstlendiği bir şirketi anlattı. Üçüncü bir katılımcı, bir kuruluşta finansal okuryazarlıktan kimin sorumlu olduğunu sormanın kimsenin aklına gelmeyeceğini belirtti ve bu çerçevenin kendisinin sorunun bir parçası olup olmadığını merak etti.

Oturumun, tam olarak adını koymadan ortaya çıkardığı şey, İK fonksiyonundan yalnızca kısmen anlayabilecek ve yürütebilecek donanıma sahip olduğu bir kurumsal dönüşüme liderlik etmesinin istenmesi. 

Kolaylaştırıcılardan biri, “Kuruluşlarımızın çevremizde her yerde yapay zekâyı kullanıma sunduğunu görüyoruz,” dedi. “Kendi fonksiyonumuz içinde yapay zekâyı bile tam olarak anlamıyoruz; ardından diğer iş birimlerinin yapay zekâyı benimsemesine yardımcı olmamız isteniyor.” 

The Predictive Index'te Yetenek Optimizasyonundan Sorumlu Başkan Yardımcısı Matt Poepsel de aynı sonuca farklı bir yönden ulaştı.

Kariyerinin başlarında, ekip performansını artırmaya ve teknik uygulamaya takıntılı bir yönetici olarak neden olduğu zararı anlattı. Ekibinin gerçekte neler yaşadığını fark edememişti ve eksik olan şeyin bağlam olduğunu anlamasına İK yardımcı olmuştu.

"Yıllar sonra şimdi fark ettiğim şey, aynı şeylerin kuruluşlarda gerçekleştiğini görüyorum; ancak bu, çok daha büyük ölçekte ve çok daha hızlı gerçekleşiyor," dedi. "Bunun nedeni, İK'nın da tıpkı benim eksik bıraktığım gibi, bu kritik bağlamı gözden kaçırması. İnsan faktörünü sürecin içinde tutmamız gerektiğini söyleyenleri duymuşsunuzdur. Ben ise insan kaynaklarını sürecin içinde tutmanın bir yolunu bulmamız gerektiğini söylüyorum."

Bu, kunduracının çocukları sorunudur ve yaygın bir durumdur. İK, iş gücünün dönüşümünden en sorumlu işlev olmasına rağmen, aldığı eğitim ve kuruluşun yerleşik alışkanlıkları nedeniyle teknik bir dönüşüme liderlik etmeye en az hazırlıklı olan birimdir.

Chevron'un eski Öğrenme Direktörü Stacy Eng, hangi fikirlerin takip edileceği ve hangilerinin rafa kaldırılacağı konusunda yönetişim oluşturmak amacıyla CIO, CFO ve küçük bir çalışma grubunun yer aldığı bir yapay zekâ konseyi kurmayı anlattı.

Yapısal argüman genellikle İK'nın CIO ve CTO'nun yanında bu konseyde yer alması, konseyin altında konumlanmaması gerektiği yönündedir. Zensai CEO'su Rasmus Hulst da HumanX'te aynı görüşü savundu. 

"CHRO'yu, CTO'yu ve CFO'yu aynı odaya getirin," dedi ve bunu gerçekten gerçekleşirken "neredeyse hiç görmediğini" belirtti.

İronik olan şu ki HumanX'teki geliştiriciler, birçok durumda bu sorunu kendi içlerinde çözmüş durumda. Workato CEO'su Vijay Tella, şirketinin operasyonlarında kullanılan 28 ajanı anlattı. Tong, Webflow'un herkesin bir şeyler geliştirdiği kurum içi kültürünü anlattı.

Bunlar, teknoloji işlevi ile insan işlevinin fiilen birleştiği, CEO'nun, CHRO'nun ve CTO'nun zorunlu olarak aynı konuşmanın içinde yer aldığı kuruluşlardır.

CHRO'nun yapay zekâ uygulamalarından ancak uygulama sonrasında haberdar olduğu 50.000 çalışanlı işletme için bunlar yararlı benzetmeler değildir.

Yüzde 40

İnsanların başına ne geleceği sorusu bütün bunların temelinde yer alıyor.

Kurumsal İK ve arka ofis işlevleri için yapay zekâ çalışma arkadaşları uygulayan Leena AI'ın CEO'su Adit Jain, iki hafta boyunca dinlediğim en gerçekçi değerlendirmelerden birini sundu. Şirketi, iş süreçlerini otomatikleştirirken belirli bir iş akışındaki çalışanların %60'ının düzenli olarak gereksiz hâle geldiğini görüyor. 

Bunun gerçekleştiğini, herhangi bir dramatizasyona başvurmadan söyledi. Daha iyi müşterilerin ne yaptığını anlattı. Yerinden edilen çalışanların yaklaşık %20'si, temel görevi yapmak yerine denetim ve düzeltme işlemlerini üstlenerek yapay zekâ sistemlerinin insan yöneticileri olarak sürece yeniden dahil edilebiliyor. Diğer %40'ı ise bunu doğrudan ifade etti: "Bu, müşterilerle birden fazla kez görüştüğümüz bir konu."

Transform'da ise farklı bir yönden gelen bir ses vardı. Van Jones, ana sahnede çalışan sayısı sorununu yumuşatmadan ele aldı. 

İnsanlar çalışan sayısını azaltmak, insanları botlarla değiştirmek için acele edecek; çünkü onların bakış açısına göre insanların maliyeti çok yüksek, botlar ise daha ucuz," dedi. "Bunun bir kısmı olacak, bu kaçınılmaz. Ancak yakında herkesin botları olacak. 

Onun argümanı duygusal olmaktan ziyade yapısaldı. Teknoloji metalaştığında —ki metalaşacak— farkı yeniden insanlar yaratacak. Özellikle de görünmeyen işi yapanlar: empati kuranlar, bağlantı sağlayanlar ve ekiplerin işlevsel kalmasını sağlayan duygusal emeği verenler. 

Her iki konferansın da tam olarak çözemediği konu, geçiş sürecini yalnızca optimizasyon yoluyla atlatmak yerine başka bir şey yapmak isteyen kuruluşların mimarisiydi. Üretici oturumlarında, yapay zekâ sistemlerini daha güvenilir hâle getirmeye yönelik ayrıntılı teknik çerçeveler vardı. Uygulayıcı oturumlarında ise çalışanları daha uyumlu hâle getirmeye yönelik ayrıntılı çerçeveler sunuldu. 

Bu iki unsuru birbirine bağlayan orta katman, yani yönetişim ve hesap verebilirlik altyapısı; Harness'in 30 katmanlı kalite hattının kurumsal eşdeğeri, çoğu şirkette mevcut değil ve bunu oluşturmak kimsenin atanmış görevi değil.

Risk Nerede Ortaya Çıkıyor

Foursquare'de İnsan ve Kültürden Sorumlu Kıdemli Başkan Yardımcısı Kit Krugman, Transform'da insan işlevinin süregelen sorununu anlattı. Bu işlev, karar masasında stratejik bir yer edinmekte her zaman zorlandı. Ona göre yapay zekâ bunu değiştirmek için gerçek bir fırsat sunuyor, ancak bunun gerçekleşmesi için yalnızca İK'nın temel yönetişim sorularını operasyonel olarak yanıtlayabilmesi gerekiyor.

Temiz veriler, net yönetişim, tanımlanmış hesap verebilirlik ve kendisinden ne yapmasının istendiğini ve bunun nedenini anlayan bir iş gücünden oluşan bu temel, çoğu kuruluşun hâlâ oluşturmaya çalıştığı şey. Uygun yapay zekâ hazırlık planlaması olmadan şirketler bu kritik dönüşümde geride kalma riskiyle karşı karşıya. Üreticiler, bu yapının oluşturulabileceğinden daha hızlı ilerliyor. Uygulayıcılar ise değişken koşullar altında bu yapıyı kuruyor. Bu iki hız arasındaki fark, riskin çoğunun ortaya çıktığı yer.

Gelecek yılın konferans programı için iki grubu bir araya getirmek ve her iki bakış açısını da aynı masaya taşımak muhtemelen iyi bir fikir.