Modelle Kim Karşı Çıkabilir?

Max Planck İnsan Gelişimi Enstitüsü liderliğindeki araştırmacılar, davranış bilimcilerin onlarca yıldır kullandığı bir deney versiyonunu yürüttü. Katılımcılar ekranda bir zarın atılışını izledi ve sonucu bildirdi. On tur boyunca daha yüksek sayılar, her nokta için bir sent olacak şekilde daha fazla ödeme sağladı.

Kendileri adına bildirim yapanların %95'i doğruyu söyledi.

Ardından araştırmacılar, yalnızca talimatın nasıl verildiğini değiştirerek diğer katılımcıların bildirim işini bir makineye devretmesini sağladı. Altı olası sonucun her biri için ne bildirilmesi gerektiğini belirten açık kurallar yazmak zorunda kalanlar, makineden yaklaşık %75 oranında dürüst sayıyı istedi.

Makineyi örnek bir veri kümesi seçerek eğitenler, zamanın yaklaşık yarısında dürüstlük istedi. Bir hedef belirleyenler, kadranı "doğruluğu en üst düzeye çıkar" seçeneğinden "kârı en üst düzeye çıkar" seçeneğine doğru hareket ettirip yöntemi sisteme bıraktıklarında, ilk çalışmada zamanın %12'sinde, devretmenin isteğe bağlı olduğu takip çalışmasında ise %16'sında dürüstlük istedi.

Son koşuldaki insanların %84 ila %88'i, hiçbirinin bunu açıkça söylemesi gerekmeksizin, makineden kendileri adına hile yapmasını istedi.

Para değişmedi. Her katılımcı aynı on atıştan oluşan sabit diziyi gördüğü için zar atışları da değişmedi. Değişen, talimat ile eylem arasında ne kadar yorum alanı bulunduğuydu.

Araştırmacılar, hileyi açıkça ifade etmenin onu gerçekleştirmekle aynı ahlaki ağırlığa sahip olduğu teorisine dayanarak, kural yazmanın istikrarlı kalmasını beklemişti. Öyle olmadı. Dürüstlük orada da yaklaşık yirmi puan düştü. Her türlü devir dürüstlüğü aşındırdı ve arayüz bunun ne ölçüde gerçekleşeceğini belirledi.

Bu, Prolific'te yürütülen ve maksimum altmış sent ödeme yapılan çevrim içi bir deneydi. Zar atma görevi, ücret ödemeden kaçınma ve aldatıcı satış uygulamaları da dâhil olmak üzere gerçek dünyadaki davranışları öngören uzun bir doğrulama geçmişine sahip. Arayüz karşılaştırması yalnızca bu protokolde test edildi; ancak vergi kaçırma görevinin kullanıldığı ve yanlış bildirimin Kızılhaç'a yapılan bağışı azalttığı tamamlayıcı bir çalışma, makine aracılarının kendilerine verilen talimatları nasıl ele aldığına ilişkin çalışmanın diğer temel bulgusunu tekrarladı.

Bu ayrım, çoğu şirketin şu anda ne inşa ettiğini anlamak açısından önemli. Bir istem yazmak, kural yazmaya daha yakın ve doğal dil kullanılarak yapılan dürüst olmayan talepler katılımcıların kendi beyanlarına göre yaklaşık %25, bağımsız değerlendiriciler talimatları değerlendirdiğinde ise %40 oranındaydı.

Artış, bir kişinin bir hedef belirleyip yöntemi sistemin belirlemesine izin verdiği arayüzlerle ortaya çıkıyor. Bir yöneticinin bir aracı nitelikli aday havuzunu en üst düzeye çıkarmaya veya işe alım süresini azaltmaya yönlendirmesi, bir sonuç belirlemiş ve bunun nasıl yapılacağına ilişkin tüm operasyonel yargıları sisteme bırakmış olur. Peki birinin savunmak zorunda kalacağı ölçüt nerede?

Bu düzenlemenin üzerinde yer alan hesap verebilirlik yapısı genellikle kâğıt üzerinde iyi görünür. Üzerinde birinin adı vardır. Ancak bu adın etkisi düşündüğünüzden daha azdır.

Bir Sorumlu Belirlemek Kolay Kısımdı

2025 boyunca ve bu yıla girerken kuruluşlar bariz olanı yaptı. Yapay zekâ gözetim komiteleri kurdular, kabul edilebilir kullanım politikaları yazdılar ve organizasyon şemasında "yapay zekâ yönetişimi" ifadesinin yanına adı belirtilmiş bir yönetici koydular.

Deloitte'un 2026 Küresel İnsan Sermayesi Eğilimleri araştırması, Oxford Economics ile birlikte 89 ülkede 9.000'den fazla iş ve İK lideriyle yürütüldü ve katılımcıların %64'ünün yapay zekâ ile karar vermeyi mevcut başarıları açısından çok önemli gördüğünü ortaya koydu. Yalnızca %5'i bu konuda öncü olduğunu düşünüyor.

Buradaki endişe ile yetkinlik arasındaki mesafe, politika eksikliğiyle açıklanamaz. Çoğu kuruluşun politikası var. Eksik olan, yazılı olarak belirledikleri yetkinin kullanıldığına dair herhangi bir kanıt.

Bir İK direktörüne yapay zekânın etkilediği işe alım kararının kime ait olduğunu sorun, bir yanıt alırsınız. Son altı ayda bir işe alım uzmanının tarama aracını kaç kez resmî olarak geçersiz kıldığını ve sonrasında o işe alım uzmanına ne olduğunu sorun, odada sessizlik hâkim olur.

Bu ikinci soru sorulmaya değer, çünkü yanıt yanlışlanabilir. Sorumluluk bir iddiadır. Geçersiz kılma ise bir olaydır.

Kayıt Sonuçta Kesiliyor

Büyük ölçekli kuruluşlarda yapay zekâ destekli iş akışları oluşturmuş bir kurumsal mimar olan Kaan Esendemir, bu örüntüyü en sık karar vermek yerine öneride bulunan sistemlerde görüyor. Sanal asistanlar, iş akışı hızlandırıcıları, bir seçenek sunup kararı bir kişiye bırakan araçlar.

Bu ikisi arasındaki sınırın nerede bulunduğu bir müzakere meselesi. Kendisi, iş ve ürün sahiplerinin yapay zekânın nerede duracağına ve insanın nerede başlayacağına karar verdiğini; sistemin gerçekçi olarak neler yapabileceğini ve nerelerde başarısız olduğunu anladıkları için mühendisliğin de sürece dâhil olduğunu söylüyor. Bu kısım genellikle işe yarıyor.

Sonrasında ne olduğu ise kaydın seyrekleştiği yer.

Bu ayrım küçük görünebilir, ancak bir kuruluşun neler öğrenebileceğini belirler. Bir sonuç, neye karar verildiğini söyler. Bir anlaşmazlık ise bir kişinin bir öneriyi inceleyip yanlış olduğuna hükmettiğini ve buna karşı hareket ettiğini gösterir. Şirketler bu ikisinden daha az yararlı olanı saklıyor.

Bir geçersiz kılma yalnızca bir istisna değildir. Sistemin iyileştirilmesine ve gelecekteki önerilerin daha iyi hâle getirilmesine yardımcı olabilecek bir geri bildirimdir.

Bir geçersiz kılma günlüğü, herhangi bir COO'nun bu çeyrekte çalıştırabileceği ucuz bir teşhis aracıdır. Yapay zekânın önemli bir kararı şekillendirdiği üç iş akışı seçin. Son altı ay içinde bir insanın öneriye karşı çıktığı belgelenmiş vakaları sayın. Ardından her vakada neler olduğunu okuyun.

Sayı sıfırsa, büyük olasılıkla iki şeyden biri doğrudur. Sistem o kadar iyi performans göstermiştir ki altı ay boyunca hiçbir insan onunla aynı fikirde olmamak için bir neden bulmamıştır; ancak hiçbir satıcı kendi ürünü hakkında böyle bir iddiada bulunmaz. Ya da karşı çıkma yetkisi kâğıt üzerinde vardır ve başka hiçbir yerde yoktur.

Sayının sıfır olması gerekmez; yine de size bir şey anlatır. İspanya, aile içi şiddet vakalarında tekrarlanan şiddet riskini puanlayan Viogén adlı bir sistem kullanıyor ve harici bir denetim, polis memurlarının zamanın %95'inde sistemin önerisini takip ettiğini ortaya koydu.

Avrupa Veri Koruma Denetçisi, geçen eylül ayında yayımladığı teknik bilgilendirme notunda denetime atıfta bulunarak, bu uyumun araca duyulan haklı güveni yansıtıyor olabileceğini kabul ediyor. Ayrıca süreçte ne kadar bağımsız muhakeme kaldığına dair bir soru da ortaya koyuyor.

Bir insan ile bir model arasındaki yüzde doksan beşlik uyum, ya çok iyi bir modelin ya da kendi sonuçlarına varmaktan vazgeçmiş bir insanın göstergesidir. Günlüğün dışından bakıldığında bu ikisi aynı görünür. İçinden bakıldığında ise altı ay boyunca aynı değildir.

Geçersiz Kılma Kapasitesi Ölçülmeden Önce Aşınır

Amy Centers, örgüt psikoloğu ve SmartWorks Labs'in kurucusu, ikinci dereceden sorunu açıklıyor. Geçersiz kılma yetkisi yalnızca kullanılmadan kalmaz. Onun arkasında duran şey aşınır.

Bu düşüncenin daha keskin hâli şöyle: "Zor kararları ne kadar çok dışarıya devredersek, bir yönlendirme olmadan liderlik edemeyen liderler yetiştirme riskimiz o kadar artar."

Bu mekanizma, çoğu yönetişim incelemesinden daha uzun bir zaman diliminde işler. Arka arkaya doksan sekiz öneride modele başvuran bir yönetici boş durmamıştır. Verimli olmuştur. Ancak geçersiz kılma yetkisinin hâlâ yapabileceklerini varsaydığı şeyi uygulamadan aylar geçirmiştir.

Bu durum üç aylık bir değerlendirmede ortaya çıkmaz. Modelin önemli bir konuda kendinden emin bir şekilde yanıldığı ilk seferde ortaya çıkar; sözde bunu yakalamakla sorumlu kişi çıktıyı okur, makul bulur ve yoluna devam eder.

Centers, başarısızlık noktasını yönetici olarak belirliyor ve bunu özellikle vurguluyor.

Yönetici hesap verebilirliğiyle başlardım. İşlev bozukluklarının çoğu yöneticilerden aşağıya doğru yayılır. Çoğu zaman desteklenmez ve yeterince geliştirilmezler. Nasıl liderlik ettiklerinden sorumlu tutulmazlar. Bu kilit katmanı düzeltmezseniz, bağlılık, beceriler ve yapay zekâ benimsemesi gibi diğer tüm reformlar çöker.

Yönetici rolünü strateji ile insan deneyimi arasındaki menteşe olarak adlandırıyor. Yapay zekâ ile güçlendirilmiş bir iş akışında bu rol, kötü bir kararı ölçeklenmeden önce yakalayabilecek konumda olan tek katmandır; ancak bu rol, operasyonel güvenilirlikleri nedeniyle terfi ettirilmiş ve makine çıktısını doğrulamanın artık işin bir parçası olduğu hiç söylenmemiş kişilerle doldurulmuştur.

Otomasyon, İnsanlara En Zor Vakaları Bırakıyor

Victoria Pelletier, daha önce Accenture ve IBM gibi şirketlerde insan ve dönüşüm işlevlerine liderlik etmiş biri olarak, otomasyonun geride kalan işleri nasıl etkilediğine dikkat çekiyor.

Onun da belirttiği gibi, iletişim merkezleri bu deneyi herkesten yıllar önce gerçekleştirdi. Kurallara uymayı otomatikleştirdiğinizde, bir kişiye ulaşan her çağrı, tanım gereği kuralların ele alamadığı çağrıdır. Geride kalan iş, ortadan kaldırılan işten daha zordur.

Pelletier'in vurguladığı nokta, rol tanımlarının nadiren buna ayak uydurduğudur. Hacim azalır, zorluk artar; ancak iş tanımı, eğitim ve performans kriterlerinin tümü hâlâ işi eskiden olduğu şekliyle tanımlar. Geride kalan işin "bugün zaten beklediğimiz bazı şeylerde çok farklı bir yetkinlik düzeyi gerektirdiğini" belirtiyor.

Ayrıca karar yetkilerinin neden yeniden yapılandırılmadığına ilişkin yapısal bir neden de ortaya koyuyor. Organizasyon tasarımı ve iş mimarisi işlevleri, rollerin sık sık yeniden değerlendirilmesine gerek kalmayacağı yönündeki makul varsayımla, son on yıl boyunca genel gider olarak küçültüldü.

Şimdi karar yetkilerini yeniden yapılandıracak kişiler bunlar. Pelletier, onların yokluğunda yaşananları "işlerin Frankensteinlaştırılması" olarak adlandırıyor.

İnsan Denetimli Sürece Yönelik İki Eleştiri

Şu anda insanı sürecin içinde tutmaya yönelik iki itiraz dolaşımda ve bunlar birbirinin tam tersi yönlere işaret ediyor.

Jurgen Appelo'nun görüşüne göre, zorunlu insan kontrol noktaları insanları darboğaza dönüştürüyor. Her etkileşim bir kişiyle başlayıp bir kişiyle sona eriyor, sistemler birbirleriyle hiçbir zaman iletişim kuramıyor ve operasyon en yavaş kişinin hızında ilerliyor. Buna insanları sürece dahil etme tuzağı adını veriyor.

Esendemir, geçersiz kılmaları kaydetmemenin "çoğunlukla bir tasarım kararı" olduğunu söylerken kastettiği şey bu.

Süreçten Çok Sonuçlar

Sistemler bu anlaşmazlıkları kaydedecek şekilde oluşturulabilir; ancak kuruluşlar, geçersiz kılmaları ölçülebilecek değerli bir sinyal olarak bilinçli şekilde tanımlamadıkları sürece genellikle nihai sonuca öncelik verir.

Avrupa Veri Koruma Denetçisi'nin yaklaşımı ise bunun neredeyse tam tersi. Daha önce bahsedilen, otomatik karar alma süreçlerinde insan denetimine ilişkin teknik raporda EDPS, insanın sürece dahil olmasının tek başına denetim sağladığını varsaymaya karşı uyarıyor ve kuruluşların, bir kişinin gerçekten müdahale edebilmesi için yetkiyi, arayüzleri ve eskalasyon yollarını açıkça tasarlaması gerektiğini savunuyor.

Her ikisi de doğru ve farklı başarısızlıkları tanımlıyor. Appelo'nun insanı yolun üzerinde duruyor. EDPS'nin insanı ise orada ama güçsüz. Bir kuruluş, kontrol noktalarını kaldırarak ilk sorunu çözebilir ve bu süreçte ikincisini daha da kötüleştirebilir.

Rapor, güçsüzlüğün uygulamada nasıl göründüğünü adım adım açıklıyor. 2014 ile 2019 yılları arasında Polonya'nın kamu istihdam hizmeti, iş arayanları üç kategoriye ayıran bir algoritma kullandı ve her kişinin alacağı desteği kategori belirledi. Müşteri danışmanları resmî olarak insan denetimi görevine atanmış ve sınıflandırmayı geçersiz kılma yetkisine sahipti.

Yetkileri vardı ama bu yetkiyi kullanamıyorlardı. Vaka yükleri çok fazlaydı ve eğitim yetersizdi. Hiç kimse onlara hangi durumlarda geçersiz kılmanın gerekli olduğunu veya bunu nasıl gerekçelendireceklerini söylememişti. Sistem, çıktılarını belirli bir sınıflandırmanın karşılarında oturan kişiye uygun olup olmadığını değerlendirmeyi zorlaştıran bir biçimde gösteriyordu.

Sonra sistem tasarımıyla hiçbir ilgisi olmayan kısım geldi. Bazı yerel yöneticiler geçersiz kılmaları açıkça caydırdı, bazıları ise bunları yasakladı; çünkü bir geçersiz kılma işlemi üst yönetimin dikkatini çekiyordu.

Danışmanların eğitimi, bir eğitim bütçesinin çözebileceği anlamda yetersiz değildi. Bir teşviki doğru şekilde okuyorlardı. Modeli geçersiz kılmak, bir yöneticinin hesabını vermek zorunda kalacağı bir kayıt oluşturuyordu; modeli takip etmek ise hiçbir şey yaratmıyordu. Bu iki seçenek ve dolu bir vaka yükü karşısında rasyonel davranış, ekranda yazanı onaylamaktır.

EDPS koşulu açıkça ortaya koyuyor. Operatörler, yalnızca sistemi kullandıkları için kendi kuruluşlarının sonuçlarından korkmadıkları takdirde bir sistem üzerinde gerçek yetki kullanabilirler.

Bu, arayüz tasarımıyla değil, yönetimle ilgili bir ifade ve geçersiz kılma yetkisinin genellikle göstermelik olmasının nedeni de bu. Resmî yetki verilmesi işin kolay kısmı. Herhangi birinin bunu kullanıp kullanmayacağını belirleyen şey, kullanan kişinin başına ne geldiği.

Deloitte'un eski modelin yerini neyin alacağına ilişkin ifadesi, mevcut seçenekler içinde en kesin olanı. RACI gibi eski karar yetkisi araçları, statik yetkiyi varsayar. Yapay zekâyla birlikte yetkilerin dinamik olması; insanların ve ajanların kimin, ne zaman ve hangi temelde karar vereceğini koordine edebilmesi için geçersiz kılma ayrıcalıklarının, eskalasyon yollarının ve uzlaşı kurallarının sisteme yerleştirilmesi gerekir.

Polonya'da bunların çoğu kâğıt üzerinde mevcuttu. Eksik olan, birinin bunu kullanmasını onaylamaya istekli bir yöneticiydi.

Şemayı Değil, Koşulları Oluşturun

Gerçekleşmeleri gereken sırayla dört adım.

Herhangi birine atamadan önce kararları geri döndürülebilirliklerine göre sınıflandırın. Amazon'un tek yönlü ve iki yönlü kapı ayrımı, başvurulacak temel versiyondur. Geri döndürülemez kararlar inceleme ve yavaş süreçler gerektirir. Geri döndürülebilir olanlar ilerler. Yapay zekâ çağındaki uygulama, ajan özerkliğini kararın ne kadar rutin göründüğüne değil, geri alınmasının ne kadar zor olduğuna göre eşleştirmektir.

Yalnızca yetki verilen kişiyi değil, yetki devri biçimini de adlandırın. Max Planck bulgusu bunu örneklendiriyor. Kural temelli, örnek temelli ve hedef temelli yetki devri, aksi takdirde karşılaştırılabilir durumdaki kişilerden ölçülebilir biçimde farklı talepler doğurdu. Birinin bir sisteme bir sonuç verdiği ve ölçütleri belirlemesine izin verdiği her iş akışı, en yüksek belirsizlik kategorisine girer; çünkü gerçekte yaptığı şey budur.

Yalnızca sonucu değil, anlaşmazlığı da kaydedin. Esendemir'in ortaya koyduğu boşluk, kapatılması gereken boşluktur. Bir kişi bir öneriye karşı çıktığında, bunu yaptığını, ne gördüğünü ve ardından ne olduğunu kaydedin. Tek başına sonuç, herhangi birinin hâlâ değerlendirme yapıp yapmadığı hakkında size hiçbir şey söylemez.

Sınırı belirli bir takvim doğrultusunda yeniden değerlendirin. Yapay zekânın nerede, insanın nerede karar vereceği, bir kez yanıtlayacağınız bir soru değildir. Buna bir tarih koyun.

Max Planck araştırmacıları, makineyi teslim alan kişiden ziyade yetkiyi devreden kişiyi hedefleyen bir öneriyle çalışmalarını sonlandırdı. Makinenin talimatlarınızı nasıl yorumlayacağı konusunda bilgisiz olduğunu iddia etmeyi kolaylaştıran yetki devri arayüzlerinden kaçınılmalıdır.

Bu bir tasarım ilkesidir ve ekrandaki bir kadrandan bütün bir işletim modeline kadar ölçeklenebilir. Bir kişi ile bir sonuç arasındaki her soyutlama katmanı, sonuçla yaşamayı kolaylaştırır.

Altı ay sonra pek çok kuruluşun belgeleri olacak. Politikalar, komite tüzükleri, adı belirlenmiş sorumlular, tamamlanmış eğitimler.

Birkaçının ise içinde kayıtlar bulunan bir günlüğü olacak.