Yapay Zekâ Sorunu Buldu. Sorun Kararlarınızda

Yapay zekâyı uygulamaya çalışan kuruluşların %30'undan azı bundan anlamlı getiriler elde ediyor; araçların benimsenmesi hızlanmış olsa da bu oran inatçı bir şekilde aynı seviyede kalmış durumda.

Paul Gibbons, danışman ve "Yapay Zekâyı Benimseme: İnsan Öncelikli Yaklaşım" kitabının yazarı olarak, teknoloji uygulamalarının aynı temel neden yüzünden tökezlemesini otuz yıldır gözlemliyor.

Ölüm sonrası değerlendirmelerde genellikle şu husus yer almıyor: Kuruluş, karar alma biçimini hiçbir zaman yeniden tasarlamadı.

Bu gözlem, başarısızlığın içeriden nasıl göründüğüne baktığınızda soyut olmaktan çıkıyor. Jurgen Appelo, "İnsan Robot Ajan" kitabının yazarı ve Solo Chief bülteninin kurucusu olarak, en yaygın örüntüyü verimlilik tiyatrosu olarak adlandırıyor.

Yöneticiler yapay zekâ araçlarının kullanılmasını zorunlu kılıyor. Ekipler bunları kullanmayı öğreniyor, özetler çoğalıyor ve not tutucular her toplantıyı dolduruyor. Ardından, neredeyse fark edilmeden, kuruluş her şeyin daha hızlı olduğunu ancak temelde hiçbir şeyin değişmediğini fark ediyor.

Bu iş akışlarının altında işleyen karar akışları —bir kararı kimin sahiplenmesi gerektiği, hangi verilerin kararı beslediği, insan muhakemesinin nerede gerekli olduğu ve nerede bunun yalnızca alışkanlıktan ibaret olduğu— tamamen aynı kaldı.

Appelo buna insanın döngüde olduğu tuzak adını veriyor: her yapay zekâ etkileşimi hâlâ bir insanla başlayıp bir insanla sona eriyor, sistemler birbirleriyle hiç konuşmuyor ve her şey en yavaş darboğazın hızında ilerliyor. Başka bir deyişle, araçlar daha akıllı hâle geldi ancak mimari değişmedi.

Peki değiştiğinde nasıl görünüyor?

Araç Performans Gösterirken Organizasyon Gösteremediğinde

Carla Catelan, yirmi yılı aşkın süredir geniş ölçekte yetenek kazanımı operasyonlarını yürütüyor ve Thoughtworks, Cognizant ve Hewlett-Packard dâhil olmak üzere şirketlerde ekipleri her yıl yüzlerce işe alım sürecine yönlendiriyor. İşe alımda yapay zekâ hakkında konuştuğunda, bundan bir araç olarak söz etmiyor. Bir tasarım probleminden söz ediyor.

Bu çerçeve, zor kazanılmış bir gözlemden ortaya çıktı.

Thoughtworks işe alım hunisine tahmine dayalı analitiği uygulamaya başladığında Catelan'ın ekibi beklenmedik bir şey keşfetti. Bir pozisyonun açılmasından doldurulmasına kadar geçen gün sayısı olan döngü süresi zaten güçlüydü ve sürekli olarak 30 ila 35 gün aralığında seyrediyordu. Sorun hız değildi. Bunun üzerine ekip, sorunun ne olduğunu araştırmaya koyuldu.

Buldukları şey, pozisyon tanımlarındaki değişkenliğin, aday kalitesinden daha güvenilir bir şekilde daha kötü işe alım sonuçlarına yol açtığıydı. Belirsiz, abartılı veya tutarsız biçimde yapılandırılmış iş tanımları, yapay zekânın yukarı akıştaki öğrenme davranışını bozuyor; aday havuzunda kim olursa olsun daha düşük dönüşüm oranları, son aşamada daha fazla ret ve başlangıçta daha zayıf performans üretiyordu.

Belirsizliğin Maliyeti

“Catelan, öngörücü modellerle çalışmadan önce belirsiz, tutarsız veya şişirilmiş iş tanımlarının işe alım sonuçlarını ve yapay zekâ sistemlerinin öğrenme davranışını ne ölçüde çarpıtabileceğini hafife alıyordum,” diyor. “Yapay zekâ ile iş tasarımı ve iş tanımının kalitesi, sonraki her kararı belirler.”

Çözüm yeni bir model değildi. Thoughtworks, Catelan'ın "öngörücü yapılar" olarak adlandırdığı iş tanımlarını yeniden oluşturdu; başarıdan ziyade gürültüyle ilişkili gereksinimleri çıkardı ve modele giren sinyale odaklandı. Karar girdileri iyileştiği için yapay zekâ da gelişti.

Karar mimarisine giren unsurların kalitesinin çıkan sonuçların kalitesini belirlediği bu yukarı akış mantığı, Catelan'ın geliştirdiği her uygulamanın temelinden geçer.

Yapay zekâ kalıpları ortaya çıkarmak, uzunlamasına verileri bir araya getirmek ve nicel sinyalleri yapılandırmak için kullanılır. İnsanlar niteliksel değerlendirme ve nihai kararların sorumluluğunu korur. İkisi arasındaki sınır varsayılan değil, açıktır.

Pilot Uygulamalar Ölçeklenmez. Mimari Ölçeklenir.

Catelan'ın bunu kopyalamaya çalışan kuruluşlarda gördüğü en yaygın hata, yapay zekâyı bir dizi pilot uygulama olarak ele almak yerine işi nasıl karara bağlama biçiminde temel bir değişiklik olarak görmektir.

Çoğu şirket yapay zekâ araçlarına büyük yatırımlar yapıyor ve iyileşmeler bekliyor," diyor. "Ancak aynı teşvikleri, aynı hiyerarşik yapıları ve liderlik genelinde aynı düşük veri okuryazarlığını koruyorlar. Sonuç olarak yapay zekâ ya yeterince kullanılmıyor ya da yanlış kullanılıyor. Güçlü modeller, güvenilmeyen, anlaşılmayan veya eyleme dönüştürülmeyen içgörüler üretiyor.

Thoughtworks bunu, yetenek kazanımında yapay zekâ destekli karar tasarımına özel olarak adanmış, işlevler arası bir çalışma grubu kurarak ele aldı.

Grup, açıkça belirlenmiş iş düzeyi hedefleri doğrultusunda çalışır:

• Öngörücü segmentasyon yoluyla işe alım hunisinin genelindeki dönüşüm oranlarını %50 artırmak
• Süreçte daha erken aşamada düşük olasılıklı adayları eleyerek mülakat saatlerini %30 azaltmak.

Bu sayılar hedef niteliğinde değildir. Bunlar görev tanımıdır.

Sıralama, hedefler kadar önemlidir. Herhangi bir otomasyon uygulamaya alınmadan önce grup, kritik kararların nerede verildiğini, bunların kime ait olduğunu, hangi verilerin gerektiğini ve insan değerlendirmesinin nerede merkezde kalması gerektiğini haritalandırır.

Yapay zekâ ancak bu mimari netleştikten sonra devreye girer ve incelenmemiş süreçlerin üzerine eklenmek yerine belirli adımları destekler.

"Otomasyonu uygulamaya koymadan önce karar iş akışlarını yeniden tasarlıyoruz," diyor Catelan. "Sonra değil."

Uygulamaların %90'ının Atladığı Adım

Yannick Fouagou, Greenshield'da İnsan Operasyonları ve Çözümleri Direktörü olarak farklı bir yönden benzer bir sonuca ulaştı. Geçmişi elektronik mühendisliği ile süreç bütünlüğünün pazarlık konusu olmadığı ve başarısızlığın fiziksel sonuçlar doğurduğu petrol ve gaz kalite sistemlerine dayanıyor. İnsan operasyonlarına geçtiğinde aynı titizliği yapay zekâ benimsemenin insani boyutuna taşıdı.

Onu şaşırtan şey, teknolojiye kıyasla insanların teknolojiye verdiği tepkinin ne kadar daha önemli olduğuydu.

Fouagou için karar mimarisi yalnızca bir organizasyon tasarımı meselesi değildir. Aynı zamanda davranışsal bir meseledir. Yaklaşımı, paydaşları benimseme eğrisinde bulundukları konuma göre gruplandırır, onlarla bulundukları noktada buluşur ve ardından yeni çalışma biçimini resmî süreçlere ve belgelere kodlayarak değişimin geçici bir heyecan artışı yerine yapısal hâle gelmesini sağlar.

"Sadece araçları kullanıma sunmuyoruz," diyor. "Hesap verebilirliği sağlamak için yeni çalışma biçimini standart işletim prosedürlerine ve politikalara kodluyoruz."

Bu kodlaştırma bir geri bildirim döngüsü oluşturur. Sistem, çalışanların ne sorduğunu izler, belgelerin eksik olduğu yerleri belirler ve boşlukları doldurmak için öneriler üretir. Bilgi tabanı, onu kullanan kişilerin kalıplarından öğrenir. Davranış katmanı sonradan eklenmek yerine yapının içine yerleştirildiğinde karar mimarisi böyle görünür.

Liderlerin Çıkması Gereken Döngü

Bunu işlev düzeyinde hayata geçiren uygulayıcıların yeniden tasarım yapmak için alanı var. Daha zor sorun ise en üst kademede.

Gibbons, yönetici ekipleri için yapay zekâ okuryazarlığı programları yürüttü ve sonuçları kaygı verici buldu. On iki liderden oluşan bir gruba önceki yıl ne kadar resmî eğitim aldıklarını sorduğunda, hepsinin toplamı üç gündü.

"Bu kesinlikle yeterli değil," diyor.

Sorun bireyselden çok yapısal. Gibbons'a göre başarı, üst düzey liderlerin yapay zekâ kullanımının gerektirdiği öğrenme biçimine karşı dirençli hâle gelmesine neden oldu. Otoriteleri bir şeyleri bilmeye dayanıyor. Yapay zekâ bunu istikrarsızlaştırıyor.

Appelo, liderlik sorununu farklı bir şekilde çerçeveliyor ancak aynı sonuca ulaşıyor. Yapay zekâ, analitik görevlerin çoğunda insanlardan daha iyi performans gösterdiğinde liderlik, cevaplara sahip olmakla ilgili olmaktan çıkıyor.

Cevapları Bilmek Zorunda Değilsiniz

“Liderlik artık hangi soruların sorulacağını, hangi kısıtların belirleneceğini ve ne zaman müdahale edileceğini bilmekle ilgili,” diyor. “Bu, cevapları bilmekten daha zor.”

Yöneticilerin çoğu, göreli öngörülebilirlik koşulları için geliştirilmiş yönetim çerçeveleriyle yetiştirildi. Appelo, özellikle 1970'lere dayanan ve bilgi akışını kontrol eden, kararları onaylayan ve döngünün merkezinde yer alan bir lideri varsayan Dönüşümcü Liderlik modeline işaret ediyor.

Yapay zekâ kullanımının ortadan kaldırmayı gerektirdiği şey tam olarak bu modeldir. Döngünün içindeki yöneticiler darboğaz hâline gelir. Döngünün üzerinde yer alan; yönlendiren, ayarlamalar yapan ve gerçekten zor kararlar hakkında muhakemede bulunan yöneticiler, yeni mimarinin gerektirdiği kişilerdir.

Gibbons, buna denk gelen değişimi Uyumlanabilir Liderlik olarak adlandırıyor. Hız, ortaya çıkış ve son noktanın nasıl görüneceğini bilmeden faaliyet göstermek için tasarlanmıştır.

"Pilotların nasıl bir şekil alacağını veya ne kadar kolay ölçeklenebileceğini bilmiyoruz," diyor Gibbons. "Eski liderlik paradigmaları artık var olmayan bir öngörülebilirlik için oluşturulmuştu.

Yapay Zekâ İçin Karar Mimarisi Oluşturmak

Yukarıdaki uygulayıcılar ortak bir metodolojiyle çalışmıyor, ancak yaklaşımları tutarlı bir mantığı izliyor. Bunu nasıl uygulayacağınız aşağıda açıklanıyor.

Araçla değil, kararla başlayın

Herhangi bir yapay zekâ uygulaması seçmeden önce hedeflediğiniz iş akışındaki her önemli kararı haritalayın. Her kararın sahibi kim? Hangi veriler bu kararı bilgilendiriyor? İnsan muhakemesi gerçekten nerede gerekli, nerede yalnızca alışkanlıktan ibaret?

Catelan'ın ekibi, tahmine dayalı modelleri kullanıma sunmadan önce bu çalışmayı yetenek kazanımı genelinde gerçekleştirdi. Haritalama, sonraki aşamalardaki hataların en büyük kaynağının seçim süreci değil, bu sürece veri sağlayan iş tanımları olduğunu ortaya çıkardı.

Girdileri denetleyin

Yapay zekâ, ona beslediğiniz verilerden öğrenir. Bir modele giren veriler tutarsız, şişirilmiş veya kötü yapılandırılmışsa çıktılar bunu yansıtır. Catelan'ın iş tanımlarını yeniden tasarlaması, modelin kendisine dokunmadan model performansını iyileştirdi.

Herhangi bir iş akışında yapay zekâyı kullanıma sunmadan önce, bu iş akışının dayandığı girdilerin kalitesini ve tutarlılığını inceleyin. Artık kötü girdi çok daha hızlı ölçekleniyor.

Süreç ölçümleri yerine iş düzeyinde hedefler belirleyin

Belirsiz hedefler belirsiz sonuçlar üretir. Catelan'ın çalışma grubu belirli sayılara göre hareket ediyor: dönüşüm hunisi dönüşüm oranlarında %50 artış, mülakat saatlerinde %30 azalma.

Bu hedefler, münferit deneyler yerine sürekli ve sistem düzeyinde performans için baskı oluşturur. başarıyla yeniden tasarlanmış bir yapay zekâ iş akışının iş açısından ne ürettiğini ifade edemiyorsanız tasarım hazır değildir.

İnsan-yapay zekâ sınırını açıkça tanımlayın

Her yeniden tasarım iki soruya net yanıt verilmesini gerektirir: Yapay zekâ nelerden sorumlu, insanlar nelerden sorumlu? Catelan'ın ilkesi, yapay zekânın nicel sinyalleri yapılandırması ve içgörüleri ortaya çıkarması; insanların ise nitel muhakemeyi ve nihai kararları elinde tutmasıdır.

Bu sınır belgelenmeli, paylaşılmalı ve sistem olgunlaştıkça yeniden ele alınmalıdır. Sınır olmadığında hesap verebilirlik belirsizleşir ve hataların izini sürmek mümkün olmaz.

Ölçeklendirmeden önce yönetişimi yerleştirin

İnsanların müdahale edebilme kapasitesini, önyargı ve kayma izlemeyi ve model sonuçları için açık hesap verebilirliği, en başından itibaren mimariye dahil edin. Fouagou, değişiklikleri gayriresmî uygulamalar olarak bırakmak yerine politika hâline getirir.

Sonradan eklenen yönetişim genellikle bir şeyler zaten ters gittikten sonra devreye girer.

Benimsemeyi davranışsal bir sorun olarak ele alın

Fouagou'nun 10/90 gözlemi, çoğu kuruluşun tamamen atladığı katmandır ve bu durum sıklıkla maliyetli AI yatırım getirisi ölçüm hatalarına yol açar. Teknik uygulama ile insanların benimsemesi aynı şey değildir.

Paydaşlarınızı segmentlere ayırın. Direncin ortaya çıkmasının muhtemel olduğu noktaları belirleyin ve uygulama sırasında değil, uygulamadan önce ele alın. Yalnızca verimlilik kazanımlarını değil, geri kazanılan zamanın gerçekten daha yüksek değerli işlere yönlendirilip yönlendirilmediğini de ölçün.

Çoğu kuruluşun henüz yüzleşmediği bir boşluk var. Bu boşluk, uygulamaya aldıkları araçlarla değişmeden bıraktıkları karar mantığı arasında yer alıyor.

Catelan'ın AI'ya hazırlık yaklaşımı üzerinde düşünmeye değer.

“Bu, sürekli olarak daha iyi sorular sormak anlamına geliyor,” diyor. “Hangi sinyaller önemli, belirsizlik nerede mevcut ve veriler insan muhakemesini nasıl şekillendirebilir?

Araçlar soruyu görünür hâle getirdi. Ona yanıt veren şey ise tasarım çalışmasıdır.