Panolardan Kararlara Geçiş Açığını Bir Veri Ekibi Düzeltemez

Şimdiye kadar haberi mutlaka duymuşsunuzdur. Gartner, yapay zekâ girişimlerinin yalnızca %5'inin vaat edilen iş sonuçlarını sağladığını tahmin ediyor. 

Yapay zekâ hakkında konuştuğumuzda, bu sayı teknolojiye yönelik bir kınama ya da onu etkili bir şekilde kullanma becerimizin bir suçlaması olarak oldukça sık gündeme geliyor. 

Beverly Wright, günümüzün yapay zekâ sağlayıcılarının çoğu henüz ortada yokken bile bu örüntünün tekrarlandığını gözlemliyordu. Kariyerine 1990'ların başında karar bilimleri alanında başladı; o dönemde ülkede yalnızca üç lisansüstü program ve yılda belki 20 mezun vardı. 

Geçen hafta Atlanta'da düzenlenen Optimize Edilmiş Yapay Zekâ Konferansı'nda, "Benzer bir sorun yaşadık," dedi. "Ama şimdi sorun ölçek ve otomasyonla ilgili. Bu, çok daha büyük bir problem."

Wright, Georgia State University'de yönetici eğitimine geçmeden önce Southern Company ve Cox Communications'ta veri bilimi görevlerinde onlarca yıl çalıştı. Yapay zekâ yatırımlarının neden sürekli başarısız olduğuna ilişkin teşhisi, çoğu teknoloji sağlayıcısının duymak isteyeceğinin tam tersine işaret ediyor: sorun organizasyonel.

Üzgünüm sağlayıcılar. Bu, sizin çözmeniz gereken bir sorun değil. 

Asıl Sorun Nadiren Başladığınız Sorundur

Wright oturumuna asansörlerle ilgili bir hikâyeyle başladı. Çok uzun zaman önce binalarda asansörlerin çok yavaş olduğuna dair şikâyetler alınıyordu. Bariz çözüm daha hızlı asansörlerdi. Ancak ortaya çıktığı üzere asıl sorun hız değildi. Sorun can sıkıntısıydı. İnsanlar sessizlik içinde veya daha da kötüsü yabancılarla birlikte beklemek zorunda kalıyordu; bu can sıkıntısı, asansörü bekleme süresinin gereksiz yere uzun hissettiren bir rahatsızlık yaratıyordu. 

Peki çözüm ne oldu? Aynalar. Hepsi bu. Mühendislik gerektirmedi.

Ortaya çıkan sorun ile gerçek sorun arasındaki bu fark, yapay zekâ girişimlerinin çoğunun raydan çıktığı noktadır. Şirketler bir iş sorununu çerçeveler, bunu bir veri ekibine verir ve teşhis işini modelin yapmasını bekler. Model bunu yapmaz. 

Wright, "Asıl sorunu bulmak düşündüğümüzden çok daha zor," dedi.

Desteklemesi gereken kararı tanımlamadan yapay zekâya başvurmak, onun görüşüne göre, girişimlerin %95'inin hiçbir sonuç vermemesinin üç nedeninden ilkidir.

İkincisi açıklanabilirliktir. Bir hesap makinesi size bir yanıt verdiğinde, bunun mantık kontrolünü yapabilirsiniz. Sorduğunuz şeyin yaklaşık ölçeğini bilirsiniz. Sinir ağları üzerine kurulu yapay zekâ sistemleri bu tür sezgisel doğrulamaya olanak tanımaz. 

Bu her yerde önemlidir, ancak insan incelemesinin kanunen zorunlu olduğu düzenlemeye tabi sektörlerde özellikle kritiktir. Wright'ın uygulamada gözlemlediği şey, kuruluşların yapay zekâyı yapay zekâyı değerlendirmek için kullanarak bu gerekliliği formalite icabı yerine getirmesidir. Süreçteki insan, neyin yanlış olduğunu yakalayabilecek kadar modelin ne yaptığını anlamaz.

Üçüncü başarısızlık nedeni, kimsenin sahiplenmek istemediği bir durumdur: kuruluşun henüz hazır olmaması. 

Wright, teknoloji olanaklarının sağlanması ile kültürel olanakların sağlanmasını birbirinden ayırıyor ve şirketlerin bunları paralel değil, ardışık süreçler olarak ele aldığını görüyor. Önce sistemi kuruyor, ardından insanların kurulan şeyi kullanmaya hazır olup olmadığını soruyorlar. O noktaya gelindiğinde yanıt genellikle hayır oluyor ve yatırım rafa kaldırılıyor. 

Wright, bunu kasırgaları bir çerçeve olarak kullanarak açıkladı: yalnızca yaklaşık %0,1'i ciddi hasara yol açar, ancak bu küçük orana ilişkin korku, herkesin tüm kasırgalara nasıl tepki verdiğini şekillendirir. Değişime direnç de aynı şekilde işler. Yeni bir şeyi benimsemenin algılanan riski, yerinde kalmanın kanıtlanmış riskinden daha ağır basar; matematik bunun tersini gösterse bile. 

Asla Bir “İşte Bu!” Anı Olmamalı

Wright gerçekten işe yarayan şeylerden bahsettiğinde, teknoloji yatırımına ilişkin herhangi bir yorum yapmıyor. Bunun yerine anlattığı şey, kuruluşların içgörü ile eylem arasındaki ilişkilerini nasıl yeniden kurduklarıdır.

Araçla değil, kararla başlayın 

Wright, şirketlerin bir hisse senedinin fiyatını yükseltmek için yapay zekâ girişimleri duyurduğu ve duyurunun amaca dönüştüğü yönetim kurulu baskısı dinamiği konusunda açık konuşuyor. 

"Bir yapay zekâ projesini üstlenmek için yanlış neden bu," dedi. "Şöyle diyen gerçek bir stratejiyle başlamalısınız: Sorunları şu şekilde çözeceğiz ve yapay zekâyı kullanabiliriz de kullanmayabiliriz de."

Şirketi olduğu yerde tanıyın

Bu yaklaşım, çoğu dijital dönüşüm konuşmasına hâkim olan önce hedefi belirleme düşüncesine ters düşer. Kuruluşlar gelecekteki bir duruma ulaşmayı hedefleyen yol haritaları oluşturur, ardından mevcut operasyonları bu yol haritalarına sonradan uydurmaya çalışır. 

Wright'ın savı ise bunun ters yönündedir: Elinizde gerçekten ne olduğunu anlayın ve bu gerçeklikten fayda sağlayan yapay zekâ çözümleri oluşturun.

Paydaşları en başından sürece dâhil edin

"Bir "işte oldu" anı yaşanmamalı," dedi. Bir veri ekibinin izole biçimde çalışıp bitmiş bir ürünü sunduğu, son aşamada ortaya çıkarma modeli, reddedilmeye giden güvenilir bir yoldur. 

Bir araç onu kullanmak zorunda olan kişilere ulaştığında, aracın ne yaptığına dair hiçbir katkıları olmamıştır. Direnç irrasyonel değildir. Dışlanmanın öngörülebilir sonucudur.

Yönetişim sorunu

Wright, günümüzde çoğu kuruluşta bulunan iki tür yapay zekâ kullanıcısı arasında ayrım yapıyor: veri ve analitik alanlarından gelen, birikmiş teknik yeterlilikleri sayesinde yapay zekâya yönelenler ile çoğu zaman bir şey yanlış göründüğünde bunu fark edebilecek temelden yoksun olarak operasyonel veya işlevsel geçmişlerden gelenler. Bir yapay zekâ hazırlık stratejisi geliştirmek, bu farklı kullanıcı türlerini anlamayı gerektirir.

Bu boşluk bir yönetişim sorunudur ve veri ekibinin değil, işi yöneten kişilerin sorumluluğundadır. Yapay zekâ çıktılarının incelenmesiyle görevlendirilen insanlar inceledikleri şeyi anlamıyorsa, inceleme bir gösteriden ibarettir. Ve yeterince çok girişimde tekrarlanan gösteri, %5'lik başarı oranının ortaya çıkma biçimidir.

Wright'ın önerdiği çözüm, uygulamaya daldırmak değil, okuryazarlıktır. Operasyon liderlerinin sinir ağlarını anlaması gerekmez. Sorumlu kullanımın neye benzediğini, koruyucu sınırların neler olduğunu ve neden var olduklarını anlamaları gerekir. 

"İşleri berbat etmeyi gerçekten imkânsız hâle getiriyor," dedi ve bu çerçevelemenin teknik olmayan kitlelerde nasıl karşılık bulduğunu açıkladı. "Ve bu hepimiz için geçerli."

Çoğu kuruluş veri altyapısı oluşturmak için on yıl harcadı. Bu yatırım ile gerçek iş kararları arasındaki boşluk kurumsaldır ve hiçbir platform yükseltmesi bu boşluğu kapatamaz.