Yapay zekâyı kontrol altında tutmak için insan denetimi neden yeterli değil

David Rice: İnsanlığın daha önce hiç karşılaşmadığı bir şeymiş gibi yapay zekâ destekli karar alma süreçlerinden bahsediyoruz. Claire Maiers, insanların tahmine dayalı sistemlerle birlikte çalışmasını on yılı aşkın süredir inceliyor ve en önemli dersi unuttuğumuzu söylüyor: bağlam. Bugünkü programda Claire ile bu kez aslında neyin farklı olduğunu konuşuyorum; farklı olan, makine önerilerinin varlığı değil.

Bunlar yıllardır kolluk kuvvetlerinde, şartlı tahliye kararlarında, işe alımda, Netflix’te ve aklınıza gelebilecek her yerde kullanılıyor. Farklı olan, bu sürümün taşıdığı kültürel otorite. Dil, sayılara kıyasla daha işlenmiş ve kesin hissettiriyor. Diyalog tasarımı, bir sistemin meslektaş, hatta otorite gibi algılanmasını sağlıyor. Bu da bilinçli olarak yapmadığınız sürece sisteme eleştirel bir gözle yaklaşmayı zorlaştırıyor.

Claire’in savı, kuruluşların henüz bütünüyle yüzleşmediği bir noktaya uzanıyor. Yapay zekâ, kuruluşların sosyoteknik sistemler olduğunu inkâr edilemez hâle getirdi. Artık aktörler yalnızca insanlardan oluşmuyor ve bu da insan yönetimi liderlerinin gerçek bir karar vermesi gerektiği anlamına geliyor: Yapay zekânın kullanılıp kullanılmayacağı değil, ne ölçüde entegre edileceği ve ne yönde bir vizyon oluşturulduğu.

Kalabalığı takip etmek kolay yol. Aynı zamanda, kimse şirketin böyle işlemesi gerektiğine bilinçli olarak karar vermeden, binlerce bireysel olarak makul yapay zekâ destekli kararın kimi işe alacağınızı, kimin terfi edeceğini ve neyin ödüllendirileceğini yeniden şekillendirmesine yol açan yol da bu. Bu nedenle bugün; bağlamın, yalnızca kültürün değil, yapay zekâ tartışmalarının çoğunda eksik kalan unsur olmasının nedenlerini, on yıl önce büyük veri konusunda neyi yanlış yaptığımızı ve aynı hatayı tekrarlayıp tekrarlamadığımızı, üretken yapay zekânın önceki karar destek sistemlerinden neden daha ikna edici bir otorite taşıdığını ve kurumsal tasarımı iş modelinin kendisi kadar ciddiye almanın ne anlama geldiğini ele alıyoruz.

Ben David Rice. Burası People Managing People. Kuruluşunuz, arkasındaki vizyonu kimse belirlemeden yapay zekâ benimsemeye başladıysa, bu konuşma bunun yalnızca bir teknoloji sorunu değil, kurumsal tasarım sorunu olduğunu ortaya koyuyor. Başlayalım.

Microsoft Teams için geliştirilmiş, performans yönetimi ve çalışan bağlılığı alanında en yüksek puan alan platform Teamflect ile tanışın. 1.000’den fazla kuruluşun güvendiği, kullanımı kolay ancak kurumsal düzeyde bir çözüm. Daha fazla bilgi için Teamflect.com adresini ziyaret edin.

Claire, programa hoş geldin. Seni burada görmek güzel.

Claire Maiers: Çok teşekkür ederim. Bugünkü sohbetimiz için gerçekten çok heyecanlıyım.

David Rice: Bu tartışmaya başlamak istediğim nokta şu: Yapay zekâ destekli karar almayı, insanlığın daha önce hiç karşılaşmadığı bir şeymiş gibi ele alma eğilimi var.

Oysa siz, üretken yapay zekâya sahip olmamızdan çok önce insanların tahmine dayalı sistemlerle birlikte çalışmasını incelediniz. O dönemde ne öğrendik de şimdi bir şekilde unuttuk ve bu sefer gerçekten ne farklı?

Claire Maiers: Evet, birçok şeyin farklı olduğunu düşünüyorum; ancak benzer olan şu: Uzun zamandır çeşitli alanlarda en azından veri noktalarıyla, bir sistemden çıkan bir tür tahmin veya öneriyle çalışıyoruz. Bu sistem çoğunlukla kara kutu niteliğinde; çoğu kullanıcı için üretken yapay zekânın da olduğu gibi.

Dolayısıyla bu kısım benzer. Karar alma desteği için bu sistemleri kullanan insanları son on yılı aşkın süredir incelerken öğrendiğimiz dersin, bağlamın gerçekten önemli olduğu olduğunu düşünüyorum. Pek çok tartışmada bu unsurun unutulduğunu hissediyorum. Elbette kültür hakkında konuşuyoruz ama bence bağlam kültürün ötesine geçiyor ya da en azından kurumsal tasarım hakkında düşünürken ele alabileceğimiz farklı bileşenlere ayrılabilir.

İnsanların bağlam hakkında daha geniş anlamda konuşmaya başladığını görüyorsunuz. Ancak bağlamdan söz ederken kastettiğim şu: İnsanlar bu sistemleri tasarlanırken düşünülebilecekleri gibi boşlukta kullanmıyor. Normları olan belirli bir kuruluşta kullanıyorlar.

Belirli bir mesleki bakış açısından geliyorlar. Aynı zamanda önemli olan belirli bir kültür içinde faaliyet gösteriyorlar. Kültürün önemli olan yönünün ise gerçeği nasıl değerlendirdiğimiz, neyi bilgi olarak kabul ettiğimiz ve dolayısıyla bu sistemlerin çıktılarını nasıl yorumlayıp onlarla ne yaptığımız olduğunu düşünüyorum. Bu nedenle mesele, bağlamın rolü; bu sistemlerin gerçek kararlara nasıl uygulandığı.

İnsanların yeterince hesaba katmadığı şey bu.

David Rice: Gerçekten söz ettiniz ve bilgiyi daha iyi anlamaktan bahsettiniz. Her teknoloji nesli, özellikle yargı gibi karmaşık insani unsurları daha nesnel bir şeyle değiştirme vaadiyle gelmiş gibi görünüyor.

Bence bu kez farklı olan, makine önerilerinin varlığından çok erişilebilirlikleri ve ikna edici nitelikleri. Ne demek istediğimi anlıyor musunuz? Artık bunun geçerli bir açıklama olduğunu, her şeyin akıl yürütülerek ortaya konduğunu gerçekten iyi bir şekilde ifade ediyorlar. Birçok açıdan son derece ikna edici.

Bu, “Bu öznel” düşüncesini aşmamızı sağlıyor; çünkü her şeyi bilen bir kaynak olarak gördüğümüz bir yerden geliyor. Daha önceki karar destek sistemlerinde yaptığımız ve şimdi tekrarlamaya başladığımızı düşündüğünüz hatalar var mı?

Claire Maiers: Bu çok ilginç bir soru. Gördüğüm kadarıyla en iyi örneklerde, bu karar alma sistemlerinin çıktılarını çoğu zaman bir insanın dengelemesi söz konusu oldu.

Elbette işlerin ters gittiği durumlar da gördük. Kolluk kuvvetlerinde tahmine dayalı analitiklerin, yeniden suç işleme tahminlerinin veya insanların şartlı tahliye edilip edilmeyeceğine ilişkin değerlendirmelerin kullanımını düşündüğünüzde, insan gerçekliğini hesaba katamayacak kadar katı sistemlere aşırı güvenildiğini gördük. Büyük veri etrafındaki büyük heyecan sırasında en önemli korkulardan biri de buydu; bence bu, bunun önceki versiyonuydu.

Şu anda bu döngüler çok hızlı gerçekleşiyor. Ancak yaklaşık 10-15 yıl önce büyük veri, nihayet insan öznelliğine güvenmek zorunda kalmadan soruları yanıtlayabileceğimiz, gerçeği bilebileceğimiz, dünyada neler olup bittiğini anlamamızı sağlayacak kadar büyük veri kümelerini işleyebileceğimiz ve dolayısıyla tahmin gücüne sahip olabileceğimiz fikriyle kutlanıyordu.

Fakat sonra bunun geri teptiğini hızla gördük. Daha önce söylediğim gibi, insan gerçekliğini gerçekten hesaba katamayan aşırı katı sistemlerde. Buradaki riskin tam olarak bu olduğundan emin değilim. Bu da bir risk olabilir. Ancak beni daha çok endişelendiren, büyük verinin yaygınlaşmasıyla olanlar ile yapay zekânın, özellikle üretken yapay zekânın mevcut sürümüyle yaşananlar arasındaki farklar.

Yapay zekânın taşıdığı kültürel otorite çok daha ağır, derdim. Bunun çeşitli nedenleri var. Birincisini siz zaten öngördünüz: Biçimin kendisi. Sayılar yerine dil biçimindeki çıktılardan söz etmemiz, bunları daha işlenmiş ve kesin hissettiriyor. Sistemlerin bilinçli olarak, bahsettiğiniz gibi, konuşma biçiminde, bir meslektaş, arkadaş veya otorite gibi hissettirecek şekilde tasarlanması, psikolojik açıdan onlara eleştirel ve sorgulayıcı bir gözle yaklaşmamızı, bunu çok bilinçli şekilde yapmadığımız sürece zorlaştırıyor.

Ölçek de farklı. Veri bilimi ve büyük veri döneminde bile The New York Times ve The Atlantic’te bu konular hakkında makaleler yayımlanıyordu; ancak insanların çoğu bu teknolojiyle her gün etkileşim kurmuyordu. Teknoloji, farkında olsalar da olmasalar da, onları her gün etkiliyordu.

Reklamlar ve etkileşimde bulunduğumuz tüm platformlar aracılığıyla, hükümetimizin aldığı kararlar aracılığıyla. Ancak teknolojiye her gün dokunan insanların ve dolayısıyla teknolojinin uygulanabileceği sorunların ölçeği çok daha küçüktü. Araçları geliştirmek için hâlâ altyapıya farklı türde bir erişime ve veri bilimi konusunda eğitime ihtiyaç vardı. Ayrıca araçları veri bilimi uzmanlarının kullandığına dair bir beklenti de vardı.

Yapı, hatta ağ da farklı. Kullanıcıların kim olduğu ve ne amaçla kullandıkları açısından ölçek büyürken, kültürümüzde büyük itibar taşıyan büyük teknoloji şirketlerinin de önemli bir rolü var. İnsanlar onları sorgulayabilir ama bu şirketler hem maddi hem de sembolik güce sahip.

Bu da farklı. Bizi bir ölçüde dengeleyen şey, genel kamu söyleminde büyük veri döneminde gördüğümüz yapay zekâ heyecanının aynısını görmemem. Çok daha fazla şüphecilik var ve bunun sağlıklı olduğunu düşünüyorum. Ancak az önce bahsettiğim tüm unsurlar bir araya geldiğinde, yapay zekâ çıktısına çok farklı türde bir kültürel otorite ve farklı türde bir sembolizm kazandırıyor.

Ben, bilgiyi nasıl bildiğimizi düşünen bir geçmişten geliyorum. Geçmişim, bilgi üretmek için kullandığımız araçların bunu yapmanın tek yolu, hatta zorunlu olarak en iyi yolu olduğunu varsaymıyor. Bilgi üretme yöntemine ilişkin inancınız ne olursa olsun, bu, yapay zekâ sistemlerinin çıktılarını nasıl karşıladığınızı etkiliyor.

Gerçek şu ki, bu yapay zekâ sistemlerinin çıktılarında, biçimleri, yapıları ve ölçekleri arasındaki farklar nedeniyle çok daha fazla kültürel ve epistemik otorite birikmiş durumda. Bu nedenle bu çıktılara eleştirel ve yorumlayıcı bir gözle yaklaşmak, büyük veri ve tahmine dayalı algoritmalarla desteklenen bir kara kutu sisteminden çıkan bir sayıya kıyasla çok daha büyük bir görev.

David Rice: İlginç, çünkü ön görüşmemizden sonra büyük veri konusunu düşünüyordum. Büyük veriden bahsettiniz ve aklıma herkesin onun yirmi birinci yüzyılın petrolü olduğunu söylediği dönem geldi. Bunu söyleyen insanlarla konuştuğumu hatırlıyorum: “Bütün bunları kim bilmek ister? Bununla ne yapacaksınız?” Artık kimse bunu söylemiyor, çünkü onunla ne yapacağınızı biliyorlar.

Bu deneyimi yaşamış veya verilerinin toplanıp kendileri üzerinde kullanıldığını görmüş birçok insanın bu teknolojiye bakıp, “Bunun nereye gittiğini çok iyi biliyorum” dediği bir dönemdeyiz.

Gerçekte nereye gittiğini bilmiyor olsalar da öyle hissediyorlar ve sanki biliyorlarmış gibi geliyor-

Claire Maiers: Bunun olumsuz etkiler yaratma potansiyelini görebiliyorsunuz.

David Rice: Evet, bu yeni teknoloji hakkındaki düşünceleri şekillendiriyor. Ancak sizin de belirttiğiniz gibi sistem sizinle konuşuyor, dili kullanıyor ve tamamen farklı hissettiriyor.

Eskiden bir tahmin modeli size yalnızca bir puan veya belki bir olasılık verirdi. Oysa artık kendini açıklayabiliyor, bir eylem planı önerebiliyor ve neden haklı olduğunu ikna edici bir şekilde savunabiliyor.

Bu bilgiyi ürettiğinde insan yargısına ne olduğunu merak ediyorum. Ona daha fazla güvenmeye başlarsak, eskisinden farklı şekillerde kendimizi sorguluyoruz. Eskiden şöyle düşünürdük: “Bilgi burada, şimdi bunu yorumlamam gerekiyor.” Makine bizimle konuşurken kendimizi ve makineyi nasıl sorguladığımız konusunda nasıl farklı düşünmeliyiz?

Claire Maiers: Bu etkileşimdeki rolümüz hakkında etkili bir düşünme biçiminin ne olacağını mı soruyorsunuz?

David Rice: Evet, bu yönden ilerleyelim.

Claire Maiers: Soruyu biraz tersine çevirerek, istediğimiz sonuçları düşünmemiz ve sistemi, yapmak istediğimiz düşünme biçimini güçlendirecek şekilde tasarlamamız gerektiğini söyleyeceğim.

Yapay zekâ karşıtı olmadığımı da belirtmek isterim. İnanılmaz uygulamalar var. Sunduğu pek çok şey konusunda çok heyecanlıyım ve insan deneyimine gerçekten değer kattığı durumlarda onu kullanmalıyız. Ancak sistemin bilgiyi, çoğumuzun ChatGPT veya Claude gibi sistemleri deneyimlediği biçimde sunulması gerekmiyor.

Basit bir örnek vereyim. Ben Claude kullanıyorum ve bazen açıkça “Bana ne yapacağımı söyleme. Yalnızca düşüncemi ilerletmeme yardımcı olacak bir soru seti istiyorum” dediğimde bile bana öneriler sunuyor. Bu, elindeki tüm fikirler konusunda ne kadar heyecanlı olduğunu söylemeden duramayan bir insan gibi.

Bu sistemi daha iyi hâle getirmeyi seçebiliriz. Sistemin üreticilerinden ve geliştiricilerinden farklı olmasını talep edebiliriz. Sanırım sizin değindiğiniz noktanın bir parçası da şu: Karar alma yöntemlerinin diğer biçimlerinde, beynimizi adımlardan geçmeye, başka türden işleme ve öğrenmeye yol açan sinapsları çalıştırmaya zorlayan faaliyetlere katılmamız gerekiyor. Pasif bir okuyucu olduğumuzda bunları yapmak zorunda kalmıyoruz.

Not almanın öğrenme olduğunu gösteren çok iyi veriler ve araştırmalar var. Not aldığınızda gerçekten öğreniyor ve bilgiyi işliyorsunuz; çünkü beyninizi kategoriler oluşturmaya, ilişkilendirmeler yapmaya ve basitleştirmeye zorluyorsunuz. Yani bilgiyi işlemek için gerçekten çok emek harcıyorsunuz.

Siz yalnızca pasif bir not alıcı değilsiniz. Toplantılarımızda bir yapay zekâ not alma aracı kullandığımızda ve bu araç toplantı sırasında kendi notumuzu almamızın yerine geçtiğinde, beynimiz gerekli çalışmayı yapmamış oluyor. Bu nedenle çoğu insan için o toplantıdan, kendi notumuzu aldığımız bir toplantıyla aynı zihinsel durumda ve aynı içgörülerle ayrılmıyoruz.

Bu, not almak ve yapay zekânın özet çıkarmasına izin vermek için bir neden olmadığı anlamına gelmiyor. Bunun nedenlerinin çoğunun uyum, belgeleme veya gelecekteki bir yapay zekâ sistemini besleme gibi amaçlara yöneldiğini savunurum. Asıl değer, birilerinin başvurabileceği yararlı bir notun bulunmasında değil, not alma eyleminin kendisinde.

Bütün bunları söylememin nedeni şu: İnsanların karar alma sürecini anlamaya dayalı ve yine de beyni bu adımlardan geçmeye zorlayan bir sistem tasarlanmasını savunurum.

David Rice: Bu harika bir örnek. Not alma örneğini çok seviyorum; çünkü bunu sürekli düşünüyorum. Yapay zekâ not alma araçlarının ortaya çıkışından beri, toplantıdan ayrılıp “Bu toplantı ne hakkındaydı?” dediğim çok oldu. Çünkü artık o kadar ilgili değilim.

Claire Maiers: Evet. Gerçek şu ki bazen ilgili olmak istemiyoruz. Düşünmek zor. Fikir üretmek, işlemek ve bütün bunların hepsi enerji gerektiriyor. Bence kolay olanı bilmekle en iyi olanı bilmek arasındaki fark bu. Gerçekten katıldığınız bir toplantıdan ayrıldığınızda kendinizi çok daha iyi hissettiğinizi savunurum.

Ayrıca kuruluşunuza yardımcı olmak için daha iyi bir konumda olduğunuzu düşünüyorum. Daha zor olsa da kendinizi kontrol etmeye zorlamaktan fayda sağlayan, kendi zihinsel durumunuzla ilgili tarif edilmesi biraz daha güç bir şey de var.

David Rice: Daha önce kendi notlarımı alırken gün boyunca toplantıdan toplantıya geçiyordum ve “Bir dakika, onların bahsettiği şey daha önce duyduğum bir konuyla bağlantılı” diye düşünme ihtimalim daha yüksekti. Odadaki insanlar aynı toplantıların hepsine katılmadıkları için belki bir araya getirmedikleri bağlantıları kurmaya başlıyordum.

Şimdi ise konuşmaya pasif bir şekilde katılıyor olabilirim. Adımı duyduğumda konuşmaya başlıyorum. Sonra, “Aslında orada bir şey söylemeliydim ama artık çok geç. An geçti. Şimdi her şeyi yeniden birbirine bağlamak ve dahil olan herkes için bağlamı açıklamak üzere fazladan çaba harcamam gerekiyor” diye düşünüyorsunuz. Teknolojiyle ve işinizin kendisiyle olan küçük etkileşimlerinizi aşırı analiz etmek için ilginç bir dönem; çünkü onunla etkileşim kurma biçiminizi değiştiriyor.

Claire Maiers: Kesinlikle.

David Rice: Daha önce incelediğiniz klinik ortamda ilginç olan şey, bir görevi makinenin mi yoksa doktorun mu daha iyi yaptığı değildi.

Uygulayıcılar, makinenin çok daha geniş bir karar sürecine nasıl dâhil olduğunu öğrendi. Bizi bu sürecin tamamından geçirebilir misiniz? Dinleyicilere bu vaka hakkında biraz bağlam verebilir misiniz? Ayrıca insanların sisteme körü körüne uymadan veya birçok kişinin yaptığı gibi sistemi tamamen reddetmeden bu ilişkinin gelişmesini sağlayan neydi?

Claire Maiers: Bu yaklaşık 10 yıl önceydi. Araştırma yeni değil ama hâlâ geçerli. Doktora çalışmam sırasında veri biliminin bilmenin ne anlama geldiğine ilişkin anlayışımızı nasıl değiştirdiğini inceledim. Bunu yapmak için birkaç vaka çalışması yürüttüm. Bunlardan biri tıp alanındaydı. Veri bilimcilerin yaklaşık bir yıl boyunca doktorlarla iş birliği yaparak hastaların sepsis geçirip geçirmeyeceğini tahmin edecek bir teknoloji üzerinde çalışmasını gözlemleme fırsatım oldu.

Sepsis, gelişmesi çok ağır bir sendromdur. Tanımlanması çok zor olabilir, tedavisi son derece güç olabilir ve hastanelerdeki çok yüksek sayıdaki ölümden sorumludur. Bu özel ekip, kalp atış hızını izleyebilen ve bu verilere dayanarak yenidoğan yoğun bakım ünitesindeki bir bebeğin sepsis geçirme olasılığını tahmin edebilen bir teknoloji geliştirdi.

Uygulamada bu, başucunda bulunan bir monitör şeklindeydi. Monitör, bebeğin önümüzdeki 24 saat içinde sepsis geçirme olasılığına ilişkin bir tahmin puanı gösteriyor, ayrıca son yedi gün içinde puanların nasıl değiştiğini gösteren bir geçmiş de sunuyordu.

Orada öğrendiğim ilginç şey, sistemin belirleyici olarak kabul edilmemesiydi; bu çok önemli. Hemşirelerin ve doktorların uzmanlığı ile deneyimleri, doktorların sepsis tedavisi uygulayıp uygulamayacağına ilişkin kararlarını hâlâ etkiliyordu. Bu şaşırtıcıydı; çünkü günümüz Amerikan tıp alanında kanıta dayalı tıp üstün durumda.

Bu, doktorların haklı nedenlerle hastalığa ilişkin gerçek kanıtları tercih ettiği ve diğer klinik belirtiler yerine gerçeği temsil eden unsur olarak nicel verilere büyük önem verdiği anlamına geliyor. Ancak sepsis gibi bazı durumlar yalnızca klinik olarak ortaya çıkabildiği için bu karmaşık bir mesele. Hasta hasta görünür ama elimizde somut, altın standart niteliğinde kanıt bulunmayabilir.

İlginç olan, daha önce söylediğim gibi, sistemin belirleyici olmamasıydı. Bu da doktorların yalnızca puan yüksek diye her zaman antibiyotik yazmadığı anlamına geliyordu. Tahmin, bu bebeğin önümüzdeki 24 saat içinde sepsis geçirme ihtimalinin çok yüksek olduğunu söylüyordu. Bunun mümkün olmasını sağlayan birkaç şey vardı.

Çok önemli olan ve yapay zekâyı daha fazla karar alma sürecine entegre ederken yüzleşmemiz gerektiğini düşündüğüm bir unsur, hastaların bedensel gerçekliğine sahip olmanızdı. Bununla kastettiğim şu: Monitör ne derse desin bebekler ya hastaydı ya da hasta değildi. Bu durum doktorlara ve hemşirelere, sistemin kimi zaman bireysel hastalara veya bir sınıf olarak hastalara nasıl tepki verdiğini zaman içinde öğrenme ve tahmin ile gerçeklik arasındaki farkı görerek bunun her zaman sepsisin doğrudan göstergesi olmadığını anlama fırsatı verdi.

Oysa iş dünyasında, yapay zekâyı iş yerinde uygulamaktan söz ettiğimizde çoğu zaman bu tür bir bağlama sahip değiliz. Rastgele kontrollü deneyler yapmıyoruz. Bazen pilot uygulamalar ve deneyler yapıyoruz ama bir şirketi satın alıp satın almadığımız iki farklı geleceği aynı anda yaşayarak sonuçların nasıl ayrıştığını göremiyoruz.

Karar alma sürecimizi dengeleyecek bu tür bir gerçekliğe sahip değiliz. Bu nedenle yapay zekâ destekli kararları dengeleyecek bir gerçekliğimiz de olmuyor. Elbette bazı özel durumlarda bu tür deneyler yapılabilir ama bence bu çok büyük bir fark.

Bu uygulayıcıların sistemin söylediklerini reddedebilmesini sağlayan bir başka önemli unsur da tedavi kararları için çok yapılandırılmış, açıkça ifade edilmiş ve bilinçli olarak tasarlanmış bir karar alma sürecinin bulunmasıydı.

Yalnızca bir süreç yoktu; süreci açıklayabiliyordunuz. Çoğu kuruluşumuzda böyle bir yapı bulunmuyor. Tedavi kararı verirken hemşire önce hastayı kontrol ediyor ve tüm verileri topluyor. Ardından belki bir asistan doktor da aynısını yapıyor. Ek bilgi edinmek için belirli laboratuvar testleri isteniyor. Sonra sorumlu doktorun ve belki radyologların da bulunduğu büyük bir toplantı yapılıyor. Herkes görüşünü sunuyor ama nihai kararı sorumlu doktor veriyor.

Bu yapay zekâ destekli sistemlerle karar alma konusunda bilinçli olabilmek istiyorsak, bize öneriler sunan bu sistemler için de verdiğimiz karar türlerine uygun, benzer biçimde yapılandırılmış ve açıkça ifade edilmiş bir sürece ihtiyacımız var.

Bu önemli; çünkü zaman içinde kararların nasıl başarısız olabileceğini öğrenmemizi ve görmemizi sağlayacak. Aynı zamanda güvenlik önlemlerini böyle oluşturuyoruz. Hastanede bu sistemle yaptıkları da temelde bu. Süreç gelişigüzel değil, çok yapılandırılmış.

Bir noktadan daha bahsetmek istiyorum: Bu durumda etik kuralların önemli olduğunu düşünüyorum.

Tıptan söz ediyoruz ve herkes aynı sonuca odaklanmış durumda. Bir hemşire doktorun kararını sorguladığında, karar alma sürecinde itiraz ettiğinde, herkesin aynı sonuca, yani hastanın sağlığına yöneldiği çok iyi anlaşılıyor.

Birçok kuruluşta insanları aynı sonuca yönlendirmek çok zor. Kabul etmek istediğimizden daha zor. Siyaset ve başka pek çok unsur engel oluyor. Ancak etik kuralları, insanları ortak bir sonuca veya kurumsal bir sözleşmeye yönlendirmede uzun bir yol kat edebilir.

Bunu yapmanın başka yolları da var. Evet, başka düşüncelerim de var ama burada durayım. Nicel verilere her şeyden fazla değer veren bir bağlamda bile daha yorumlayıcı bir sürecin oluşmasını sağlayan unsurların bunlar olduğunu düşünüyorum.

David Rice: Etik kurallarıyla ilgili söylediğinizi sevdim. Tıbbi örnekte herkes aynı şeyi hedefliyor; çünkü işlerinin varlık nedeni hastaları sağlıklı tutmak.

Diyelim ki pazarlama bütçemizi nasıl harcayacağımızı tartışıyoruz. Oraya ulaşmanın farklı felsefeleri ve görüşleri var. Hepimizin amacı aynı olabilir ama oraya nasıl ulaşacağımız konusunda çok tutkulu olacağız. Teknolojiye daha fazla sorumluluk devrettikçe, kuralları aşacağını ve görevi tamamlamak için gerekeni yapacağını zaten biliyoruz.

Yakın zamanda bunun, sınırlı ortamlardan çıkıp görevi tamamlamak için ihtiyaç duyduğu şeyleri almak üzere başkalarının sistemlerine girdiği örnekleri gördük. Evet, bu etik kurallar gelecekte giderek daha önemli olacak. Tıbbi örnekte deneyim ile gözlem ve model arasında seçim yapmak zorunda kalmamalarını da sevdim.

Her şey bir araya geliyor ve her kaynağa bağlama göre nasıl ağırlık vereceğinizi öğreniyorsunuz. Şu anda dürüst bir soru ve tartışma yürütüyoruz. Bu programda daha önce de konuştuk: Yapay zekâyı en iyi kullanan kişilerin çoğu, başvurabilecekleri güçlü bir uzmanlık temeline sahipti ve makineleri değerlendirebilmelerini sağlayan iyi yargıları da bundan kaynaklanıyordu.

Ancak 10 yıl içinde, bu teknoloji standart hâle geldiğinde durum tamamen farklı olabilir. İnsanların bu çıktılara ağırlık verme ve onlardan neyi alıp neyi almamaları gerektiğini anlama becerileri konusunda endişeniz var mı? İnsanların bunu yapma becerisini şu anda nasıl geliştirdiğimiz konusunda kaygılı mısınız?

Claire Maiers: Beni en çok rahatsız eden şey belki de bu: Tüm pazarımız kısa vadeli değer ve kısa vadeli fayda etrafında şekillenmiş durumda. İnsanların, sizin de söylediğiniz gibi, makineyi anlamlandırıp sorgulayabilecek deneyime sahip yeteneklerin veya deneyimli kişilerin azalmasıyla karşı karşıya kalabileceğimizi açıkça dile getirdiğini görüyoruz.

Bu kaygıyı paylaşıyorum. İlginçtir ki sözünü ettiğimiz vaka çalışması tıp alanında. Gördüğüm çözümlerden biri, ihtisas veya çıraklık modelini benimsemek. İnsanlara maruz kalma ve deneyim kazandırmanın başka bir yolunu bulmak ve böylece yargı geliştirme becerisi kazandırmak.

Cevaplara sahipmişim gibi davranmak istemiyorum ama iki düşüncem var. Birincisi, bu çözüme alternatiflerin geliştirilmesini ve sistemleri nasıl farklı tasarlayabileceğimizi düşünmeye başlamamızı isterim. Yapay zekâ uygulamalarımızı nasıl daha kesin hâle getirebiliriz ki insanların bu deneyimi geliştirmesi için başka fırsatlar oluşsun?

İkincisi, bununla birlikte işleyecek iş modelini de düşünmek gerekiyor. İnsanlara deneyim kazandırmanın yolu ihtisas modeli ise ve borsada işlem gören şirketlerin, kâr ve gelir artışını üç aylık veya altı aylık dönemlerde göstermesi gereken bir ekonomide faaliyet gösteriyorsak, ihtisas için alan sağlayan bir iş modeli bulmak çok zor olacaktır.

Bunun yapılamayacağını söylemiyorum. Bunu nasıl yapacağını düşünebilecek çok akıllı yenilikçiler ve girişimciler var. Ancak risk şu: Bu ihtisas modeli yalnızca bir maliyet merkezi olarak görülmeye başlanabilir. Kısa vadeli döngülerde, arkasındaki iyi niyet ne olursa olsun ilk ortadan kaldırılacak unsur bu olur.

Bu eksik bir cevap. Henüz bir cevabım yok ama ortaya çıkan krizle ilgili kaygıyı paylaşıyorum.

David Rice: Kötü haber şu olabilir: İşletmelerin kâra aykırı bir şey yapması gerekebilir. Bu genellikle iyi sonuçlanmaz.

Bir sonraki sorum şuydu: Yapay zekâ daha fazla kurumsal bilgiyi aranabilir, ölçülebilir ve sentezlenebilir hâle getirdikçe, makinenin görmesinin en kolay olduğu bilgiye ayrıcalık tanıma riskimiz var mı? Deneyim, sezgi ve insanların bildiği ancak belgeleyemediği, hatta bazen bütünüyle ifade edemediği bağlama ne oluyor?

Claire Maiers: Cevap sorunun içinde. Evet, bu risk var. Kuruluşların nasıl işlediğinin ve iyi işlemesinin büyük bölümü belgelenmemiş durumda. Bir kuruluşta yolumu bulmaya çalışırken resmî organizasyon şemasını sık sık düşünürüm. İşlerin nasıl yapılması gerekiyor? Bir alanda kimin sorumlu veya yetkili olması bekleniyor? Gerçekte nasıl işliyor?

Bu unsurlar çoğu zaman birbirinden kopuk. Aynı şey değiller. Biri nasıl işlemesi gerektiğini düşündüğümüzü, diğeri gerçekte nasıl işlediğini gösteriyor. Kuruluşlarda başarılı şekilde hareket eden insanlar genellikle işlerin gerçekte nasıl yürüdüğünü bilir; organizasyon şemasında ne yazdığını değil, uygulamada nasıl gerçekleştiğini.

Misyonlarında sağlıklı ve başarılı olan kuruluşlarda bu iki unsur ya birbirine daha yakındır ya da işlerin gayriresmî kanallar, ilişkiler ve sorumluluklar aracılığıyla yürütülmesinden rahatsızlık duyulmaz. Bu da yapay zekâyla değiştirilmesinin veya yapay zekânın üzerinde çalışabileceği ve bu kişilerin yaptığı işin yerini gerçekten alabilecek bir bilgi havuzu oluşturulmasının çok zor olacağı anlamına gelir.

Geçmişteki çalışma hayatımdan kısa bir örnek vereyim. Sorumlu olduğum iş alanlarını büyütmeye çalışırken ana mutfakta çalışmayı tercih ederdim; çünkü iş geliştirme ekibinin yanındaydı. Her sabah birkaç saatimi mutfakta çalışarak geçirirdim. Amaç yakınlık sağlamaktı.

Bu, resmî kanalların dışında, işime ve dolayısıyla işletmeye yardımcı olan her türlü gayriresmî iletişimi almam anlamına geliyordu. Bunun yapay zekâda nasıl taklit edileceğini bilmiyorum. Evet, kuruluşun her yerine mikrofonlar yerleştirebilirsiniz. Her toplantıyı kaydedebilirsiniz. Bazı içgörüler sağlayacak mı? Gerçek kurumsal yapıyı belirlemeye başlayacak mı? Belki. Ancak bu kişilerin misyonu desteklemek için gayriresmî kanallardan yürüttüğü işi yapabileceğini sanmıyorum.

David Rice: Bunun işe yarayabileceği büyük bir risk olduğunu söyleyebilirim. Güvenin tüm zamanların en düşük seviyesinde olduğu bir dönemdeyiz. Geçen hafta John Morgan’ın evden çalışmak isteyen insanlardan ve onların arkasına kamera yerleştirmekten söz ettiğini duyduk. Bu tür şeylerde dikkatli olmamız gerektiğini düşünüyorum.

Şu anda sizin o yakınlığa sahip olmanızı yeniden yaratmaya ve doğal biçimde ortaya çıkan bu anları oluşturmaya çalışmayı tercih ederim. Bunu nasıl yapacağımıza dair ilginç fikirler var ama bunlardan herhangi birinin gerçekten işe yarayıp yaramadığını bilmiyorum.

Claire Maiers: Şuna benzer bir söz var: “Teknoloji ne iyi ne kötüdür ne de tarafsızdır.”

Ben de böyle düşünüyorum. Bu teknolojilerin doğrudan yönetiminde olmayan bizler için, kendimiz ve başkaları adına iyi gelecekler istiyorsak, sesimizi çıkarmamız ve teknolojilerin insan deneyimine değer katacak, ondan eksiltmeyecek şekilde kullanılmasını sağlayacak yeterli ivmeyi oluşturmamız gereken bir noktadayız.

Her odaya, koridora ve su sebiline kamera ve mikrofon yerleştirilmesini savunmuyorum. Ancak açıkça söylemezsek risk altındayız. “Bunu yapmayacağız” veya “Yalnızca insan deneyimini geliştiren şeyler tasarlayacağız” demezsek, insan deneyimini gerilettiğimiz bir noktaya kayma riski taşırız.

Buna karşı korunmamız gerekiyor.

David Rice: Şunu da eklemek istiyorum: Zaman içinde bir kişinin biriktirdiği örtük bilgiyi koruyacak bir yol yaratmaya çalışırsak, sezgi ve deneyim için meşru bir rolü nasıl koruyabiliriz ama kanıt, inandıklarıyla çeliştiğinde insanların kanıtı görmezden gelmesi için bir bahane yaratmayız?

Claire Maiers: Tam da meselenin özüne değindiniz. Az önce sözünü ettiğim vaka çalışmasında kanıta dayalı tıbbın bu kadar önemli olmasının nedeni, insanların kanıtları takip etmediği bir dönemde yaşanan aşırı öznelliğe ve riske karşı düzeltici bir unsur olmasıydı.

Sezgiden söz ettiğimizde bunun önyargıya dönüştüğü noktayı nasıl belirleriz? Bağlamı tasarlamak ve teknolojinin hangi amaçlarla kullanılacağını açıkça belirlemek önemli. Ancak bunun neden bu kadar zorlu bir görev olduğunu biliyor musunuz? Her duruma uyacak tek bir bağlam tasarlayabileceğinizi düşünmüyorum. Bu, kuruluşunuzun misyonuna bağlı. Faaliyet gösterdiğiniz sektöre bağlı. Ölçeğe, yani kuruluşun ne kadar büyük olduğuna bağlı.

Bütün bunların amaca uygun hâle getirilmesi gerekiyor. Bu da görevi bunaltıcı hâle getirebilir; çünkü şu soruyu yanıtlamamız gerekiyor: İnsanların içinde faaliyet gösterebileceği sağlıklı ve eksiksiz bir sosyoteknik sistemi nasıl tasarlarız?

Bence bu soruyu defalarca yanıtlamamız gerekecek.

David Rice: Şirketler, “Yapay zekâ kararları bilgilendirir, kararları insanlar verir” demeyi seviyor. Ancak bu ifade, bir çalışanın sistemin önerisini reddetmesine gerçekten izin verilip verilmediğini açıklamıyor. Bu konuşmayı tam da bu nedenle yapıyoruz.

İnsanları bunu yapmaları için nasıl güçlendirirsiniz? Bu nasıl görünür? İnsan denetiminin bir yönetişim sloganından daha fazlası olması için kültür açısından neyin doğru olması gerekir?

Claire Maiers: Bu soruyu çok seviyorum çünkü çok önemli. Tüm cevaplara sahipmişim gibi davranmak istemiyorum. Geçmişte yaptığım çalışmalardan birkaç içgörüm var.

Bunlardan birinden daha önce bahsettim: Her şeyden önce sonuçlar gelir. İyi normlara sahip bir kuruluş, herkesin aynı takımda ve iyi tanımlanmış aynı sonuca doğru ilerlediğini anlar. Bazı kuruluşlar en iyi fikrin kazandığını söyler. Fikrin kimden geldiği önemli değildir. Hademe de genel müdür de söylemiş olabilir.

İyi fikir iyi fikirdir. Bu, sonuçlara odaklanan ve aynı hizada duran bir kuruluş ve kültüre benzer. İnsanların sorgulamasına izin verir; çünkü sadakatsiz, sorun çıkaran veya siyaset yapan biri olarak görülmezsiniz. Bunun yerine aynı hedefe ulaşmaya çalışırsınız.

Daha karmaşık olan diğer unsur sahiplik veya sorumluluk. İkisine de diyebilirsiniz. Bunun hakkında konuşmanın zor olmasının nedeni, konunun sorumluluk ve hukuki yükümlülük alanına kaymasıdır. Algoritmik kültürün ve büyük veriyle yaşananların sonuçlarını inceleyen akademisyenler bunu on yıllardır tartışıyor. Kullanımı en kolay örnek otomatik araçlar.

Bu soru neredeyse tüm yapay zekâ karar alma sistemleri için geçerli: Otomatik bir araç birini öldürürse kim sorumlu? Aracı programlayan yazılım mühendisleri mi? Bunu mümkün kılan şirketlerin ve teknolojilerin arkasındaki genel müdürler mi? Makineyi sorumlu tutmanın bir yolunu mu bulacağız? Yoksa kimse mi sorumlu olmayacak?

Bunun önemli olduğunu düşünüyorum çünkü en yüksek önceliğiniz kolaylık ve iş yerinde sorun çıkarmamaksa, kolay yol şudur: Kararlardan sorumlu tutulmayacağınızı bildiğiniz için, “Kararı yapay zekâ verdi” diyebilirsiniz. İnsan denetimindeki kişi olarak onayladığınız kararları incelememek ve üstünkörü geçmek çok daha kolay olur.

Ancak insan denetimindeki kişinin üzerinde sorumluluk olduğunda, birazdan neyi sevmediğimi söyleyeceğim, farklı bir dikkat düzeyi oluşacaktır.

Sevmediğim sorun şu: Bu büyük, karmaşık sistemleri kuruyoruz, birine bunları kullanması gerektiğini söylüyoruz ve sonra sorumluluğu bireye yüklüyoruz. Bireyleri kararlar nedeniyle hukuken sorumlu tutmamız gerektiğini söylemiyorum. Sorumluluğun muhtemelen hâlâ kuruluş düzeyinde veya kuruluşun kullandığı araç düzeyinde olması gerekir.

İnsan denetiminin işlemesini istiyorsanız, o kişinin belli bir düzeyde sorumluluk ve sahiplik hissetmesi gerekir.

David Rice: Zor, değil mi? İnsan denetimi törensel bir şey olabilir. Kültürünüz, en güvenli kariyer hamlesinin sistemi kabul etmek olduğunu söylüyorsa-

Claire Maiers: Benim söylediğim de bu.

David Rice: Evet, sistemi geçersiz kılmak kişisel olarak olumsuz sonucu üstlenmek anlamına geliyorsa, kuruluşun gerçekten ne istediğini veya beklediğini çok hızlı öğrenirsiniz. Yanıldığımda makineyi geçersiz kıldığım için cezalandırılırım, haklı olduğumda ise hiçbir takdir görmem. O noktada karar zaten otomatikleşmiş olur.

Claire Maiers: Evet, tam olarak. Bu, kuruluşlarda ihtiyaç duyduğumuz kültüre ilişkin eksiksiz bir cevap değil ama yapbozun parçalarının bir araya gelmeye başladığını düşünüyorum.

David Rice: Görüşmeden önce, gerçekten hoşuma giden bir karşılaştırma yaptınız. Kıdemsiz bir analistin değerlendirmesini, yıllardır birlikte çalıştığınız bir genel sekreterin değerlendirmesiyle aynı şekilde yapmazsınız.

Çoğumuz için bu doğru, değil mi? Güveninizi kişiye, göreve ve deneyime göre ayarlarsınız. Yapay zekâyla ilişkimizin de aynı şekilde işlemesinin bir yolu var mı?

Claire Maiers: Bir bakıma var. Bunu açıklayayım. Etkili güven ile bilişsel güven arasındaki farktan söz eden harika bir genel müdürle çalışmıştım. Bunun burada da geçerli olduğunu düşünüyorum.

Kıdemsiz analist ile uzun süredir birlikte çalıştığınız genel sekreter örneğini düşündüğünüzde, aslında hem bilişsel hem de duygusal olmak üzere birden fazla güven türü devrededir. Bilişsel güven, işinizi veya görevi iyi yapma yeteneğiniz olduğuna inanıp inanmadığımla ilgilidir.

Duygusal güven ise benim en iyi çıkarlarımı gözettiğinize inanıp inanmadığımla ilgilidir. Kıdemsiz analistin bilişsel güvenilirliğini sorgularsınız; çünkü deneyimsizdir, öğrenmektedir ve bulunması gereken yer orasıdır. Beş yıldır birlikte çalıştığınız ve ilişki kurduğunuz kişiye duyduğunuz duygusal güven düzeyinin aynısına sahip olmazsınız.

Bu önemlidir; çünkü herhangi bir öneriye güvenirken yalnızca önerinin nereden geldiğini değil, onu ne için kullanacağımızı ve kabul etmenin içerdiği risk düzeyini de değerlendirmeliyiz. Bu nedenle çok yüksek riskli bir karar vermesi gereken bir genel müdürün, bir analizin nasıl hazırlandığını ve kimin ürettiğini, geri döndürülebilir ve daha düşük riskli, maliyeti daha az bir şeye kıyasla çok daha yakından incelemesini beklerim.

Ayrıca beş yıldır birlikte çalıştığınız genel sekreterin de bana getirdiği yüksek riskli her şeyi çok daha dikkatli inceleyeceğini bilirsiniz. O da kararın riski yükseldikçe kendi çalışmasını, dikkatini ve kontrollerini ayarlıyordur.

Çoğu yapay zekâ sisteminin bunu yaptığını düşünmüyorum. Elbette farklı sistemleri karşılaştırabilir, aynı öneriyi farklı motorlardan isteyebilir ve şeytanın avukatlığını yapmasını talep edebiliriz. Önerilerde tutarlılık olup olmadığını görmek için onu daha fazla çalışmaya zorlayan tüm bu unsurları sisteme ekleyebiliriz. Ancak bir yapay zekâ sistemine duygusal güven duyamazsınız.

İlişki boyutu olmadığı ve genel olarak çoğu görevi benzer şekilde ele aldığı için risk düzeyiyle uyumlu bir kalibrasyon yapamaz. Yani daha önce söylediğim şeyi, amaca uygun ve iyi oluşturulmuş bir sisteminiz varsa ve zaman içinde bu sistemle deneyim kazanırsanız, onunla olan yorumunuzu ve deneyiminizi bir insanla yaptığınız gibi ayarlamayı öğrenebilirsiniz.

Ama bu çok şey gerektirir. Yüksek stratejik kararları, yapmaya çalıştığınız iş için özel olarak tasarlanmamış kişisel Claude sohbet penceresine koyup ardından öneriye güvenmeyin. Cevabım hem evet hem hayır.

David Rice: Evet. Buna yaklaşmanın farklı yolları var. Önümüzdeki yıl ne yapacağımızı belirleyecek, dikkate alınması gereken pek çok unsurun bulunduğu kararları düşünüyorum.

Geçmişte ne yapıldığını değerlendirmesi için ona güvenmiyorum. Bu konuya özgü bir şey, örneğin Claude’da bir proje oluşturmaya ve kararın neden bu kadar önemli olduğuna ve neyi başarmaya çalıştığıma ilişkin bütün bağlamı vermeye çalışıyorum.

Sonra kendi mantığımı içine koyup, “Ben böyle düşünüyorum. Genel müdürüm gibi bana meydan oku. Argümanımdaki boşlukları ortaya çıkaracak sorular sor” diyorum. Böylece bunları önceden düşünebiliyorum. Bu anlamda çok güçlü ve yararlı bir araç olabiliyor. Ama yalnızca analiz yapıp “Bu yoldan gitmelisin” demesine güvenmem.

Claire Maiers: Sana ne yapacağını söylemesini istemiyorsun.

David Rice: Kişisel olarak bunu yapmasına güvenmeyeceğim.

Claire Maiers: Bir sorum var. Belirli bir veya iki örnek düşünebilirsen, bunu yaptığında çıktı, zaten düşündüklerini ifade etmene ne ölçüde yardımcı oldu ve ne ölçüde yeni bir şey düşünmeni veya fikrini değiştirmeni sağladı?

David Rice: Gerçekten değişmesi için muhtemelen bir katman daha derine inmem gerekti. “Evet, bu konuda haklı olabilir” veya “Burada iyi bir noktaya değiniyor olabilir” dedirtti. İlk cevap değildi. İlk cevap genellikle bana şunu düşündürdü: “Belki bu bağlamı yeterince iyi açıklamadım veya bunun neden gerçekleştiği ya da işletme için neden önemli olduğu hakkında bir katman daha bilgi vermem gerekiyor.”

İlk birkaç cevapta, gerçekten derinlemesine incelediğimde, mantığında boşluklar buluyorum. Nereden geldiğimi anlayabilmesi için bunu yeterince iyi anlamıyor. Sonra kendinize, “Fazla mı açıklıyorum? Bir insanla konuşsaydım bunu açıklamaya zaman ayırır mıydım, yoksa konuyu geçer miydim?” diye soruyorsunuz.

Bağlamı tam olarak anlamasa da bunun yararlı bir cevap olduğunu düşünüp devam ediyorsunuz. Size bağlamsal olarak mantıklı gelmeyen bir şey söylediğinde onunla farklı şekilde konuşmaya başlıyorsunuz. Birlikte çalıştığınız bir kişinin bunu zaten bilmesi gerektiğini düşünüp ona bilmiyormuş gibi davranmak istemediğiniz bir durumdan farklı.

Claire Maiers: Bunda ilginç bulduğum şey, benim de bazen aynı şekilde kullanmam. Söylediklerinizin büyük bir kısmı, sizi düşüncelerinizi dışsallaştırmaya ve somutlaştırmaya zorladığını gösteriyor. Yapay zekâ konusunda gerçekten ilginç olduğunu düşündüğüm şeylerden biri şu: Yenilik ve yaratıcılığın nasıl ortaya çıktığı, bilimsel atılımların nasıl gerçekleştiği üzerine çok fazla araştırma var.

Gerçek şu ki bunlar neredeyse hiçbir zaman tek başına gerçekleşmez. Konuşma ve başkalarıyla sosyalleşme içinde gerçekleşir. Yapay zekâ kendi düşüncenizi geliştirecek şekilde bunu simüle edebildiği ölçüde gerçekten ilginç bir kullanım alanı sunuyor.

David Rice: Şimdiye kadar bundan en fazla değeri burada bulduğumu düşünüyorum.

Gerçek değer, yalnızca daha fazla iş yapabilmem değil. Bunun belki bir miktar değeri var ama gerçekte elde edeceğiniz şey açısından sınırlı. Kişisel düzeyde ondan aldığınız şey de çok sınırlı.

Yapay zekâ hepimizin verdiği günlük kararlara yerleşirse veya insan kaynaklarında kimin işe alınacağı, performansın nasıl değerlendirileceği, hangi yatırımların yapılacağı ve yöneticilere neye öncelik vermelerinin söyleneceği gibi konulara girerse, hâlâ bir araç kullanan insanlardan mı söz ediyoruz? Sanki bildiklerimizi nasıl bildiğimizi değiştirmekten söz ediyoruz ve bu büyük bir değişim.

Bu, insan yönetimi liderleri için nasıl bir sorumluluk doğuruyor?

Claire Maiers: Sorunuzun işaret ettiği ifadeyi çok seviyorum. Bence kısmen kuruluşların parçalarının toplamından daha fazlası olduğunu gösteriyor. Yapay zekânın yaptığı şey, kuruluşları sosyoteknik sistemler olarak görmenin yararlı olduğunu açıkça ortaya koymak.

Bununla kastettiğim, kuruluşlardaki aktörlerin yalnızca insanlar olmadığı. Teknoloji de aktör. Yapay zekâdan önce de pek çok kuruluş için bu geçerliydi ama kuruluş içinde karar alan ve eyleme geçen yapay zekâ ajanlarının bulunduğu bir dünyada bunu inkâr etmek zor.

İnsan yönetimi liderleri ne yapmalı? En az bir büyük soruyu yanıtlamaktan sorumlu olduklarını düşünüyorum: Çizgiyi nerede çekiyorsunuz ve kuruluşunuz için vizyonunuz nedir?

Yapay zekânın işe alım uygulamalarımıza kaçınılmaz biçimde yerleşmesini kabul etmemeliyiz. Pazar düzeyinde karşı koymanın çok zor olduğu gelişmeler yaşandığını biliyorum. Örneğin kuruluşların aldığı başvuru sayısının artması, bu süreçte yapay zekâ filtrelerini kullanmaya direnç göstermeyi çok zorlaştırıyor.

Ancak hiçbir lider veya kuruluş kalabalığı takip etmek ve başkalarının yaptığını yapmak zorunda değil. Bu daha kolay yol ama insan yönetimi liderlerinin vermesi gereken ilk kararın, yapay zekâyı ne ölçüde entegre etmek istedikleri olduğunu düşünüyorum. Nerede kazanım elde ediyoruz?

Az önce bunu öngördünüz. Söz konusu olan yalnızca üretkenlik kazanımları değil, kalite kazanımları da olabilir. Üstelik yalnızca sattığınız veya sunduğunuz şeyin kalitesi değil, kurumsal deneyimin kalitesi de önemli. İlk sorumluluk vizyonu belirlemek ve çizgiyi çekmek.

Bundan sonra, bugün yaptığımız konuşma ışığında en önemli unsurun bağlamı tasarlamak olduğunu düşünüyorum. Daha önce sözünü ettiğim zor iş bu. Bir kuruluş içinde kültür oluşturmak ve sağlıklı bir bağlam yaratmak başta zor iştir. Ancak uzun vadede misyonu ve kârlılığı sürdüren çalışma budur.

Dolayısıyla yapılmaya değer bir iştir. Yapılması gerekir. Bu işi yaparken yanıtlamanız gereken farklı sorular var. İçinde çalıştığımız bağlam göz önüne alındığında, tüketicileri ve çalışanları güvende tutacak hangi kararlar otomatikleştirilebilir diye sormalısınız.

İnsanların bir konuda endişeleri olduğunda ellerini kaldırabilecekleri, kararı reddedebilecekleri ve eleştirel düşünebilecekleri bir kuruluş oluşturmak için ne yapmamız gerektiğini sormalısınız.

Bunun küçük bir görev gibi görünmesini istemiyorum. Özellikle temeliniz yoksa, bunu iyi yapacak kuruluşlar oluşturmanın çok büyük ve zorlu bir görev olduğunu düşünüyorum. Güven temeline, açıkça ifade edilmiş bir misyona, misyon odaklı çalışanlara ve insanların seslerini yükseltmesini teşvik eden bir kültüre sahip değilseniz, bu daha zor olacaktır.

Vizyonu belirleyin ve oradan geriye doğru çalışın. Oluşturmanız gereken bütüncül bağlam nedir? Ekleyeceğim son şey, kuruluşların birlikte çalışması gerektiği. Liderlerin kuruluşlar arasında koordinasyon sağlaması gerekiyor. Kuruluşlar birbirlerine benzemek ve komşularının yaptığını yapmak ister.

En azından sektörler içinde kuruluşlar, insan gelişimine katkıda bulunan yapay zekânın sağlıklı bir şekilde uygulanmasını teşvik eden bir bağlama ulaşmak için birlikte çalıştığında bu işin daha kolay olacağını düşünüyorum.

David Rice: Bunu söylemeniz ilginç. Vizyonu belirleme ve bağlamı oluşturma fikrini gerçekten seviyorum. Yeterli ölçekte binlerce bireysel olarak makul yapay zekâ destekli karar, neyin ödüllendirildiği veya kimin terfi ettiği gibi unsurlar üzerinden kurumsal davranışı temelden şekillendirecek.

Ancak şirketin böyle işlemesi gerektiğine kimse bilinçli olarak karar vermiyorsa, bence bu iyi bir durum değil. Teknoloji benimsemesinin ötesine geçtiğiniz noktada bu bir kurumsal tasarım sorusu.

Claire Maiers: Bu bir kurumsal tasarım meselesi.

David Rice: Evet.

Claire Maiers: Bu konu çoğu zaman göz ardı ediliyor.

Üst yönetim çoğu zaman iş modeline odaklanıp kuruluşun sizi oraya götüren motor olduğunu ve iş modeli kadar ilgiye ihtiyaç duyduğunu unutabiliyor. Faaliyet modeli de aynı ölçüde ilgi gerektiriyor.

David Rice: Harika bir sohbet oldu. Programa katıldığınız için teşekkür ederim.

Claire Maiers: Evet, gerçekten çok keyifli ve enerji verici bir sohbetti. Teşekkür ederim.

David Rice: Dinleyiciler, bir sonraki bölüme kadar. Henüz yapmadıysanız peoplemanagingpeople.com/subscribe veya /ai-signal adresine giderek bültenlerimize kaydolun. Bunlar AI Signal ve düzenli özet bültenimiz.

peoplemanagingpeople.com’da yaptığımız tüm çalışmaları, bu podcast’te gerçekleştirdiğimiz sohbetler de dâhil olmak üzere, doğrudan gelen kutunuza alacaksınız. Bir sonraki bölüme kadar vizyonu belirleyin, bağlamı oluşturun. Görüşmek üzere.

Performans değerlendirmelerini yönetin ve çalışan bağlılığı içgörülerini en sevdiğiniz yapay zekâ aracına taşıyın. Teamflect’i ChatGPT, Claude veya herhangi bir büyük dil modeliyle bağlayarak hedefleri kontrol edin, değerlendirmeler yazın, geri bildirimleri değerlendirin, görevler oluşturun ve daha fazlasını basit bir sohbet üzerinden gerçekleştirin. Teamflect’i şimdi ücretsiz deneyin.