Key Takeaways
Güven Tanımı: Kurumsal yapılarda güven farklı anlamlara gelir; tanımlardan biri güvenliği içerirken çalışanların bakış açıları çoğu zaman göz ardı edilir.
Önce Güvenlik: Francis deSouza, kuruluşlarda yapay zekâya duyulan güvenin temeli olarak güvenlik mimarisini vurguluyor.
Şeffaflık İhtiyaçları: Tedarikçi-müşteri etkileşimleri konusunda dürüst olmak hayati önem taşır; ancak bu, çalışanların eşit söz hakkına veya temsil edilmesine karşılık gelmez.
"Güven" kelimesi, geçen hafta HumanX'te kurumsal yapay zekâ üzerine gerçekleştirilen iki oturum boyunca onlarca kez geçti. Bu oturumlardan ortaya çıkan şey, güvenin kurum içinde her zaman aynı anlama gelmediğinin kanıtıydı.
Google Cloud COO'su Francis deSouza için güven, güvenlik mimarisiyle başlar.
"Güvenlik konuşması olmadan yapay zekâ konuşması diye bir şey yoktur," diyerek işletmelerin yapay zekâyı geniş ölçekte kullanıma sunmadan önce yeni saldırı yüzeyleriyle, otonom yapay zekâ tehditleriyle ve veri stratejilerini temelden yeniden oluşturma gerekliliğiyle nasıl başa çıkması gerektiğini anlattı.
Çalışanların BT'nin denetimi dışındaki araçları indirmesini anlattığında, bunu bir risk yönetimi sorunu olarak çerçeveledi. Çözüm, onaylanmış, yönetilen ve denetlenebilir bir platformdur.
Kullanıcıların güvenini kazanacak yapay zekâ sistemleri tasarlama konulu ayrı bir oturumda, Sama'dan Wendy Gonzalez farklı bir başlangıç noktası sundu. Sahneye çıkmadan hemen önce bir meslektaşıyla yaptığı konuşmayı anlattı. Endişe, işlerin ortadan kalkması değildi. Bu bir güvenlik sorusu değil. Hiçbir tehdit modeli bunu ele almıyor.
Bu, işimi elimden alacak mı meselesi bile değil. Daha çok şöyleydi: İnsanlar istemlerimi görürse, yeterince zeki olmadığımı mı düşünecekler?
Boşluk Gözler Önünde
Sorun işte bu. Kurumsal yapay zekâ uygulamaları, güvenin teknik tanımı olan güvenlik, güvenilirlik, denetlenebilirlik ve model doğrulaması açısından giderek daha gelişmiş hâle geliyor. Ancak insani açıdan çok daha az gelişmiş durumdalar: çalışanların işlerini şekillendiren sistemlerin adil olduğuna, sınırlamaları konusunda dürüst davrandığına ve içlerindeki insanları gerçekten dikkate alarak oluşturulduğuna inanıp inanmadıkları konusunda.
Kurumlar bu ikisini birbirine karıştırıyor. Güvenli, uyumlu ve iyi yönetilen bir yapay zekâ platformu oluşturulduğunda güven sorunu çözülmüş gibi hissediliyor. Çözülen şey, güvenlik denetimlerinde ve uyumluluk çerçevelerinde yer alan tedarikçi tanımıdır.
Çalışan tanımı ise büyük ölçüde ele alınmadan kalıyor ve çoğu kurumsal yapay zekâ konuşmasında büyük ölçüde sorulmuyor.
Vanta'dan Christina Casioppo, kurumsal güvenin en açık ifadesi olarak nitelendirdiği şeyi sundu: "söylediğini yapmak" hesap verebilirliği.
Başka bir deyişle, X'i yapacağınızı söylediyseniz ve Y'yi yapıyorsanız, bunu söyleyin. Bu makul bir standarttır, ancak bir tedarikçinin müşterisinin güvenini nasıl kazandığına ilişkin, kurumdan kuruma uygulanan bir standarttır. Çalışanların hak ettiği şeylere daha az yer ayrılıyor.
Oturumun en açık sözlü anı, Casioppo'nun Vanta'nın iç şeffaflık yaklaşımını anlatmasıyla geldi: yeni işe alınanlara, herhangi bir anlaşmazlıkta müşterilerin her şeyden önce geldiğini en baştan söylemek.
Mantık, bu açıklamanın daha sonra önceliklerinin geri plana atıldığını hissetmenin yaratacağı şoku hafifletmesidir. Bu dürüstçe. Ancak yapay zekâ şeffaflığı uygulamaları eşitlikle aynı şey değildir; hiyerarşideki yerinizi bilmek de bu hiyerarşide söz sahibi olmakla aynı şey değildir.
Gonzalez, farklı çalışan gruplarının çeşitli araçları test etmesine, neyin işe yaradığını ve neyin yaramadığını paylaşmasına ve her ikisini de kutlamasına izin vermeyi anlattığında çalışan güveni modeline en çok yaklaşan kişi oldu.
Bunu, yukarıdan bir platform dayatmak yerine gerçek bir güven oluşturmanın yolu olarak çerçeveledi. Bu, kullanımı zorunlu kılmaktan ve sayıları ölçmekten anlamlı ölçüde farklıdır. Ancak yine de kullanım aşamasında duruyor.
CHRO'ların ve COO'ların önemsemesi gereken anlamıyla güven, bundan daha fazlasını ifade eder: Çalışanlar, yapay zekânın kullanıma sunulmasının kendi çıkarlarını gözeten yollarla gerçekleştirildiğine, etkilediği kararların adil olduğuna ve bu kararlar adil olmadığında başvurabilecekleri bir yer bulunduğuna inanıyor mu?
Sistem Karar Verici Hâle Geldiğinde
Otonom yapay zekâ katmanı bu konuyu daha acil hâle getiriyor. Gonzalez, meselenin merkezine dokunan bir ayrım yaptı.
Bir çıktıya güvenmek başka şeydir, bütün bir sisteme güvenmek başka şey. — Wendy Gonzalez, Sama
Yapay zekâ bir soruyu yanıtladığında, bir çalışan bu yanıtı değerlendirebilir. Yapay zekâ işleri yönlendirdiğinde, performansı işaretlediğinde veya kimin hangi fırsatı elde edeceğini etkilediğinde, çalışan çoğu zaman sistemi hiç göremez. Model düzeyinde anlamlı olan şeffaflık standartları, modelin çıktılarıyla yaşayan insanlara otomatik olarak uygulanmaz.
DeSouza, uzun vadeli hedefi hem kendi işlevinde hem de yapay zekâda akıcı olan "iki dilli" bir iş gücü oluşturmak olarak tanımladı. İK ekibinin Google'ın kurum içi hackathon'larında üst üste iki kez kazanmasını, geniş çaplı benimsemenin farklı işlevler genelinde gerçek bir yetkinlik oluşturabileceğinin kanıtı olarak gösterdi.
Bu, faydalı bir gösterge. Ancak bir araçta yetkin olmak, o aracın ait olduğu sisteme güvenmekle aynı şey değildir. Çalışanlar yapay zekâyı kullanma konusunda son derece yetkin olabilir, ancak yapay zekânın onları değerlendirmek, sıralamak veya başka görevlere yönlendirmek için nasıl kullanıldığı konusunda hâlâ hiçbir görünürlüğe sahip olmayabilir.
Geleceğin başarılı iş gücü, her işlevde iki dilli olacak. Herkes kendi işlevini ve yapay zekâyı bilecek.
Her iki oturum da kapsamlıydı. Konuşmacılar düşünceliydi. Dikkat çekici olan, ikisinin de neyi yanlış yaptığı değil, bir bütün olarak ele alındığında kurumlarda yapay zekâ konusunun henüz neye yer açmadığıdır.
Güvenlik ve uyumluluk gerçek, acil ve gerçekten zor sorunlardır. Ancak bunlar güvenin altyapısını tanımlar, deneyimini değil. Çalışma hayatlarını bu sistemler etrafında kurmaları istenen çalışanlar için bu ayrım, meselenin tamamıdır.
