Yapay Zekâ Sapması İş Gücü Sistemlerinizin İçine Çoktan Girdi. İşte Bu Konuda Yapmanız Gerekenler

Hiç kimse değişikliği onaylamadı. Mühendislik ekibiniz yeni bir kod göndermedi. Ancak kuruluşunuz için işe alım önerileri oluşturan AI sistemi, bugün siz onu onayladığınızda yaptığı şeyi yapmıyor. 

Aday havuzu değişti ve model, aylar önce geçerliliğini yitirmiş varsayımlara dayanarak çalışmaya devam ederken iş gücü piyasası dönüştü. Bu, AI kaymasıdır ve başlangıç aşamasındaki şirketlerden kurumsal düzeydeki işletmelere kadar uzanan şirketlerin iş gücü sistemlerinin içinde, varsayımsal bir risk olarak değil, mevcut bir durum olarak zaten yer alıyor.

AI Kayması Nedir?

AI kayması, bir AI sisteminin tasarlandığı performans ile zaman içinde fiilen gösterdiği performans arasındaki kademeli farklılaşmadır. Teknik ekipler için bu, tanıdık bir alandır. Veri dağılımı kaymasına, kavram kaymasına ve modelin bozulmasına zaten aşinadırlar. 

Kuruluşları yöneten liderler için tanım daha kapsamlı ve daha açık olmalıdır: AI kayması, AI araçlarınızın yaptığını düşündüğünüz şeyi yapmayı bırakmasına yol açan yavaş ve birikimli süreçtir.

işe alım platformları, performans değerlendirme araçları, ücretlendirme motorları ve vardiya planlama algoritmaları gibi iş gücü sistemlerinde kayma, bir veri bilimcisinin dağılım grafiğinden çok daha fazla önem taşıyan şekillerde ortaya çıkar; özellikle de bir İK direktörü veya CEO için.

• Çıktı kayması en görünür olanıdır. Sistemin kararları temel örüntülerden uzaklaşır. İşe alım önerileri belirli aday profillerine doğru eğilmeye başlar. Performans puanları ekipler arasında farklı biçimlerde kümelenmeye başlar. Vardiya planlama sonuçları, hiç kimsenin onaylamadığı şekillerde değişir. Bu değişimlerin hiçbiri kod değişikliği gerektirmez. Model yeni verilere veya artık faaliyet gösterdiği dünyayı yansıtmayan eski verilere tepki vermektedir.
• Adillik kayması daha incelikli ve daha tehlikelidir. Sistem dağıtım sırasında önyargı testlerini geçmiş olsa bile, korunan sınıflara ilişkin sonuçlar zaman içinde farklılaşır. Aday havuzu değiştiyse, iş gereklilikleri geliştiyse veya temel veriler modelin ele alması için hiç eğitilmediği örüntüleri yansıtıyorsa, 2022'de adil tarama yapan bir işe alım aracı 2026'da adil tarama yapmayabilir.
• Karar yetkisi kayması, çoğu liderin tamamen gözden kaçırdığı biçimdir. AI'nın özerk karar verme kapsamı, başlangıçtaki yetkisinin ötesine sessizce genişler. Adayları sıralamak üzere devreye alınan bir araç, fiilen adayları elemeye başlar. Bir performans puanlama sistemi, hiçbir zaman müdahale etmek üzere tasarlanmadığı ücretlendirme kararlarını etkilemeye başlar. Hiç kimse bu genişlemeyi onaylamamıştır. Bu durum, iş akışı entegrasyonu ve kullanıcı davranışları yoluyla kademeli olarak gerçekleşmiştir ve hiç kimse bunu fark etmemiştir; çünkü hiç kimse bunu gözlemlememiştir.
• Yönetişim kayması, politikalarınızın AI'nın ne yaptığına ilişkin söyledikleri ile AI'nın gerçekte yaptığı şey arasındaki farktır. Hukuki riskin yoğunlaştığı nokta burasıdır. Sorumlu AI politikanız, kullanıma sunulduğu sırada doğrulanmış bir sistemi tanımlar. Bugün çalışan sistem bu tanıma çok az benzeyebilir. Politika kaymadı, ancak sistem kaydı.

Kayma hakkında anlaşılması gereken kritik nokta, bunun bir arıza olayından çok bir bozulma süreci olduğudur. Dağıtım sırasında uyumlu olan bir AI sistemi, tek bir kod satırı bile değişmeden, yalnızca çevresindeki dünya değiştiği için bir sorumluluğa dönüşebilir. 

Belirtiler bir ayrımcılık şikâyeti, bir denetim bulgusu veya beklentilerle uyuşmayan bir sonuç örüntüsü şeklinde ortaya çıktığında, risk aylar boyunca birikmiş olur.

AI Kayması Neden Şimdi Dikkat Gerektiriyor?

Çoğu kuruluş AI'yı iş gücü sistemlerine dağıttı ve ardından ilgilenmeyi bıraktı. Kullanıma sunulurken test ettiler. Kullanıma sunulurken belgelediler. O zamandan beri ne test ettiler ne de belgelediler. Bu sırada yaptırım uygulamaları duruma yetişti.

Dava ortamı

Mobley v. Workday artık belirleyici dava niteliğinde. Tamamı 40 yaşın üzerinde olan beş davacı, Workday'in AI tarama araçlarının yaş temelinde ayrımcılık yaptığını ileri sürdü. Mayıs 2025'te Kaliforniya Kuzey Bölgesi'ndeki federal mahkeme, davayı İstihdamda Yaş Ayrımcılığı Yasası uyarınca ülke çapında toplu dava olarak onayladı. 

Kararın kapsamı, Eylül 2020'den bu yana Workday platformu üzerinden taranan 40 yaşın üzerindeki tüm adayları potansiyel olarak kapsıyor. Workday, başvurulara ilişkin beyanlarında, ilgili dönemde araçları kullanılarak 1,1 milyar başvurunun reddedildiğini ifade etti.

Mahkemenin gerekçesi doğrudandı. Yargıç Rita Lin, Workday'in işe alım sürecine, araçlarını kullanan işverenlerin temsilcisi sayılabilecek ölçüde dahil olduğuna hükmetti. 

Mahkeme, yazılım aracılığıyla karar verenlerle insanlar aracılığıyla karar verenler arasında ayrım yapılmasının, modern çağda ayrımcılık karşıtı yasaları etkisizleştireceği uyarısında bulundu.

Temmuz 2025'te kapsam, ilk şikâyetin sunulmasının ardından Workday'in satın aldığı AI platformu HiredScore üzerinden işlenen kişileri de kapsayacak şekilde daha da genişledi.

Ardından Eightfold AI geldi. Ocak 2026'da açılan bir toplu davada, Eightfold'un bir milyardan fazla çalışan hakkındaki verileri izinsiz topladığı, adayları sıfırdan beşe kadar bir ölçekte puanladığı ve başvuruları herhangi bir insan incelemeden önce adayları reddettiği; bunların tamamının Adil Kredi Raporlama Yasası'nın gerektirdiği açıklamalar yapılmadan gerçekleştirildiği ileri sürüldü. 

Bu dava, önyargı iddiasında bulunmaması bakımından Mobley davasından önemli bir şekilde farklıdır. İddia edilen şey gizliliktir. Algoritma vardı, çalışıyordu ve şirket dışındaki hiç kimse bunun gerçekleştiğini bilmeden insanları fırsatlardan eliyordu. Dava, şu anda iş gücünde yapay zekâ alanına yönelen hukuki ilginin düzeyini gösteren eski EEOC Başkanı Jenny R. Yang tarafından açıldı.

Birlikte değerlendirildiğinde, bu davalar bir kıskaç oluşturuyor. Mobley sonuçlara saldırıyor. Eightfold ise sürece saldırıyor. Her ikisi de aynı yöne işaret ediyor: İstihdam kararlarını veren veya bu kararları maddi ölçüde etkileyen yapay zekâ tedarikçileri, bu kararlardan sorumlu tutulacak.

Tedarikçi sorumluluğunun sıkıştırılması

İşverenler açısından matematiğin rahatsız edici hâle geldiği nokta burası. Hukuk teknolojisi platformlarının araştırmaları, yapay zekâ tedarikçilerinin %88'inin kendi sorumluluklarını sınırlandırdığını ve çoğu zaman tazminatları aylık abonelik ücretleriyle sınırladığını gösteriyor. Yalnızca %17'si mevzuata uygunluğu garanti ediyor. Geniş kapsamlı tazminat hükümleri, ayrımcı sonuçlar nedeniyle müşterilerin tedarikçileri sorumluluktan muaf tutmasını rutin olarak zorunlu kılıyor.

Bu, işverenlerin kontrol edemedikleri sonuçlardan; denetleyemedikleri verilerle üretilen ve inceleyemedikleri mantık üzerinden işlenen sonuçlardan hukuken sorumlu olduğu anlamına geliyor. Bir toplu dava açıldığında, tedarikçi sözleşmesi sorumluluğu sınırlandırıyor, mevzuata uygunluk garantilerini reddediyor ve algoritmik denetimleri kısıtlıyor. Yük işverenin üzerinde kalıyor.

"Döngüde insan" sorunu

İnceleme zincirinde görünüşte bir kişinin bulunması artık geçerli bir savunma değil. 

Yapay zekâ yönetişimi ve iş gücü mevzuatına uyum konusunda danışmanlık veren Highbridge Hukuk Bürosu avukatı Aaron Pease, otonom iş gücü riskleri üzerine yakın zamanda yaptığı bir sunumda bunu açıkça ifade etti. 

Kuruluşlar, insanın gerçekte neyi incelediğini, hangi kararları geçersiz kıldığını veya hangi ölçütleri uyguladığını gösteremiyor. Mahkemeler ve düzenleyici kurumlar, bir şey işleme alınmadan önce birilerinin bir yerlerde bir şeye baktığını belirten bir politikadan ziyade, belgelenmiş ve kanıtlanabilir bir gözetim anlayışına yöneliyor.

Düzenleyici yaptırım uygulamaları somutlaşıyor

Mayıs 2024'te kabul edilen Colorado Yapay Zekâ Yasası, istihdam da dâhil olmak üzere yüksek riskli kararlarda kullanılan yapay zekâ sistemlerini düzenleyen ülkenin ilk kapsamlı eyalet yasasıdır. Yasa, zorunlu etki değerlendirmeleri, risk yönetimi programları ve açıklama yükümlülükleri getiriyor; ihlal başına $20,000 ceza öngörüyor.

150'den fazla lobicinin Ağustos 2025'te düzenlenen özel yasama oturumuna akın etmesi ve dört ayrı yasa tasarısının yasayı etkisizleştirmeye veya yürürlükten kaldırmaya çalışması nedeniyle, yasanın yaptırıma bağlanma süreci çalkantılı geçti. Hiçbiri başarılı olamadı. Yasama organı yalnızca yaptırımların uygulanmasını 30 Haziran 2026'ya ertelemeyi kabul etti; yasanın esas gerekleri yürürlükte kaldı.

2026'nın başı itibarıyla Colorado yasama oturumunda daha fazla değişiklik yapılması konusunda herhangi bir uzlaşmaya varılmadı.

Bu arada California, işverenlerin ayrımcılık iddialarında yapay zekâ kullanımını düzenleyen yönetmelikleri kesinleştirdi; Illinois ise yapay zekâya ilişkin açıklama yükümlülüklerini kabul etti. Eyaletler genelindeki tablo tutarlı: Gecikme mümkün, ancak düzenlemeden geri adım atılmıyor.

Pasif Yönetişimin Maliyeti

Zillow'un Kasım 2021'de gerçekleştirdiği $569 milyon tutarındaki değer düşüklüğü, algoritmik sapmanın izlenmeden bırakılması durumunda neler olduğunu gösteren en açık örnek olay incelemelerinden biri olmaya devam ediyor. Şirketin iBuying platformu, evleri değerlemek ve satın alma teklifleri sunmak için bir fiyatlandırma modeli kullanıyordu. Pandemi sonrası piyasa koşulları değişirken algoritma, gerçek koşullar soğumakta olmasına rağmen piyasanın hareketli olduğunu varsaymayı sürdürdü.

Zillow, biri bunu fark etmeden önce aylar boyunca evleri şişirilmiş fiyatlardan satın aldı. Hesaplaşma geldiğinde şirket iBuying biriminin tamamını kapattı, iş gücünün %25'ini işten çıkardı ve toplamda $900 milyon'u aşan zararları üstlendi. Hisse senedinin piyasa değeri birkaç gün içinde yaklaşık $7.8 milyar azaldı.

Değer düşüklüğü ani bir arızadan kaynaklanmadı. Kimse sinyalleri izlemediği için birikerek büyüyen kademeli bir sapmadan kaynaklandı. "Ev fiyatlandırması" ifadesini "işe alım kararları" veya "performans değerlendirmeleri" ile değiştirin; tablo aynıdır. Sapma sessizdir. Maruz kalınan risk birikir. Hesaplaşma ise sessiz değildir.

İş gücü yapay zekâsını yöneten yöneticiler açısından maliyet kalemleri somuttur.

• Finansal maruziyet, hatalı işe alımlar, haksız fesihler ve yeteneklerin yanlış tahsis edilmesi şeklinde zaman içinde art arda biriken hatalı yapay zekâ kararlarından kaynaklanır
• Dava riski, tümü sistem günlüklerinde belgelenen aylarca süren taraflı eleme kararlarının, toplu dava avukatlarının aradığı türden sistematik kanıtları oluşturmasından kaynaklanır
• Düzenleyici kurum para cezaları, uygulama çerçeveleri olgunlaştıkça artık teorik olmaktan çıkıyor
• İtibar zararı, rekabetin yoğun olduğu yetenek piyasasında işveren markasını etkiler
• Yönetim kurulu düzeyinde aksama, yapay zekâ ile karar vermedeki yönetişim başarısızlıkları yöneticilerin özen ve sadakat yükümlülüğü kapsamına girdiğinde gündeme gelir. Yöneticiler, kuruluşun gözetim yaptığını kanıtlayıp kanıtlayamayacağını soruyor ve "bir politikamız var" bir yanıt değil. Yönetim kurulu yönetiminde yapay zekâ bu konuda yardımcı olabilir.

Yönetişim Çerçevelerinin Çoğu Neden Başarısız Oluyor?

Çoğu kuruluş sorumlu yapay zekâ dilini benimsedi. Politikaları var. İlkeleri var. Bazıları NIST'e atıfta bulunuyor. Ancak bunların herhangi birine uyup uymadıklarını doğrulamak için gereken iç izlemeyi hiçbir zaman yerleştirmediler. Yapay zekâ yönetişimi yaklaşımlarını açıklayabilirler. Bunu ölçemezler.

Bu, ölçümleme açığıdır ve asıl risk burada yatar.

TDWI'de İleri Analitikten Sorumlu Başkan Yardımcısı ve Kıdemli Araştırma Direktörü Dr. Fern Halper, kuruluşun 2025'in sonlarında birkaç yüz kuruluşla gerçekleştirdiği bir ankete atıfta bulunuyor. Yalnızca yaklaşık üçte biri, kurumsal benimseme, tanımlanmış süreçler, hesap verebilirlik, araçlar ve sonuçları ölçme becerisi açısından yapay zekâ yönetişimlerinin olgun olduğunu belirtti. 

İzleme olanakları daha da az yaygındı. %25'ten azı, sapmayı tespit edebilecek herhangi bir yapay zekâ izleme aracı kullandığını bildirdi.

Bu bulgu, birçok lider için yönetişim sorununu yeniden çerçeveliyor. Yönetim kurullarındaki tartışmalar, yönetişimin mevcut olduğunu ve sorunun yeterince iyi olup olmadığı olduğunu varsayma eğiliminde. Çoğu kuruluş için yapay zekâ kararlarını ölçülebilir herhangi bir şekilde yönetmeye yönelik altyapı henüz oluşturulmadı.

Ocak 2023'te yayımlanan NIST Yapay Zekâ Risk Yönetimi Çerçevesi, dört temel işlev tanımlar: Yönetişim, Haritalama, Ölçme ve Yönetme. Çoğu kuruluş çerçevenin varlığından haberdar. Ancak çok azı bunu ilk ikisinin ötesinde operasyonel hâle getirdi.

• Yönetişim, risk kültürü, hesap verebilirlik yapıları, liderlik bağlılığı, roller ve sorumluluklar gibi tüm alanları kesen temeldir. NIST, bunun bağımsız bir onay kutusu olarak ele alınması yerine diğer üç işleve nüfuz edecek şekilde tasarlanmasını öngörmüştür. Yönetişim olmadan Haritalama, Ölçme ve Yönetme kâğıt üzerinde yapılan çalışmalardan ibarettir.
• Haritalama, yapay zekâya karar verme yetkisinin nerelerde devredildiğini, hangi verilerin sisteme aktarıldığını, kimlerin etkilendiğini ve risklerin neler olduğunu belirler. Bu envanter aşamasıdır ve çoğu kuruluşun durduğu nokta burasıdır. Durum değerlendirmesini tamamladılar. Hangi sistemlerin hangi kararları etkilediğini belgelediler. Ardından yollarına devam ettiler.
• Ölçme, yönetişimin gerçeğe dönüştüğü noktadır. Yapay zekâ riskini belirlenmiş başlangıç değerlerine göre analiz etmek, kıyaslamak ve izlemek için nicel, nitel veya karma yöntemli araçlar gerektirir. NIST bu konuda açıktır: Yapay zekâ sistemleri kullanıma alınmadan önce ve çalışırken düzenli olarak test edilmelidir. Düzenli olarak. Bir kez değil.
• Yönetme, düzeltici faaliyetlerdir — tespit edilen riskleri önceliklendirmek ve ele almak, düzeltici işlemleri kaydetmek, tespit sinyallerini belgelenmiş yanıtlarla ilişkilendirmek.

Sorun şu ki çoğu kuruluş Haritalama aşamasında duruyor veya daha doğrusu, bunu uygulanabilir hâle getirecek Yönetişim temelinden yoksun kısmi bir Haritalama aşamasında duruyor. Sapmayı nadiren nicelendiriyor, maruziyet sinyallerini izliyor veya düzeltici işlemleri kaydediyorlar.

Pease'e göre sinyalleri belgelenmiş düzeltici işlemlerle kesinlikle ilişkilendirmiyorlar. Ölçüm yapmadan haritalama bir katalogdur. Yönetişim olmadan ölçüm ise yalnızca veridir. Bunların hiçbiri belgelenmiş bir eyleme bağlanmadığı sürece keşif sürecinde sizi korumaz.

Dikkate değer: NIST ile uyum, en iyi uygulama olmaktan çıkıp daha fazlası hâline geliyor. Colorado'nun Yapay Zekâ Yasası, uyumluluk için NIST AI RMF'yi açıkça bir ölçüt olarak belirtmektedir. Buna uyum sağlayan dağıtım yapanlar, "makul özen" gösterdiklerine dair çürütülebilir bir karine elde eder. Bu, NIST'in yalnızca gönüllü bir kılavuz değil, hukuki sorumluluğun ölçüldüğü standart hâline geldiği anlamına gelir.

Yapay Zekâ Kaymasının Tespiti ve Niceliksel Olarak Ölçülmesi

Kuruluşların gerçekleştirmesi gereken temel değişim, teknik olmadan önce kavramsaldır. Yapay zekâ gözetimini yıllık veya üç aylık incelemelerle önceden planlanan ve sonrasında raporlanan bir denetim işlevi olarak görmekten vazgeçin ve bunu operasyonel bir işlev olarak ele almaya başlayın. İzlediği sistemlerle birlikte çalışan, tanımlı eşiklere sahip sürekli sinyal izleme.

Neler izlenmeli?

İş gücü yapay zekâ sistemlerinde beş sinyal kategorisi önem taşır.

• Çıktı modelleri: işe alım önerileri, performans puanları veya ücretlendirme kararları, dağıtım temel değerlerinden farklılaşmaya mı başlıyor?
• Adalet ölçütleri: korunan gruplara ilişkin sonuçlar, zaman içinde kademeli olarak bile olsa, birbirinden uzaklaşıyor mu?
• Veri girdileri: sistemi besleyen verilerin bileşimi, modelin tasarlanmadığı şekillerde değişti mi?
• Karar kapsamı: yapay zekânın fiilî yetkisi, başlangıçtaki görev tanımının ötesine genişledi mi?
• Düzenlemelerle uyum: gereklilikler, yönetişim belgelerinizden daha hızlı mı gelişiyor?

Bunların hiçbiri sıra dışı veri noktaları değildir. Bunlar, insanlar hakkında önemli sonuçlar doğuran herhangi bir sistemde zaten bulunması gereken operasyonel ölçütlerdir. Çoğu kuruluş, bunları sürekli olarak izlemek için gerekli altyapıyı hiçbir zaman kurmamış veya değişimi ölçmek için kullanılacak temel değerleri hiçbir zaman tanımlamamıştır.

Betimlemeden niceliksel ölçüme

Çoğu kuruluşun kapatması gereken boşluk, nitel yönetişim ile nicel yönetişim arasındaki mesafedir. "Sorumlu yapay zekâ politikamız var" ile "belgelenmiş eşikler ve düzeltici eylemlerle aylık kayma ölçütlerini gösterebiliriz" arasındaki farktır.

Niceliksel ölçüm şunların ölçülmesi anlamına gelir:

• Kayma büyüklüğü: çıktıların temel değerden ne kadar ve hangi yönde uzaklaştığı
• Finansal maruziyet puanlaması: teknik ölçütleri, düzeltilmeyen kaymanın aylık tahmini maliyeti açısından iş diline dönüştürür.
• Hukuki maruziyet endekslemesi: zaman içinde korunan gruplara ilişkin sonuçlardaki modellere dayanır
• Uyumluluk açığı ölçümü: mevcut sistem davranışı ile geçerli düzenleyici gereklilikler arasındaki mesafe.

Bunu, kayma sinyallerini aydan aya finansal ve hukuki maruziyet ölçütlerine dönüştüren sürekli bir izleme mekanizması olması bakımından bir risk duyarlılığı motoru olarak düşünün.

Yönetişimi bir belgeden gösterge paneline dönüştüren şey budur. Liderliğe, maruziyetin mahkemeye taşınacak türden bir sorumluluğa dönüşerek büyümesinden önce harekete geçme görünürlüğünü sağlayan da budur.

Tespitten Eyleme: Yönetişim Telemetrisi

Pease, "Telemetrisi olmayan yönetişim, gerçekleşmeyi bekleyen bir davadır," dedi. "Yetki devrinin gözetimi gerekir."

Ortaya koyduğu çerçeve, yönetişimi bir belge olarak görmek ile onu bir işletim yeteneği olarak görmek arasına keskin bir çizgi çeker. Standartlar, yönetişimin nasıl görünmesi gerektiğini açıklar. Telemetri ise onu operasyonel hâle getirir. Aradaki fark, bir politika kılavuzu ile bir işletim sistemi arasındaki farktır.

Bu bağlamda telemetri, sürekli sinyal yakalamanın eşik değerlendirmesi ve belgelenmiş bir eylem kaydıyla birleştirilmesi anlamına gelir. Beş bileşen, bunun çalışmasını sağlar.

• Sinyal Yakalama, yapay zekâya devredilmiş her karar noktasındaki sapma göstergelerinin sürekli olarak toplanmasıdır. Örnekleme değil. Üç aylık denetimler değil. Sürekli. Sistem her gün karar veriyorsa izleme de her gün çalışmalıdır.
• Eşik Mantığı, kabul edilebilir değişkenliği eyleme geçirilebilir sapmadan ayıran önceden belirlenmiş sınırları tanımlar. Bunlar kuruluşun risk toleransına ve düzenleyici gerekliliklere göre kalibre edilmelidir. İşe alım önerisi kalıplarındaki %2'lik bir değişim, federal yüklenici ortamında bir girişim şirketindekinden farklı bir anlam taşır. Eşikler, ihtiyaç duyulduktan sonra bir sorundan geriye doğru çıkarılmak yerine ihtiyaç duyulmadan önce tanımlanmalıdır.
• Eskalasyon Yönlendirmesi, işaretlenmiş sinyalleri otomatik yollar aracılığıyla doğru seviyedeki doğru karar vericiye iletir. Her sapma sinyali CHRO'nun dikkatini gerektirmez. Bazıları gerektirir. Eskalasyon mantığı, sapmayı fark edilmeyen bir veri noktasından yönetilen bir riske dönüştüren unsurdur. Bu olmadan sinyaller, kimsenin çok geç olana kadar kontrol etmediği panolarda birikir.
• Denetim Günlüğü, neyin, ne zaman tespit edildiğinin, hangi eylemin gerçekleştirildiğinin ve bunu kimin yaptığının değiştirilemez belgelerini sağlar. Bu, hukuki keşif sürecinden sağ çıkacak belgedir. Yönetişimin gerçekleştiğini ve bunun bir niyet beyanından ibaret olmadığını kanıtlayan şey budur.
• Düzeltici Eylem Döngüsü, zinciri tamamlar. Tespit değerlendirmeye yol açar. Değerlendirme eyleme yol açar. Eylem kaydedilir. Bu olmadan izlemeye sahip olursunuz. Bununla birlikte yönetişime sahip olursunuz.

Bu beş bileşen doğrudan NIST AI RMF ile eşleşir. Govern, telemetrinin mevcut olmasını, kaynak tahsis edilmesini ve liderliğin görünürlüğüne sahip olmasını sağlayan hesap verebilirlik yapısını oluşturur. Map, telemetri noktalarının nerede bulunması gerektiğini belirler — yapay zekâya devredilmiş her karar noktasında. Measure, telemetrinin yakaladığı şeydir: sapma büyüklüğü, maruziyet sinyalleri, eşik ihlalleri, adalet ölçütleri. Manage ise telemetrinin tetiklediği şeydir: eskalasyon, düzeltici eylem, belgelenmiş iyileştirme, kapalı döngü hesap verebilirliği.

Bu eşleştirme önemlidir; çünkü operasyonel uygulamayı Colorado'nun Yapay Zekâ Yasası'nın — ve muhtemelen sonraki eyalet yasalarının — bir kuruluşun makul özen gösterip göstermediğini değerlendirmek için kullanacağı uyum standardına bağlar.

Her Liderin Şimdi Yanıtlaması Gereken Üç Soru

Pease, asgari uygulanabilir yönetişim duruşunu üç soru etrafında çerçeveler. Liderlik bu üç sorunun tümünü yanıtlayamıyorsa kuruluşun yönetişimi tepkiseldir ve operasyonel riski yönetmek yerine itibar riskini yönetmektedir.

1. İşgücü sistemlerinizin içinde yapay zekâya karar verme yetkisi nerelerde devredildi? Yapay zekânın "kullanıldığı" yerler değil. İnsanlarla ilgili kararları verme veya bu kararları önemli ölçüde etkileme yetkisinin verildiği yerler; örneğin işe alım, ön eleme, değerlendirme, ücretlendirme, planlama ve işten çıkarılma riski puanlaması. Bu haritayı oluşturamıyorsanız göremediğiniz şeyi yönetemezsiniz.
2. Yönetişim sapmasını aydan aya nicel olarak ölçebiliyor musunuz? "Bir politikamız var mı?" değil. Yapay zekâ sistemlerinizin tanımlanmış parametreler içinde çalışıp çalışmadığını ve bunun geçen aydan bu yana değişip değişmediğini gösteren bir ölçüt sunabiliyor musunuz? Yönetişim ölçülemiyorsa yönetilemez.
3. Belgelenmiş düzeltici eylemi gösterebiliyor musunuz? Sapma tespit edildiğinde ne oldu? Kime haber verildi? Karar neydi? Ne değişti? Tespitten müdahaleye kadar olan süreci gösteremiyorsanız, en iyi ihtimalle izlemeye sahipsiniz. Yönetişime sahip değilsiniz.

Nereden Başlamalı?

Birçok şirket için uygulama öncelikleri pratiktir.

• İşgücü sistemleriyle başlayın. İnsanları doğrudan etkiledikleri ve en yoğun düzenleyici incelemeye tabi oldukları için bu sistemler en yüksek maruziyeti taşır.
• Önce denetim izini oluşturun. Düzenleyiciler ve mahkemeler bunu talep edecektir. Yönetişimin gerçekleştiğini kanıtlayabilme yeteneği, izlemenin kendisini mükemmelleştirmekten daha acil bir koruma sağlar.
• Ölçeklendirmeden önce araçlandırın. Dağıtımdan sonra telemetri eklemek, onu sisteme en baştan dâhil etmekten katbekat daha zor ve pahalıdır. Yönetişim araçlandırması olmadan gerçekleştirilen her yeni yapay zekâ dağıtımı, izlenmeyen yeni bir maruziyettir.

Operasyon yönetiminde yapay zekâ ile yönetişim telemetrisi oluşturan kuruluşlar, yapay zekâyı güvenle dağıtmalarına, benimseme sürecinde daha hızlı ilerlemelerine ve düzenleyicilere, yönetim kurullarına ve çalışanlara bu sistemlerden etkilenen insanların korunduğunu gösterme olanağı sağlayan altyapıyı kurmaktadır. İşlenmiyor. Korunuyor.

Uygulama dönemi daralıyor. Soru, dikkat ettiğinizi gösterecek kanıta sahip olup olmayacağınız.