Key Takeaways
Risk Tanımlaması: Pentagon, Anthropic'i ulusal güvenlik riski olarak tanımladı; bu, bir ABD şirketi için tarihî bir ilk oldu.
Düzenleyici Boşluklar: Yapay zekâ kullanımına ilişkin federal düzenlemelerin bulunmaması, gözetim ve otonom kararlar için hukuki sınırları karmaşıklaştırıyor.
Yönetişim Başarısızlığı: Pentagon ve Anthropic, yapay zekâ operasyonları üzerindeki karar yetkisini net biçimde belirleyemedi ve bu durum bir krize yol açtı.
Yapay Zekâ Kullanımının Yaygınlığı: Çalışanların yaklaşık %78'i yapay zekâ araçlarını kuruluş onayı olmadan kullanıyor; bu da hesap verebilirlik konusunda endişeleri artırıyor.
Operasyonel Çerçeve: Etkili yönetişim yalnızca politika belgelerine değil, iş akışı düzeyindeki karar yetkisine odaklanmalıdır.
Geçtiğimiz cuma, Pentagon, yapay zekâ modeli Claude'un geliştiricisi Anthropic'i ulusal güvenlik tedarik zinciri riski olarak tanımladı. Normalde Rus siber güvenlik şirketleri ve Çinli çip tedarikçileri gibi yabancı hasımlar için kullanılan bu tanımlama, daha önce hiçbir Amerikan şirketine uygulanmamıştı.
Anthropic direnirken OpenAI, Anthropic'in sözleşmesini almak üzere devreye girdi.
Anlaşmazlık aylar önce, Anthropic'in Claude'u gizli askeri ağlarda kullanıma sunmak üzere 200 milyon dolarlık bir sözleşme imzalamasıyla başladı. Anthropic iki kırmızı çizgi belirledi: Amerikalıların kitlesel gözetlenmemesi ve insan müdahalesi olmadan ateş eden tamamen otonom silahların kullanılmaması.
Pentagon, yasal olan her türlü amaç için sınırsız kullanım talep etti.
Makul görünüyor; ancak yapay zekâ gözetimini düzenleyen hiçbir federal yasanın bulunmadığı gerçeği göz önüne alındığında durum farklı. Algoritmik hedeflemenin sınırlarını tanımlayan hiçbir düzenleme yok. Otonom karar alma için hiçbir yasal çerçeve bulunmuyor.
Yasanın bulunmadığı bir ortamda "yasal olan her türlü kullanım", her şeye izin verildiği anlamına gelir.
Taraflardan hiçbiri, anlaşmazlık tırmanmadan önce çözmek için bir mekanizma oluşturmadı ve Savunma Bakanı Pete Hegseth, Anthropic CEO'su Dario Amodei'ye uyum sağlaması ya da sonuçlarla karşılaşması için üç günlük bir ültimatom verdi.
Amodei geri adım atmadı. Kara listeye alınmasından birkaç saat sonra CBS News'e verdiği röportajda, eylemleri "misilleme niteliğinde ve cezalandırıcı" olarak nitelendirdi ve Anthropic'in orduyu rakip bir şirkete geçiş sürecinde desteklemeye devam etmeyi teklif ettiğini söyledi.
Ayrıca, yüksek riskli ortamlarda yapay zekâ kullanan herkes için temel kaygı olması gereken noktayı da belirledi: "Teknoloji o kadar hızlı ilerliyor ki yasalarla uyumunu kaybediyor."
İş Dünyasına Dönüş
Haberlerin çoğu bunu siyasi bir hikâye olarak çerçeveledi. Güvenliğe karşı savunma. Bir teknoloji CEO'suna karşı bir savunma bakanı. Bunun bir versiyonu otonom silahların etiğiyle ilgili ve bu hikâye önem taşıyor.
Ancak bu olayın, her COO ve CHRO'yu durup düşünmeye sevk etmesi gereken bir yönü var; çünkü manşetlerin altında yatan başarısızlık siyasi değil, yapısal.
Pentagon, yapay zekânın nasıl kullanılacağı konusunda yetkinin kimde olduğunu netleştirmeden yapay zekâyı gizli operasyonlara entegre etti. Anthropic, kırmızı çizgilerinin geçerli olacağını varsaydı. Pentagon ise teknolojiyi edindiğinde bu kırmızı çizgilerin geçerli olmayacağını varsaydı. Anlaşmazlık krize dönüşmeden önce anlaşmazlığı ele alacak yönetişim mimarisini kimse tasarlamadı.
Bu süreç, liderlerin çoğunun tam olarak farkında olmadığı bir ölçekte şu anda şirketlerde yaşanıyor.
Gizli Ağlardan Organizasyon Şemanıza
Birden fazla araştırma, çalışanların yaklaşık %78'inin işverenlerinin hiç onaylamadığı yapay zekâ araçlarını kullandığını tahmin ediyor. Başka bir deyişle, çoğu kuruluşta, bunu gerçekleştirecek bir mimari tasarlanmış olsun ya da olmasın, kararların nasıl alındığına yapay zekâ zaten yerleşmiş durumda.
Bir CHRO, şirkette iş tanımlarının hazırlanması, özgeçmişlerin taranması ve performans geri bildirimlerinde kullanılacak ifadelerin oluşturulması gibi işlerin, bu çıktıların herhangi biri için belirlenmiş bir sorumlu olmadan yapay zekâ tarafından gerçekleştirildiğini keşfedebilir.
Bir COO, talep tahminlerinin, fiyatlandırma önerilerinin ve tedarikçi değerlendirmelerinin, liderlik ekibinde hiç kimsenin üretim ortamında kullanılmak üzere resmen onaylamadığı modeller tarafından şekillendirildiğini görebilir.
Bazı liderler bunu yönetmek için yapay zekâ yönetişimi stratejileri oluşturmaya başladı. Muse Group COO'su Mohammed Chahdi, yönetim kurulunun operasyonel yapay zekâyı deneysel girişimlerden ayırmak için kullandığı bir çerçeveyi anlatıyor.
Bir şey temel operasyonlarımızın parçası hâline gelmeden önce, yönetimin her yapay zekâ uygulamasının güvenilirliğini ve kapsamını, operasyon modelinde kendine yer edinmeden önce titizlikle sınamasını bekleriz.
"Bunu test ediyoruz" ile "bu artık gerçek kararları etkiliyor" arasındaki çizgi olan bu eşik, çoğu kuruluşun henüz tanımlamadığı noktadır.
Tüm bunların üzerinde asılı duran soru, Pentagon-Anthropic ilişkisini koparan sorunun aynısı: Yapay zekâ kritik iş akışlarına bir kez entegre edildiğinde, yapay zekânın ne yaptığı konusunda karar yetkisi kimde olacak?
Çoğu şirkette dürüst cevap hiç kimse. Karar yetkileri, insanların analiz ürettiği ve son kararı insanların verdiği bir dünya için tasarlanmıştı. Şimdi yapay zekâ analiz üretiyor, öneriler hazırlıyor ve çoğu durumda bir insan incelemeden önce kararı şekillendiriyor.
Hesap verebilirlik yapısı bu gelişmelere ayak uyduramadı ve teknoloji sürekli katlanarak gelişiyor. Berkeley merkezli bir yapay zekâ araştırma kuruluşu olan METR, öncü yapay zekâ modellerinin görev tamamlama ufkunun yaklaşık her yedi ayda bir iki katına çıktığını tespit etti. Bu hız, yönetişim çerçevelerinin olgunlaşmasını beklemiyor.
Sözleşmeler Yönetmez. İşletim Sistemleri Yönetir.
Çoğu kuruluşun içgüdüsel tepkisi politikayla karşılık vermektir. Şunları yapabilirsiniz:
- Kabul edilebilir kullanım belgesi hazırlamak
- Bir onay komitesi oluşturmak
- Bir inceleme döngüsü oluşturmak.
Politika gereklidir. Ancak politika yalnızca yüzey katmanını ele alır. Pentagon'un şartları bulunan bir sözleşmesi vardı. Muhtemelen bu şartları inceleyen hukukçuları da vardı. Yine de kamuoyuna açık bir açmazla karşı karşıya kaldı; çünkü sözleşme, yapay zekânın pratikte nasıl kullanılacağını nihai olarak kimin kontrol edeceğini hiçbir zaman netleştirmedi.
Amodei'ye Anthropic adlı özel bir şirketin askerî yapay zekâ kullanımı konusunda neden Pentagon'dan daha fazla söz sahibi olması gerektiği sorulduğunda bu noktayı doğrudan vurguladı. Yanıtı soyut anlamda etikle ilgili değildi. Yetenek sınırlarıyla ilgiliydi.
Modelimizin bir kişiliği var. Belirli şeyleri yapabiliyor. Bazı şeyleri güvenilir biçimde yapabiliyor. Bazı şeyleri güvenilir biçimde yapmama yeteneğine sahip.
Bu, yapay zekânın üretebildikleri ile bir insanın doğrulaması gerekenler arasındaki boşluğa dair bir ifade. Aynı boşluk, yapay zekâ destekli iş akışları yürüten her kuruluşta mevcut. Bir model fiyatlandırma önerisi hazırladığında, bu önerinin bu müşteri, bu pazar ve bu an için geçerli olup olmadığının sorumluluğunu birinin üstlenmesi gerekir.
Yapay zekâ adayları taradığında, kriterlerin adil ve doğru sonuçlar üretip üretmediğinin sorumluluğunu birinin üstlenmesi gerekir. Yapay zekâ bir uyumluluk özeti oluşturduğunda, düzenleyici kurumlara gönderilen bilgilerin doğruluğunun sorumluluğunu birinin üstlenmesi gerekir.
Hızlanma altında işleyen yönetişim, bir politika kılavuzundan çok bir işletim sistemine benzer. Karar yetkisi iş akışı düzeyinde belirlenmelidir. İnsanların müdahale noktaları, var oldukları varsayılmak yerine üretimdeki yapay zekâ iş akışlarına tasarlanarak dahil edilmelidir. Model değişiklikleri, dağıtımdan önce test ve açık onay gerektiren sistem değişiklikleri gibi ele alınmalıdır.
Asıl Başarısızlık Nerede Yaşanıyor?
Amodei, CBS röportajında askerî bağlamın çok ötesine taşınabilecek bir noktaya değindi. Otonom silahları tartışırken şunları söyledi:
"10 milyon drondan oluşan ve tamamı tek bir kişi ya da küçük bir grup tarafından koordine edilen bir ordum olduğunu varsayalım. Burada hesap verebilirlik sorunları olduğunu görmenin kolay olduğunu düşünüyorum."
Dronların yerine orta ölçekli bir şirketteki yapay zekâ destekli iş akışlarını koyun. Tek bir kişinin yerine, istikrarlı bir ortamda operasyonel verimlilik nedeniyle terfi etmiş ve insan üretimi çalışmayla makine üretimi çalışma arasındaki farkı nasıl anlayacağı konusunda hiçbir eğitim almadan insan ve makine tarafından üretilen işlerin bir karışımını denetleyen bir yöneticiyi koyun; yani akıcı yapay zekâ çıktısı ile doğru yapay zekâ çıktısı arasındaki farkı.
Kasıtlı davranmazsak yöneldiğimiz yer burası. Yöneticiler, bunun görevlerinin bir parçası olduğu kendilerine söylenmeden, doğrulama disiplinini hesaba katan performans sistemleri olmadan ve bir şeyler yanlış göründüğünde başvurulacak açık eskalasyon yolları bulunmadan yapay zekâ destekli kararları örtük biçimde denetliyor.
Yapay zekâ taramasından altı ay sonra önyargılı bir işe alım örüntüsü ortaya çıkarsa ya da bir fiyatlandırma hatası binlerce hesaba yayılırsa, başarısızlık teknik olmayacaktır. Başarısızlık, gözetimin sorumluluğunu kimsenin üstlenmemiş olması olacaktır.
Pentagon, Claude'u gizli operasyonlara dahil edip sınırları daha sonra belirleyebileceğini varsaydı. Anthropic ise sözleşmedeki kırmızı çizgilerinin onları uygulamaya koyacak bir mekanizma olmadan da gözetileceğini varsaydı. İkisi de yanıldı.
Sonuç; kamuoyuna açık bir kopuş, normalde yabancı düşmanlara yönelik kullanılan bir kara listeye alma tanımı ve üniformalı askerî yetkililerin vazgeçilmez olarak nitelendirdiği bir modelin yerine yenisini koyma telaşı oldu.
Çoğu kuruluş bu kadar dramatik sonuçlarla karşılaşmayacak. Ancak yapısal başarısızlık tanıdık gelecektir. Yapay zekâ sisteme dahil edilir. Kararlar onun üzerinden akar. Çıktının sorumluluğunun kimde olduğu, kimin müdahale yetkisine sahip olduğu veya bir şeyler bozulduğunda ne olacağı hiç kimse tarafından net biçimde tanımlanmaz. Sorun acil hâle geldiğinde ise bu soruyu sakin biçimde yanıtlamak için artık çok geçtir.
Bunu okuyan bir CHRO veya COO iseniz Pentagon deneyi sizin için gerçekleştirdi. En önemli yönetişim sorularının ertelenmesinin neye yol açtığını öğrenmenin bedeli; kopmuş bir ilişki, ulusal güvenlikte bir açık ve gerçekleşmesine gerek olmayan bir telaş oldu. Bu deneyin sizin versiyonunuz daha sessiz olacaktır. Daha ucuz olmayacaktır.
