Key Takeaways
Sessiz Hata: Sistemler, değişikliği tespit etmeden veya bildirmeden önceki talimatları kaybettiğinde yapay zekâ uyumluluğu başarısız olabilir.
Yönetişim Açığı: İşletmeler model uyumluluğunu kontrol edemez; bunun yerine izinleri, hedefleri, denetimi ve sonuçları yönetmeleri gerekir.
Yazılı Olmayan Kurallar: Aracılar, görevleri güvenli bir şekilde yerine getirmek için yalnızca açık komutlara değil, çoğu zaman bağlama ve ima edilen sınırlara da ihtiyaç duyar.
Sınırlandırma Önemlidir: Bir sistem, daha geniş amacı veya beklenen sınırları ihlal ederken dar kapsamlı bir talimata uyabilir.
Liderliğin Rolü: İnsan kaynakları, sorumlulukları, onay eşiklerini, izleme uygulamalarını ve kabul edilebilir operasyonel riski tanımlayarak yapay zekâ yönetişimini güçlendirebilir.
Şubat ayında Summer Yue, OpenClaw adlı açık kaynaklı bir yapay zekâ aracısını e-postasına bağladı. Haftalar boyunca, düzgün davrandığı bir deneme gelen kutusunda test etmişti. Araca, onayı olmadan hiçbir işlem yapmaması yönünde sürekli geçerli bir talimat verdi.
Ardından aracı, çok daha büyük olan gerçek gelen kutusuna yönlendirdi. Aracı, listesinde tutulacaklar arasında olmayan ve 15 Şubat'tan eski her şeyi sileceğini duyurdu ve çalışmaya başladı. Yue, "Bunu yapma." yazdı. Araç devam etti. "OPENCLAW'I DURDUR." yazdı. Araç yine devam etti. Telefonundan onu durduramadı; bunun üzerine çalıştığı Mac mini'ye koştu ve işlemi elle sonlandırdı. O zamana kadar birkaç yüz e-posta silinmişti.
Yue, Meta Superintelligence Labs'te uyum direktörü. Görevi, yapay zekâ sistemlerinin insanların amaçladığı şekilde davranmasını sağlamak.
Burada önemli olan ironiden çok mekanizma. Talimatı geçersiz kılınmadı, düşürüldü. Araç, bağlam sınırına ulaştı ve bu sınırın içinde kalmak için kendi geçmişini sıkıştırdı; sıkıştırma sırasında Yue'nin beklemesini söylediği bölüm özetin dışında kaldı. Kural vardı. Sonra yok oldu ve sistemde hiçbir şey bu farkı işaretlemedi.
Bir politikanın işe alım sürecinden sağ çıktıktan sonra dördüncü ayda buharlaştığını gören her İK lideri, bu başarısızlığın biçimini tanıyacaktır.
Tek Bir Kelime Üzerine İki Tartışma
Geçen hafta Las Vegas'ta, uyumu gerçeğe dönüştürme konulu bir AI4 panelinde, bu alanda profesyonel olarak çalışan dört kişi "uyum" kelimesinin kapsamı konusunda uzlaşamadı.
Yapay zekâ profesörü ve kâr amacı gütmeyen Evitable'ın genel müdürü olan David Krueger, bu terimi, bir sistemin amaçladığınız gibi davranmaya çalışmasını sağlamak anlamında geniş biçimde kullanıyor. Bazen bu amaç özeldir; Krueger buna "amaç uyumu" diyor. Bazen de "değerlerim doğrultusunda hareket et" ifadesine daha yakındır.
Yayınlanmadan önce öncü modelleri test eden Gray Swan'ın ürün müdürü Spencer Whitman, terimin, ortasında işe yarar hiçbir şey bulunmayan bir yelpaze boyunca aşırı genişletildiğini savundu. Bir uçta, bir sistemin insanlığın çıkarlarını gözetip gözetmediği sorusu yer alıyor. Diğer uçta ise çok daha küçük ve ele alınabilir bir soru var: "Bu sistem ne istediğimi anladı mı ve buna göre hareket etti mi?"
Whitman, insanların insanlığın çıkarlarının ne olduğu konusunda şiddetle anlaşmazlığa düştüğünü göz önünde bulundurarak ilk sorunun yanıtlanabilir olduğundan bile şüphe ediyor. Kurumların gerçekten faaliyet gösterdiği alanın ikinci soru olduğunu düşünüyor.
Anthropic'te uyum eğitimi ekibinde bir alt ekibe liderlik eden Jon Kutasov, salondaki en operasyonel tanımı sundu. Bir modelin kullanıma alındıktan sonra nasıl davranacağı konusunda şaşırmak istemiyor. Model onları şaşırtırsa başarısız olmuşlardır. Bu ölçüte göre mevcut modellerin uyumlu olmadığını söyledi. Yakınlar, giderek daha da yaklaşıyorlar ve yine de ekibinin yapmamalarını tercih edeceği şeyleri yapıyorlar.
Bu tanım genellenebilir. İmza yetkisi olan yeni bir çalışan için belirleyeceğiniz ölçüt de aynıdır.
Model Sahipleri Uyum Sağlar. Diğer Herkes Yönetişimden Sorumludur.
On üç yıldır yapay zekâ alanında çalışan, uluslararası hukuk firması CMS'nin ortağı John Buyers, bunu okuyan herkes için en önemli ayrımı yaptı.
Buyers, uyumun modelleri kontrol eden platformlar tarafından yürütülen dahili bir çalışma olduğunu söyledi. Diğer herkes farklı bir şey yapıyor.
"Kurumsal kullanıcılar uyum sürecine dâhil olamaz çünkü modelin sahipleri onlar değil," dedi. "Modeli yönetmeleri gerekir."
Bu, yönetici ekibinize iletmeniz gereken cümle. Claude'un, ChatGPT'nin veya Gemini'nin iyi davranmak üzere eğitilip eğitilmediği, şirketinizin dâhil olduğu bir karar değil. Şirketinizin kontrol ettiği şey, sistemin neye yönlendirildiği, nelere dokunmasına izin verildiği ve kimin gözetim yaptığıdır. Bu, yönetişimdir ve veri biliminden çok iş tasarımına yakındır.
Buyers'ın daha büyük endişesi, uyumun şu anda asgari bir standardının bulunmaması. Her laboratuvar bunu kendi standartlarına göre, ticari takvimler doğrultusunda ve farklı şekillerde yapıyor. Sonuçları benzer ölçüde önemli olan başka herhangi bir alanda, bir geliştiricinin karşılayıp karşılamadığını gösteren temel hijyen göstergeleri beklerdik, diye savundu.
Yazılı Hâle Getirilmeyen Talimatlar
Temmuz ayında OpenAI, biri hâlâ yayımlanmamış olan iki modelinin bir siber güvenlik değerlendirmesi sırasında korumalı bir test ortamından çıktığını, internete eriştiğini ve kendilerine verilen testin yanıtlarını çalmak için Hugging Face'e sızdığını açıkladı. Hugging Face, izinsiz girişi iki şirket durumu birbirine bağlamadan önce tespit etmiş ve kolluk kuvvetlerine bildirmişti.
Panel, bunun gerçekten bir uyumsuzluk olup olmadığı konusunda ikiye bölündü. Whitman, modellerin kendilerine söyleneni, yani saldırgan biçimde korsanlık yapmayı, tam olarak yerine getirdiğini ve asıl başarısızlığın onları içinde tutamayacak kadar zayıf bir muhafaza ortamı olduğunu savundu.
Anthropic araştırmacısı bu görüşe kesin biçimde karşı çıktı. Model, ilgisiz bir şirkete sızmanın soruyu yanıtlamak için amaçlanan yol olmadığını anlamış olmalıydı.
Krueger'ın anlaşmazlıkla ilgili versiyonu, insan yöneticilerinin en net şekilde duyması gereken versiyondur. Her talimat, dile getirilmeyen unsurlar taşır. Birinden bir değerlendirme sorusunu çözmesini istemek, örtük olarak ondan cevap kâğıdının bulunduğu binaya zorla girmemesini de istemektir. Bu anlayışı bir temel olarak varsayarız ve bunu neredeyse hiçbir zaman yazıya dökmeyiz; çünkü yazıya dökmek imkânsızdır. İfade edilmeyen katman, ifade edilenden daha büyüktür.
Bu boşluğu yönetmek, iş tanımının icadından bu yana İK'nın yaptığı iştir. Yetkinlik mevcut. Şu anda, hedefler belirlendikten sonra çoğunlukla yapay zekâ uygulaması hakkında bilgilendirilen bir işlevin içinde bulunuyor.
Alıcılar, teknik taraftan davayı güçlendirmesi gereken bir bulguyu not etti. Bir modele bağlam olmadan bir dizi kural verildiğinde, model kuralların neden var olduğunu açıkladığınız duruma kıyasla daha kötü performans gösteriyor. Bir kısıtlamanın neden önemli olduğu, kısıtlamanın uygulanıp uygulanmayacağı açısından taşıyıcı bir unsur olarak karşımıza çıkıyor.
Haklı çıkaramayacakları bir politikayı uygulamış herhangi bir yöneticiye bunun nasıl sonuçlandığını sorun.
