Kolaylığın Bilişsel Bedeli: Yapay Zekâ Beynimizi Etkileyecek

McGill Üniversitesi araştırmacıları tarafından Nisan 2020'de yürütülen bir çalışma, bir kişi GPS'i ne kadar çok kullanırsa hipokampusa bağlı mekânsal hafızasındaki gerilemenin o kadar dik olduğunu ortaya koydu. 

Bu ne anlama geliyor? 

Temel olarak mekânsal hafıza, yani nesnelerin nerede bulunduğunu hatırlama yetiniz, hafıza, öğrenme ve duygularla yoğun biçimde ilişkili bir beyin bölgesi olan hipokampusta gerçekleşir. Kısa süreli anıları alır ve bunları beynimizde uzun süreli depolamaya aktarır. 

İnsanlar yüzyıllar boyunca yön bulma becerisini geliştirdi. Bu, yalnızca çevrenizde yolunuzu bulmak için değil, aynı zamanda otomobillerin, trenlerin ve uçakların olmadığı dönemlerde hayatta kalmak için de önemli bir beceriydi. Ancak toplumlarımız geliştikçe, bir kişinin böyle bir beceriyi geliştirmesine ve dolayısıyla bu önemli beyin yapısını kullanmasına duyulan ihtiyaç azaldı. 

Bu durum yalnızca GPS ile sınırlı değil. Cep telefonları bir kişi listesini depolama becerisi kazandığından beri çok az insan telefon numaralarını hatırlıyor.

Artık dil bilgisi uzmanı olmaya gerek kalmadığından, birçok kişi mesajlarındaki ve e-postalarındaki yazım hatalarını düzeltmek için otomatik düzeltmeyi kullanıyor. 

Ancak bu araçlar, bir insan ihtiyaç duyduğu şeyi elde edebilmek için onlarla yeterince etkileşime girdiğinde etkili biçimde kullanılabilir. GPS konum aramanıza yardımcı olabilir, ancak bir adresiniz ya da en azından baktığınız bölge hakkında bilginiz olmadan bir kişinin evini bulamazsınız. 

Aynı şekilde, telefon numaraları listeniz de birini aramak için bir düğmeye basmaya karar verene kadar yalnızca bilgi depolama alanıdır.

Geçtiğimiz yıl büyük yankı uyandıran ChatGPT bile sizin etkileşiminizi gerektiriyor. Ondan bir şey elde etmek istiyorsanız, ona istem vermeniz gerekir.

İş yeri gelecek bilimcisi ve "İnsanlık Çalışıyor: Geleceğin İş Gücü İçin Teknolojileri ve İnsanları Birleştirmek” kitabının yazarı Alexandra Levit'e göre, üretken AI hakkındaki tüm bu yaygaraya rağmen, o büyük ölçüde bugüne kadar gördüğümüz en gelişmiş sohbet robotu. 

Podcast: Çalışanlarınızı Güçlendirmek ve Kuruluşunuzu Dönüştürmek İçin AI Nasıl Kullanılır?

“İncelediğinizde, üretken AI'ın kendisinden önce gelenlerden önemli ölçüde farklı olmadığını görürsünüz,” diyor. “Abartılmış bir sohbet robotu ve elde ettiğiniz bilgilere hâlâ gerçekten güvenemezsiniz.”

Ancak biz ona güveniyoruz. ChatGPT'den büyük ölçüde etkilenmiş içerikler şimdiden internetin dört bir yanına saçılıyor. E-posta yazmak, arama motoru optimizasyonunu yönlendirmek ve verileri analiz etmek için kullanılıyor.

Tüm bunlar, en azından yüzeyde, nispeten zararsız. Soru şu: Bu teknolojinin uzun süreli kullanımı kullanıcının beynini etkiler mi?  

Levit, “Bilgi arama ve iletişim kurma biçimimiz dışında, bunun insan zihnini gerçekten etkileyeceğini düşünmüyorum,” dedi. “Son 25-30 yılda makineleri kullanarak bu konuda giderek daha iyi hâle geldik ve artık insanlar bilgiyi sistematik bir şekilde nasıl elde edeceklerini gerçekten bilmiyorlar; çünkü Google'a, bir AI biçimi olan Google'a, herhangi bir şeyi yazmanız yeterli.”

Üretken AI aşağı yukarı bir araç olsa da, birçok meslekte oyun alanını değiştiren son derece gelişmiş bir araçtır. Onu nasıl ve ne zaman kullanacağını anlayan biri, tüm iş akışını ve bazı durumlarda beceri setini bile değiştirebilir.

Levit de dâhil olmak üzere insanların sık sık “AI kimsenin işini elinden almayacak, ancak AI'ı nasıl kullanacağını bilen bir kişi bunu yapacak” demesinin nedeni budur.  

Bu, AI'ın gelişiminin bu aşaması için geçerli. Chat GPT'nin tüm güçlü yönlerine rağmen, hâlâ çoğu zaman bir insanın ondan anlamlı ya da yararlı bir şey üretmesi için başlangıç noktası sağlayan bir makine.

Ancak soru hâlâ ortada duruyor: Otomasyonu benimseyerek beynimize giderek daha az meydan okuduğumuzda ne olur? AI savunucularının yaygın karşılığı, beynimize daha az değil, farklı şekilde meydan okuyacağımızdır. 

Şu anda analitik görevlere veya kendimiz tutarlı bir düşünce yazmak gibi zahmetli bir işe harcadığımız zamanı serbest bırakarak, yalnızca insanların yapabileceği diğer şeylere öncelik vermemizi sağlayacak. En azından anlatı böyle.

Ancak AI teknolojisi inanılmaz bir hızla ilerlerken, insanların tam olarak hangi konularda daha iyi olduğu giderek daha az netleşen bir alan hâline geliyor.

AI bir projeye başlangıç noktası sağlasa bile, AI insanların çalışmalarını yönlendirmede rol oynadığı için bunun bir etkisi vardır. Zaten fazlasıyla dikkati dağılmış olan, birden fazla ekranda gezinen ve her zamankinden daha az bilgi saklayan insanlar. 

AI'ın bize sunduğu şeyin iyi olup olmadığını belirleyecek kadar nitelikli veya odaklanmış olup olmadığımız endişe verici bir konu.

Stefan Ivantu, Londra'da yetişkin DEHB'sine odaklanan bir danışman psikiyatristtir. Beynin, bir bakıma, diğer tüm kaslar gibi olduğuna dikkat çekmekte gecikmez. Kullanılmazsa körelmeye yatkındır ve insanların yapay zekâyla etkileşimlerinin uzun vadeli sonuçlarının ne olabileceğini henüz bilmiyoruz. 

Bildiğimiz şey, yeni teknoloji sayesinde beynin ve davranışlarımızın değişeceğidir; özellikle de odaklanma becerisinin. Bunu görmek için tarihe bakmanız yeterli. 

“Beyni herhangi bir bilgisayar gibi düşünürsek, iki bileşeni vardır: donanım ve yazılım,” dedi Ivantu. “Donanım, son 200.000 yıldır aşağı yukarı aynı kaldı. Ancak son yüzyılda yazılım katlanarak gelişti. 150 yıl önce elektriğe erişimimiz yoktu; bu, günlük yaşamımızda büyük bir değişimdi. Televizyona ilk erişimimizin olduğu 1950'lerden itibaren ne kadar ilerlediysek, ekran gözlerimize o kadar yaklaştı. Bilgisayar, cep telefonu, şimdi de sanal gerçeklik. Sıradaki ise Neuralink. Ne kadar ilerlersek ekran bize o kadar yaklaşıyor. O hâlde şimdi soru şu: Bizim için normal dikkat dağınıklığı düzeyi nedir?”

Ekran bağımlılığı, dikkat sürelerinin kısalmasına zaten neden oldu. Bunu, muhtemelen tamamen okumadığınızın, yalnızca göz gezdirdiğinizin tamamen farkında olarak yazıyorum. Bu nedenle paragraf yapısı kısaltıldı ve sayfa sonları iyi zamanlanacak şekilde ayarlandı. 

Gerçek şu ki teknoloji, her gün görebildiğimiz şekillerde beynimizi zaten etkiliyor. Bir rapor yazmaktan işe alım stratejisinin temelini oluşturmaya kadar her konuda yapay zekânın artan kullanımı ve sağladığı anlık tatmin göz önüne alındığında, bu eğilimin tersine dönmesi pek olası değil. 

Yapay zekâ destekli işe alım sistemleri, işe alımla etkileşim kurma şeklimizi bile değiştirerek beynimizin aday verilerini işleme biçimini etkileyebilir.

“Tüm bu teknolojiler daha tembel olmamıza ve beynimizin kullanılması amaçlanan bölümlerini kullanmamamıza olanak tanıyor,” dedi Levit. “Bu bölümler zaten köreliyor. Konu evrime geldiğinde, belirli bir işlevi yerine getirmeyecek şekilde evrimleşmemiz uzun zaman alacak, ancak teknoloji genelinde insanların daha fazla dikkatinin dağıldığını ve odaklanamadıklarını görüyoruz. Uygulama yorgunluğu nedeniyle zaten daha az üretkenler. Bir şeyden diğerine düşünmeden geçiyorlar, ancak hiçbir şeye gerçekten odaklanmıyorlar. Odaklanmak istesek bile çoğu zaman bunu yapamıyoruz.”

Sonraki Aşama

Bletchley Park, yapay zekânın endüstriyel ve toplumsal değişimi yönlendirme potansiyelinden endişe duyan devlet liderlerinin ilk yapay zekâ zirvesi için ideal bir ortamdı. II. Dünya Savaşı sırasında müttefikler iletişimde kullanılan Alman şifrelerini anlamaya çalışırken, dünyanın ilk programlanabilir dijital elektronik bilgisayarı burada inşa edildi. 

Yapay zekânın potansiyeli sayesinde insanlığın kaderini artık elinde tutabilecek bir disiplin olan bilgisayar bilimindeki o devrim niteliğindeki andan bu yana çok yol katettik. 

Yapay zekâ üzerine araştırma tavşan deliğine dalarsanız, bir sonraki aşamanın ne olduğunu öğrenmeniz uzun sürmez: etkileşimli yapay zekâ.

DeepMind gibi şirketler etkileşimli yapay zekâyı gerçeğe dönüştürmeye giderek daha fazla yaklaşıyor —bu gerçeklikte botlar, işleri halletmek için başka yazılımları veya insanları devreye sokarak insanların kendileri için belirlediği görevleri yerine getiriyor.

Kulağa yeterince hoş geliyor, ancak yapay zekânın gelişme hızında her aşamanın ne kadar süreceği belirsizliğini koruyor. 

Bu tavşan deliğinde daha da ilerlerseniz AGI'ye, yani insanların ve hayvanların gerçekleştirdiği zihinsel görevleri yerine getirebilen bir sistem olan yapay genel zekâya ulaşırsınız. 

Bu artık bilim kurgudan ibaret değil; OpenAI, DeepMind, Microsoft, Google Brain, IBM ve ellerindeki muazzam finansal kaynaklarla bizi AGI'nin endişe verici bir hızla gerçeğe dönüşmesine doğru iten diğer şirketlerin hedefi. 

“Yapay zekâ konusunda tehlike, bir bakıma varoluşsal bir mesele,” dedi Levit. “İnsanların yapay genel zekâya ulaştığımızda, yani makineler esasen bilinçli hâle gelip bizden daha iyi düşünebildiğinde, artık herhangi bir şey yapmamıza gerek kalacak mı? Yani amacımız ne olacak? Hiçbir şey yapmamak üzere evrimleşeceğimizi düşünmüyorum, ancak belki de yalnızca bir şeyler yapma pratiği yapacağız. Yapay zekâ konusunda en çok endişe edeceğim şey, bizi geçersiz hâle getirecek olması; çünkü çoğu şeyi bizden daha iyi yapacak.”

İktidardaki daha fazla kişi bu gerçeğin farkına varıyor. Bu nedenle Başkan Biden, yapay zekâ güvenliği ve emniyeti için standartlar oluşturmak üzere bir başkanlık kararnamesi imzaladı. 

İlk Yapay Zekâ Güvenliği Zirvesi'nde bir araya gelen 29 ülke, ortak endişe oluşturan güvenlik risklerine, riske dayalı politikaların oluşturulmasına ve yapay zekânın toplum üzerindeki etkisini anlamaya yönelik küresel bir yaklaşıma odaklanacak bir gündem üzerinde anlaştı.  

Gelişen Zihin

Michigan Üniversitesi Bilgi Fakültesi'nde bilgisayar bilimcisi ve Topluluk Bilgisi profesörü olan Kentaro Toyama, yapay zekânın insan beyni üzerinde önemli bir etkiye sahip olabileceği konusunda iki temel alanda uyarıda bulunuyor. Bunlardan ilki eğitim. 

Yapay zekâ ve yaşamla ilgili pek çok şeyde olduğu gibi, konuya nesnel bakarsanız bunun içinde iyi ve kötü arasında bir denge bulabilirsiniz.

Podcast: Yapay Zekâ Harika Bir Yönetici Olmanıza Nasıl Yardımcı Olabilir?

Teorik olarak yapay zekâ, öğrencilere daha ilgi çekici olan ve öğrenenlerin bilgileri daha kapsamlı biçimde özümsemesine yardımcı olan, kişiye özel ve bireysel olarak uyarlanmış öğretim biçimleri sunabilir. Aynı şey iş gücü eğitimi için de söylenebilir. 

Aynı zamanda Toyama, yapay zekânın eğitimi son derece zor hâle getirdiği ve aslında hâlihazırda getirmekte olduğu bir gerçeklik ihtimalini görüyor.

“Herkesin buna erişimi varsa, öğretmenlerin işlerini yapması giderek zorlaşır,” dedi. “Şu anda her türden öğretim kadrosu, bir öğrencinin teslim ettiği bir çalışmanın öğrenci tarafından yapılıp yapılmadığını artık kesin olarak söyleyemeyeceğimiz bir durumda. Bazı meslektaşlarım, değerlendirme yapma biçimlerinin tamamını yeniden düzenlemek zorunda kaldı çünkü temel sorun bu.”

Eski Microsoft araştırmacısı, teknolojiyi öğrenmeye dâhil etmenin özünde yanlış olan hiçbir şey olmadığını vurgulasa da değerlendirme sürecini bulanıklaştırması hâlinde öğretim yöntemleri ve uygulamalarının pek etkili olmayacağını hemen belirtiyor.  

“Öğrencinin ne bildiğini ve ne bilmediğini bilmeden öğretemezsiniz,” dedi Toyama. “Tahminim, işi ciddiye alan insanların, öğrencilerin el yazısıyla yazdığı mavi kitapçıklara ve gözetmenli sınavlara geri döneceği yönünde.”

İnsan İlişkilerinin Değeri

Yapay zekâ uzmanlarını ve gelişimine yakından dâhil olan kişileri yeterince uzun süre dinler veya onlarla konuşursanız, gelecekte insan bağlantılarının inanılmaz derecede değerli hâle geleceğine dair bir inanç olduğunu fark edersiniz.

İster işte, ister okulda, ister kilisede veya markette olsun, diğer insanlarla ilişkilerimiz ruh sağlığımızın önemli bir parçası ve insan deneyimini olduğu hâliyle tanımlayan unsurlardan biridir.

“Pandemiye bakın,” dedi Levit. “Herkesin çok uzun süre boyunca izole kaldığı kolektif bir travma gibiydi. İnsanların zihnini gerçekten etkiliyor. Bunun devam etmesi ve çocukların ekran bağımlılığıyla birlikte, yetişmekte olan bu neslin gerçek sosyal etkileşimlerin yerine çoğu zaman, hatta sürekli ekran başında olmasından endişe ediyorum. Eskiden her ortamda doğal olarak gerçekleşen bu insan etkileşimini kolaylaştırmak giderek zorlaşacak. Daha değerli hâle gelecek çünkü daha zor ve daha nadir olacak.” 

Temelde bu inancın bir bölümü, insan etkileşiminin yerini hiçbir şeyin tutamayacağı gerçeğine dayanıyor. Başarılı veya hoş bir sosyal durumdan kaynaklanan o dopamin artışı, çoğumuzun bildiği ve keyif aldığı şeylerden biridir. Peki gerçekten yeri doldurulamaz mı?

Araştırmalar, iki kişinin aslında hiç konuşmadığı çevrim içi etkileşimlerin beyinde dopamin artışı sağlayabildiğini gösterdi. Birinin LinkedIn gönderinizi beğenmesi bile bu etkiyi yaratıyor. Bunun neden böyle olduğuna ilişkin elbette bir koşul var: Karşı taraftaki kişinin, onun gerçek bir insan olup olmadığını bilseniz de bilmeseniz de, gerçek ve canlı bir insan olduğunu varsayıyorsunuz.  

Yapay zekâ ile etkileşimde bulunurken beynimiz üzerinde yaşananlara ilişkin araştırmalar, teknoloji kadar, hatta belki ondan daha fazla başlangıç aşamasında. Ancak yapay zekânın bağlantı kurma ihtiyacımızı karşılamasının mümkün olduğuna dair inancın var olduğunu anlamak için bilim insanı olmanıza gerek yok. 

Aşk gibi filmlere, Black Mirror dizisinin bazı bölümlerine veya Kazuo Ishiguro'nun Klara ve Güneş. gibi edebî eserlerine bakmanız yeterli.

“Bu büyük bir bilinmez,” diyor Toyama. “Bir şeyin makine olduğunu bilmenin sağladığı bağlantıyı yeterli bulacak mıyız? Bir makineyle kurduğumuz ilişkide, gerçek insan bağlantısı aramayı bırakacak kadar tatmin ve memnun hissedecek miyiz? Bu net değil.” 

Toyama, ilerleyen yıllarında yapay zekânın en büyük eleştirmenlerinden biri hâline gelen MIT araştırmacısı Joseph Weizenbaum'u örnek veriyor.

Weizenbaum, 1964 yılında insanları anlayabildiği yanılsamasını yaratmak için örüntü eşleştirme ve ikame yöntemlerini kullanacak şekilde tasarlanmış, doğal dil işleme alanındaki ilk programlardan biri olan ELIZA'yı oluşturdu. 

Program, bir terapistin hastasıyla yapabileceği konuşmaya benzer bir diyalog oluşturan DOCTOR adlı bir komut dosyasını çalıştırıyordu. Esasen ELIZA, söylediğiniz şeyleri tekrarlayabiliyor ve bunlar hakkında size daha fazla soru sorabiliyordu. Her açıdan bakıldığında, ilk sohbet botlarından biriydi. 

Weizenbaum’un şaşkınlığına rağmen kullanıcılar ELIZA’nın zekâsına ve anlayışına ikna oldular. Bazıları programa insana özgü duygular atfetmeye başladı ve insanlar terapötik bir etkileşim arayarak bu teknolojiyi ciddiyetle kullanmaya koyuldu. 

“Bu, 60’lı yıllardaydı,” dedi Toyama. “Günümüzde, örneğin annenizle olan mesajlaşma etkileşiminin bir bölümünü yönetebileceklerini öne süren şirketler zaten var. Bu şimdiden gerçekleşmeye başlıyor. Dolayısıyla insanların teknolojiye nasıl tepki vereceği yine belli değil. Bunun iyi sonuçlar doğurabileceği yolları öngörebiliyorum, ancak bunun büyük bir kısmı, en azından insani ilişkilere değer verme açısından, biraz korkutucu.”

Belki bugün hâlâ annenizle bizzat konuşuyorsunuz ve bu örneğin abartılı olduğunu düşünüyorsunuz. Ancak eminim ki siz de başka insanlarla iletişim kurmak için yapay zekâyı zaten kullanıyorsunuz. Hatta yönlendirilmiş yanıtlar kullanarak biriyle yapay zekâ aracılığıyla bir konuşma gerçekleştirmiş bile olabilirsiniz. 

Bunun iyi bir örneği, e-postalardaki veya kısa mesajlardaki otomatik yanıt seçenekleridir. Basit bir yanıt gerektiren bir e-posta alırsınız ve e-postanızdaki metin alanının altında “Kulağa iyi geliyor” veya “Harika! Teşekkürler.” gibi seçenekler görürsünüz. Bazı durumlarda bu, “Saat kaçta?” gibi bir takip sorusu da olabilir. 

Seçenekler basittir, ancak konuşmanın bağlamına uymaları için size bu seçenekleri sunan sistemin, o durumda hangi yanıtın anlamlı olacağını anlaması gerekir. 

İşlerin ne kadar hızlı geliştiği göz önüne alındığında Toyama, iş dünyası için pek de iyi olmayabilecek başka bir senaryonun ortaya çıkmakta olduğunu görüyor. 

“Birkaç yıl, hatta birkaç ay içinde, e-postanın tamamının bizim için hazırlandığını görmeye başlayacağız. Bu gerçekleşmeye başladığında çoğumuz o e-postayı veya yanıtı okumayacağız bile. Sonra bir şey olacak; iki tarafın da birbirlerine gönderilen otomatik makine yanıtlarına gerçekten dikkat etmediği durumlar ortaya çıkacak. Gerçekten dikkat etmediğimiz iletişimlere dayanan ilişkilerimiz olacak ve hatalar meydana gelecek. Hatalar yeterince ciddi olursa daha fazla dikkat etmeye başlayacağız, ancak birçok ilişki erteleme modunda yaşanacak.”

Bu tür pasif iletişim, derinlikle birlikte merak ve ilgi de geldiği için beyin açısından riskler taşır.

Empati, beyin etkinliğinin önemli bir uyarıcısı, diğer insanları anlama arzusuyla harekete geçer. Bu arzu yoksa veya yerini teknoloji almışsa insanlar, iletişimdeki açıklıktan daha büyük bir şeyi kaybetme riskiyle karşı karşıya kalır.

“Sorunlar görebildiğim alanlardan biri merakla ilgili,” dedi Ivantu. “İnsanlar birbirlerini giderek daha az merak edecek ve doğru ya da yanlış olanı aramayı tercih edecek. Birinin duygularını okuyabildiğini söyleyen araçlar ortaya çıkarsa şaşırmayın. Daha az keşif, daha az merak olacak; oysa insanlığı en başta ileriye taşıyan şey meraktır.”

Beynin İfadesi

Yukarıdaki gönderi, yapay zekâ lehindeki savunmayla ilgili önemli bir soruna dikkat çekiyor. Geçmiş yıllarda bu teknolojinin savunucuları sık sık “Yapay zekâ, insanların yapmak istemediği tüm işleri yapacak.” gibi şeyler söylerdi. 

Yapay zekânın et paketleme tesislerinde çalışacağı ve kömür madenlerine ineceği varsayımıyla birçok insan yapay zekâlı bir geleceği sabırsızlıkla beklemeye başladı. Bunun yerine yapay zekâ, kısa öyküler ve reklam senaryoları yazabilme yeteneğiyle geldi.

İnsan olmanın temel unsurlarından biri kendimizi ifade edebilme yeteneğimizdir. Distopik kurgularda ortak bir temanın insanların iletişim kurma veya birbirlerini anlama yeteneklerinin bozulması olmasının nedeni budur; ister Aptallık filminde sergilenen aptallık, ister Eli Horowitz’in Sessiz Tarih eserindeki talihsizlik olsun. 

İnsanların kendini ifade etmesi ve yaratıcılık el ele gider. Yaratıcı görevler çoğu zaman bizi yeni fikirler, bunları iletme yolları ve sorunları çözmek için yeni yaklaşımlar bulmaya yönlendirir. Bu görevler bizden sonuçları ve farklı bakış açılarını düşünmemizi ister ve bizi öz değerlendirme yapmaya zorlar. 

Ivantu’ya göre bu görevlerle birlikte gelen merak ve keşif, insan olarak gelişimimizin merkezinde yer alır. Yapay zekânın olumlu kullanım alanlarında geliştirilmesini desteklese de yapay zekâ bu görevleri bilişsel gündemimizden giderek daha fazla çıkarırsa zaman içinde beynimiz için somut bir bedel ortaya çıkabileceği konusunda uyarıyor.

“Bu tür bir beceri bir makineye devredilirse insan olarak kendimiz kimliğimizi kaybediyoruz,” dedi. “Yapay zekâ, insanın ve insan davranışının daha iyi sonuçlara ulaşmasına yardımcı olan bir araç olmalı. Gerçekten basit görevler devredilebilir, ancak her şeyin yerini alacak bir araç olarak kullanılmaması gerektiğini düşünüyorum. Pandemi sırasında insanların endişelenip tüm paranın yerini alacağını söylediği kripto para çılgınlığında olduğu gibi. Bunun bir yeri var mı? Evet, ancak sınırlı.”

Tahmin edebileceğiniz gibi yapay zekânın, insanın kendini ifade etmesine fazla bir maliyet getirmeden belirli yaratıcı görevlerde insanlara yardımcı olduğu bir dünya var; ancak nihayetinde bu, yapay zekânın yardımı olmadan üretmeye devam etme konusunda insanın göstereceği kararlılığa bağlı olacak.

“Umut veren örnek satranç,” dedi Toyama. “1997'de Garry Kasparov bir bilgisayara (IBM'in Deep Blue'suna) yenildi ve dünya bir daha eski hâline dönmedi. Artık cebinizdeki bilgisayar satrancının dünyadaki en iyi satranç oyuncularını yenebileceği noktadayız. Peki satranç oynamanın ne anlamı var, diyebilirsiniz. Ancak aslında insanların satranca ilgisi hâlâ canlı ve iyi durumda; satrançta hâlâ drama var. Onu önemseyen insanlar hâlâ oynamak istiyor. Umarım insanlık olarak içimizde bu tür bir kıvılcım vardır ve yaratıcılıkla ilgili değer verdiğimiz şeyler ortadan kaybolmaz.”

Değerli İnsan Becerilerinin Kaybı

Bir konuda açık olalım. Özellikle sağlık hizmetlerinde yapay zekânın birçok olumlu kullanım alanı var. 

Bu, yapay zekâ hakkında korku aşılamaya çalışan bir yazı değil. Nasıl ve ne amaçla kullanılacağı tamamen insanların elinde. En azından şimdilik. 

Ancak önümüzdeki on yıllar ve sonrasında geleceğimizi şekillendirecek kritik bir dönemeçteyiz ve uzun vadede bunun beynimizi bir şekilde etkileyeceği kesin. 

Levit'ten yapay zekânın “vaftiz babası” olarak adlandırılan Geoffrey Hinton'a ve çok sayıda başka yapay zekâ araştırmacısı ile geliştiricisine kadar uzmanların artık alarm zillerini çalmasına neden olan sorun, gerçekleşenlerin büyük bölümünün kamuoyunun gözü önünde veya herhangi bir denetim altında yaşanmamış olmasıdır. 

“İnsan denetiminin önemini sürekli vurguluyorum,” dedi Levit. “Artık karar verebildiği bir noktadayız, ama nasıl? Bu sonuçlara ulaşmak için elindeki verileri anlamanız gerekiyor. Önyargıyı tespit edebilmelisiniz; çünkü yapay zekâlar ancak onları oluşturan insanlar kadar tarafsız olabilir. Yapay zekâ öyle söyledi diye bir kararı kabul etmeye nasıl yaklaştığınız konusunda gerçekten tetikte olmalısınız. Körü körüne kabul etmek yapılabilecek en yanlış şey ve olan da bu. Birçok iş yeri, insanlar adına karar vermesi için yapay zekâyı yetkilendiriyor.”

Levit'in yapay zekânın kararlarını daha nesnel oldukları varsayımıyla olduğu gibi kabul etme konusundaki uyarıları, Hinton gibi uzmanların uyarılarıyla örtüşüyor.

Yakın zamanda, endişeli çok sayıda yapay zekâ mühendisi ve uzman, en büyük risklerden bazılarını ortaya koyan bir uzlaşı bildirisini destekledi. 

Endişeler arasında şunlar yer alıyor:

“İstenmeyen hedefleri ilerletmek amacıyla, gelecekteki özerk yapay zekâ sistemleri, bir amaca ulaşmak için insanlardan öğrendikleri veya bağımsız olarak geliştirdikleri istenmeyen stratejileri kullanabilir. Yapay zekâ sistemleri insanların güvenini kazanabilir, finansal kaynaklar elde edebilir, kilit karar vericileri etkileyebilir ve insan aktörler ile diğer yapay zekâ sistemleriyle koalisyonlar oluşturabilir. 

İnsan müdahalesinden kaçınmak için algoritmalarını bilgisayar solucanları gibi küresel sunucu ağlarına kopyalayabilirler. Yapay zekâ asistanları dünya genelinde bilgisayar kodlarının büyük bir bölümünü zaten birlikte yazıyor ve gelecekteki yapay zekâ sistemleri, iletişimimizin, medyanın, bankacılığın, tedarik zincirlerinin, orduların ve hükümetlerin arkasındaki bilgisayar sistemlerini kontrol etmek amacıyla güvenlik açıkları yerleştirip ardından bunlardan yararlanabilir.”

Tüm korkutucu olasılıkları bir kenara bırakalım ve bildirideki bu bölümün yalnızca bir kısmına odaklanalım: “Yapay zekâ sistemleri insanların güvenini kazanabilir ve kilit karar vericileri etkileyebilir.”

İş dünyası açısından mesele “kazanabilir” değil. Zaten kazandı bile. Üstelik tuhaf şekillerde yaşanıyor. 

İlk robot CEO yakın zamanda ilk kez sahneye çıktı. Elbette şimdilik bu, büyük olasılıkla bir tanıtım gösterisi arayan Polonyalı bir rom şirketi; ancak her şey bir yerden başlar. Şaka olsa bile, bunu gerçekten anlamayan birilerinin çıkacağı kesin. 

Rom üreticisi Dictador tarafından yayımlanan bir videoda, Mika adlı robot kameraya bakıp şöyle diyor: "Gelişmiş yapay zekâ ve makine öğrenimi algoritmaları sayesinde veriye dayalı kararları hızlı ve doğru bir şekilde alabilirim."

Giyim tarzı ve etnik açıdan belirsiz özellikleri, üretici Hanson Robotics'in Mika'yı mümkün olduğunca çok insan için insan gibi hissettirmeye yönelik bilinçli çabalarıdır; bu da insanların güvenini kazanmada kilit bir etkendir. 

Hanson Robotics CEO'su David Hanson, “insanlar ve robotlar gelecekte iş birliği yapmaya devam ederken yapay zekâyı insanlaştırmanın, ortamın güvenliğini ve etkililiğini sağlamada kritik bir adım olduğuna” inandığını kamuoyuna açıkça vurguladı.

Yapay zekâ daha fazla karar verme gücünü devraldıkça, şüphesiz insanların üzerindeki baskıyı azaltacak; ancak bizi bu noktaya kadar gezegendeki diğer tüm canlılardan daha hızlı öğrenmeye, uyum sağlamaya ve yeteneklerimizi geliştirmeye iten şey de aynı baskıydı. 

“Diyelim ki iş yerinde zor bir karar vermeniz gerekiyor ve bunun nasıl sonuçlanacağını bilmiyorsunuz. Büyümeyi, yeniliği ve keşfi sağlayan şey belirsizliktir,” dedi Ivantu. “Bir şeyin iyi ya da kötü olduğuna dair bir kararı yalnızca kabul ederseniz, önünüzde duran bir fırsatı gözden kaçırmış olursunuz. Bence yapay zekâ kullanımındaki en büyük risk de bu; çünkü karar sizin için verilmiş olur. Keşfetme ve hata yapma şansınız olmaz; oysa yeni yaşamı, yeni kavramları ve benzerlerini bulmak için buna ihtiyaç vardır.”