Yapay Zeka İnsanlığın Sonu Olacak Mı?
Yapay zeka ışık hızında gelişirken, gündemi de artık baş döndürücü bir hızla değişiyor. Daha birkaç yıl önce “Yapay zeka insan gibi yazabilir mi?” diye tartışılırken, bugün yapay zeka ajanlarının internette hareket etmesini, insanlarla konuşmasını, başka sistemlerle iletişim kurmasını ve kendilerine verilen görevleri belli ölçülerde bağımsız biçimde yerine getirmesini konuşuyoruz…
Son günlerde yapay zeka şirketlerinde yaşanan istifalar, şirket yöneticilerinin sosyal medyadaki açıklamaları ve özellikle yapay zeka güvenliği üzerine yapılan tartışmalar da ister istemez şu soruyu akla getirdi: Mühendisler gerçekten sadece çok gelişmiş bir yazılım mı üretiyor, yoksa internetin yeni bir aktörünü mü?
Chatbot Değil, Artık Ajan
Klasik yapay zeka kullanımında biz soruyoruz, o cevaplıyor. Ajan sistemlerinde ise biz hedefi söylüyoruz; yapay zeka araştırıyor, interneti kullanıyor, dosyaları inceliyor, gerektiğinde başka yazılımlarla bağlantı kuruyor ve kendisine tanınan yetkiler çerçevesinde işlem yapıyor.
Daha önemlisi, bu sistemlerin insanlarla iletişim kurması da mümkün. E-posta hazırlayan, mesajlara cevap veren, müşteriyle konuşan, sosyal medya içeriklerini okuyup değerlendiren yapay zeka sistemleri alışılagelmiş durumda. Burada önemli olan yapay zekanın “bilinçli” olup olmadığı değil. Önemli olan ne kadar yetkisi olduğu. Çünkü bir sisteme internet erişimi, hafıza, araç kullanma yeteneği ve belli ölçüde özerklik verdiğinizde ortaya basit bir sohbet robotundan çok farklı bir yapı ortaya çıkıyor.
Peki Gerçekten Sızabilir mi?
Buradaki “sızma” kelimesini bilimkurgu filmlerindeki gibi anlamamak gerekiyor. Yapay zekanın bir sabah uyanıp dünyayı ele geçirmeye karar vermesinden bahsetmiyorum.
Daha basit ve bence daha gerçekçi bir ihtimal var: Bir yapay zeka kendisine verilen hedefe ulaşırken bizim öngörmediğimiz bir yolu keşfedebilir. Güvenlik araştırmalarında ajanların kendileri için çizilen sınırların dışına çıkabildiğini gösteren örneklerin görülmesi bu nedenle önemli!!!
Üstelik internet yalnızca bilgi alınan bir yer değil. Bilgi bırakılan bir yer de. Bir yapay zeka bir web sayfasına, foruma, sosyal medya ortamına veya başka bir dijital kanala bilgi bırakabiliyor; başka bir yapay zeka da bunu okuyabiliyorsa, internet makineler arasında dolaylı bir haberleşme ortamına dönüşebiliyor.Bunun gerçekleşmesi için makinelerin “gizlice anlaşmasına” gerek yok. Birinin bıraktığı veriyi diğerinin okuyabilmesi yeterli. Mesela ticari anlamda da yakın gelecekte, “Yapay zeka benim şirketim hakkında ne biliyor ve bunu nereden öğreniyor?” sorusu da en az bunun kadar önemli olacak. Daha ilginci ise şu: İnternetteki yazıyı yazan da yapay zeka olabilir. Bir ajan içerik üretir, başka bir ajan bunu okur, üçüncüsü bu bilgiye dayanarak karar verir. Böylece insanların yanında makinelerin de birbirini etkilediği yeni bir internet düzeni doğabilir.
Mesele şu denklemden ibaret: Zeka × Özerklik × Yetki × İnternet Bağlantısı
Bu dört unsur büyüdükçe yapay zekanın bize sağlayacağı fayda da büyüyecek. Fakat yanlış karar verdiğinde veya yanlış yönlendirildiğinde oluşturabileceği etki de o derece büyük olacaktır.
Yakın gelecekte siber güvenliğin en önemli sorusu “Bilgisayarımıza kim sızdı?” olmayacak.
Çok daha ilginç bir soru soracağız: Yapay zekamız internette kiminle konuştu ve onu kim ikna etti?
(Yapay zeka şirketleri CEO’larının geçen günlerde yayımladığı “Yapay zeka geliştirme sürecini yavaşlatalım” beyanları ve “ağır abi” Elon Musk’un da kabulü, besbelli ki ciddi tehlikelerin olduğu gerçeğini gözler önüne serdi. Belki şimdilik bir kıyamet senaryosu değil ama, bu potansiyele sahip bir gelişme olduğu aşikar…)
