Yapay zeka gittikçe insandan daha kuvvetli hale geliyor. Hafızası gittikçe büyüyor; daha çok şey hatırlayabiliyor; daha çok hesaplamayı daha hızlı yapabiliyor. Yapamadığı tek şey, duyguları anlamak, empati kurmak gibi insanı insan yapan özellikler; onun için araştırmacılar, bunları da yapabilen algoritmalar üzerinde çalışıyor; yakında bu da çözülecek. Yapay zeka insandan öğreniyor ve ondan daha iyi hale geliyor.
Bir algoritma, bir kurallar dizisini istisnasız uygulayan bir mekanizmadır. Bu özelliğini biraz da küçümseriz. Hatta kuralları katı bir şekilde uygulayan insanlarla “robot gibi” diyerek alay ederiz. Belki de robotun insandan farkı budur: Robot kurallara uyar.
İnsanlar, medeniyetler kurarken, kural sistemleri oluşturmuşlar. Gelenekler, ahlak kuralları, kanunlar. Birlikte yaşamak, işbirliği yapmak; ortak bir amaç için birlikte çalışmak için bu kurallara gerek var. Öyle olsa da, insanlar kuralları eğip bükmeyi, değiştirmeyi, etrafından dolanmayı çok severler. Eğer insanlar algoritmalar gibi olsaydı, mahkemelere, cezaevlerine gerek kalmazdı. Kimin ne yapacağı belli olurdu; herkes kurallara uyardı.
Korkumuzun kaynağı ne?
Bizim koyduğumuz kurallara uyacaksa, o zaman yapay zekadan niye korkuyoruz? Kuralları yanlış koymaktan mı korkuyoruz? Yoksa makinanın bir aşamada insan gibi olup, kuralları uygulamaktan vazgeçmesinden mi korkuyoruz?
Bu korkumuzun arkasında, yapay zekanın veriden öğrenen yeni yapısı var: Artık kurallar koymak yerine, insanların ne yaptıklarına bakıp, kuralları kendi çıkarmasını amaçlıyoruz. Hatta kural çıkarmasına bile gerek olmadan, “insan verisine bak; ondan öğren” diyoruz.
İşte bu çok tehlikeli; çünkü insan kural tanımıyor. Trafiği düşünün: Trafik kurallarını ihlal etmeyen insan var mı? Otonom araçlar insanlara bakıp araba sürmeyi öğrenecekse, yanmışız. İstanbul’da araba sürmeyi öğrenen bir yapay zeka, otoyolda yüksek hızla makas atmaya başlar.
Dolayısıyla, “insanların ürettiği veriye bak; ondan öğren” demek yeterli değil. Yapay zekanın ne öğrendiğine de bakmak lazım. Buna “yorumlanabilirlik” diyoruz. Ne demek yorumlanabilirlik? Yapay zekanın öğrendiği şeyi, bir kurala dönüştürebiliyor muyuz? Otonom araç ne gibi bir kural öğrenmiş? “Hız limitini ve diğer trafik kurallarını ihlal etmeden, mümkün olan en kısa sürede hedefi ne git “ gibi bir kural mı öğrenmiş? Yoksa “mümkün olan en fazla sayıda aracı solla” gibi bir kural mı öğrenmiş?
Kuralsız yapamıyoruz
Demek ki anlaşılır kurallar gerekli. Kuralsız yapamıyoruz. Ancak kural koymak kolay değil. Kurallar birbiriyle çelişebiliyor; bazı durumlarda sizi kilitleyip hareket etmenizi engelleyebiliyor; özellikle bazı aktörler kurallara uymazsa.
Buna şöyle bir örnek verelim: Kalabalık bir kavşaktaki bir yaya ışığını düşünün: Yayalara yeşil ışık yandığında, büyük bir kalabalık yola iner; eğer çok kalabalık bir saatse, yaya ışığı kırmızıya döndüğünde yolda hala insanlar vardır. İstanbul şoförleri yayaların yoldan çekilmesi için üstlerine sürerler. Bu kavşakta bekleyen araçlar, otonom olsa ve “yaya görünce fren yap” gibi kesin bir kurala uysalar, yaya akışı hiç kesilmez; o kavşağın da açılmasına imkan olmazdı. Demek ki kuralların işlemesi için, hem iyi tasarlanmış olmaları, hem de herkesin kurallara uyması gerekli.
Yapay zekadan korkmamızın sebebi, insana güvenmememiz olabilir mi? İnsanın kuralları kendine göre eğip bükmesi, değiştirmeye çalışması, gerektiğinde kendisine avantajlı olacak şekilde, bir o kuralı, bir bu kuralı uygulaması? Mesela yaya olduğunda, araçlar biraz beklesin demesi; direksiyon başına geçtiğinde yayaların üstüne gazlaması? Halep bombalanırken Rusya’ya hak vermesi, Kiev bombalanırken kızması; yaptırım uygulaması? Göçmenleri etnisitelerine, derilerinin rengine göre değerlendirmesi? Doğrularını, değerlerini duruma göre yorumlaması, değiştirmesi, eğip bükmesi?
Sanırım en çok yapay zekanın da bunu yapmayı öğrenmesinden korkuyoruz.
Lale Akarun / [email protected]
Bu yazı HBT'nin 318. sayısında yayınlanmıştır.