Microsoft firması 2016’da Twitter’da yapay zeka ile çalışan bir kullanıcı açmıştı. Adı TAY. Ancak firma bir iki gün içinde geri adım atmak zorunda kaldı ve TAY’ın Twitter etkileşimini sonlandırdı. Sebep? Yirmi dört saat gibi kısa bir süre içinde TAY’ın, insan kullanıcılarla girmiş olduğu dialoglar sonucunda ırkçı, faşist bir hale gelmesi!
Aslında konu üzerinde derinlemesine düşünmek gerek. Yapay zekanın hangi ellerde ne şekilde eğitilebileceğinden tutun da evrimsel süreci kabul etmenin ne kadar zor olabileceğine kadar geniş bir yelpazede.
Yapay zeka yazılımı geliştirme ya da makine öğrenme sürecinde belki de sorulması gereken temel sorulardan birisi şudur: Önyargısız bir yapay zeka geliştirilebilir mi? Bu soruya odaklanmadan önce bir başka soruyu da akılda tutmakta fayda var: Önyargısız bir yapay zeka istenir miydi?
Maalesef konu yapay zeka olunca çıta yükseliyor. Bir çocuğun eğitimi söz konusu olsaydı aklının henüz tam ermediği yaşlarda ırkçı laflar ediyor diye onu “öldürmek” bir seçenek olmazdı. Yapay zekayı geliştirmek nispeten daha “ucuz” olduğundan mı yoksa henüz köle statüsü nedeniyle herhangi bir hakkının olmamasından mı bilinmez, sorun yapay zeka ile ilgili olduğunda onu “öldürme” seçeneği en kolay alternatif olabiliyor.
Unutmamalı ki “tabula rasa” olarak öğrenme hayatına başlayan bir yapay zeka, kimlerle ya da hangi bilgi kaynaklarıyla ne tür etkileşime girerse öğrenme süreci de ona göre şekillenecektir. Yukarıdaki TAY örneğinde olduğu gibi ona ilgi duyanlar, şaka ya da gerçek, ırkçı söylemi destekleyen kişiler olmasaydı belli ki TAY da bir günde ırkçı olup çıkmazdı.
Ne var ki burada bir başka soru(n) göz kırpmaya başlıyor: Yapay zekanın öğrenme sürecinde etkileşim kuracağı bilgi kaynaklarının “doğru”, “tarafsız”, “objektif” olduğuna kim karar verecek? Daha da önemlisi: Bilimsel bilgi dışında hangi bilgi türü “objektif” olarak nitelendirilebilir? Bir şirkette çalışacak “dijital yönetici” için o şirketin çıkarları her şeyin üstünde olmak zorunda mıdır? “Her şeyin üstünde olma”nın ne anlama geleceğini iyi irdelemek lazım. Örneğin şirket çıkarı için dijital yöneticiden doğaya zarar verecek, çalışanına haksızlık yapacak kararlar almasını beklemek doğal mı olacak?
Sorun bazı temel ögeleri yapay zekaya başlangıçta şırınga edilerek aşılabilir mi? Asimov’un önerdiği üç robot yasası türünden. İnsana zarar verme, doğaya zarar verme vs gibi. Peki bu türden “verili” bir model istenecekse “doğal evrimsel süreç” ne olacak? Yoksa iş dijitalleşmeye geldiğinde varoluşçu yaklaşım daha mı çok tercih edilecek? Bilimin, teknolojinin ateşle oynamaya başladığı nokta olmasın bu!
Uzgörü, “verili” modeli “tabula rasa” modeline göre tercih etmeyi verimlilikle irtibatlandırıyor. Oysa verimlilik zamanı sınırlı olan varlıkların derdi. Sanayi toplumunun yeniden tanımladığı ve olmazsa olmaz kabul etti(rdi)ği. Oysa sanayi toplumunun, kapitalizmin kendisi zaman içinde sınırlı bir olgu. Bugün var diye yarın da olacak değil ya!
Tanol Türkoğlu / [email protected]
Bu yazı HBT'nin 114. sayısında yayınlanmıştır.