Tehlikenin en büyüğü ne? Nerede “artık dur” diyeceğiz? Köle olabilir miyiz?

Öne Çıkanlar Teknoyaşam Toplum

Yapay zeka geliştikçe, kararları da giderek makineler alıyor. Peki insanoğlunu hangi konularda geçiyorlar ve hangi noktada çuvallıyorlar?

Teknoloji dünyasında bir gün yok ki, Yapay Zeka - YZ (Artificial Intelligence - AI) dalındaki gelişmelerden söz edilmesin. Sinir ağları, evrimsel algoritmalar, derin öğrenme, yüz ve konuşma tanıma sistemleri, sürücüsüz araçlar, otonom robotlar hep gündemde. Yapay zeka uygulamaları, bağımsız biçimde, bir aygıtta gömülü (embedded) olarak, ya da mevcut bilgi sistemlerinin çeşitli işlevlerinde  hızla yaygınlaşıyor.


Bu gelişmeler de bilişimin ve yapay zekanın geleceğinin nasıl olacağı konusunda önemli sorulara yol açıyor. Yakın gelecekte yaygın işsizliğe yol açmalarından endişe edilen akıllı bilgi sistemlerinin, daha uzun erimde üstel bir gelişme göstererek insanlığa yaşamsal bir tehdit oluşturmalarından bile endişe ediliyor.

Yapay zekanın kışı ve baharı

1950’li yılların ortasında kuramsal temelleri atılan yapay zeka, 1970’lerde büyük ümitlerle başlayıp, 1980’lerde ‘uzman sistemlerin’ başarısızlığının yarattığı büyük hayal kırıklıkları sonucu revaçtan düştü. O kadar ki 2000’lere kadar süren bu döneme yapay zekanın kışı (AI winter) diyoruz.

Son on beş yılda ise, bilgisayarların gücü ve kapasitesinin artması ve ucuzlaması, büyük miktardaki verilere (big data) ulaşımın kolaylaşması ve bu verilerin yapay zeka sistemlerinin eğitimi (machine learning) için kullanılmaları gibi olanaklar, yepyeni YZ algoritmalarının (bir problemi bilgisayar programı ile çözme yönteminin) geliştirilmesini sağladı. Bu gelişmeler de YZ sistemlerinin hızla gelişmelerine ve yaygınlaşmalarına yol açtı.

Zihin oyununda başarı 

Günümüzde, yapay zeka uygulamalarının insanı geçmediği hiçbir zihin oyunu kalmadı. Satrançla başlayan serüven, bu yıl Google’un AlphaGo sisteminin Go oyununda 18 kez dünya şampiyonu olan Lee Se-dol’u yenmesine kadar geldi. O Go oyunu ki, içerdiği olasılıklar, evrendeki atom sayısını geçiyor, yani akıllı, öğrenen bir sistem olmaksızın oynanması imkansız.

Yapay zeka uygulamaları günümüzde her alanda öylesine yaygın ve etkinler ki, çoğu kez varlıklarını bilmiyor ya da sorgulamıyoruz.

* Bunların başında Google arama motoru geliyor. Google artık, neredeyse, leb demeden leblebiyi anlıyor!

* Dünya borsalarının baş aktörleri, artık, hisselerin ve varlıkların anlık değişimlerini değerlendiren ve birbirlerine karşı yarışan süper finans yazılımları.

* Görüntü işleme, şekil ve özellikle yüz tanıma uygulamaları öylesine gelişti ki, güvenlik (ya da başka) amaçlı sistemlerde, bir fotoğraf ya da videoda, kimin kim olduğu anında belirleniyor.

* Bilimsel araştırmadan mühendisliğe, tıptan hukuka, uzaydan savunmaya, tasarımda, üretimde, her alanda yapay zeka uygulamaları artık başarı ile kullanılıyor.

Nereye kadar?

Günümüzde yapay zekadaki gelişmeler ne kadar çok ve hızlı olsalar da bazı temel sorunlar geçerliliğini koruyor. En başta, günümüzdeki yapay zeka bilgisi ve teknolojileri ‘zayıf’ yapay zeka (Weak AI) denilen türden. Bu da, söz konusu sistemlerin, insanın yapabildiği belirli bir işi, insan kadar, hatta ondan daha iyi yapabilmesi anlamına geliyor. İnsan zekasının tüm özelliklerine sahip, ‘güçlü’ yapay zeka (Stong AI) henüz ufukta görünmüyor.

Yine de, yazımızın başlığında belirttiğimiz gibi, bilgi sistemleri, giderek, bizlerin temel bilgi kaynağı ve hafızamızın çok güçlü bir uzantısı olmakla yetinmiyorlar. Yapay zeka teknolojileri sayesinde, bu sistemler artık kararlarımıza destek vermekle kalmıyor, giderek kararları bizim yerimize vermeye başlıyorlar. Sürücüsüz araçlar bunun en iyi örneklerinden biri. İnsan araçta sadece pasif bir yolcu..

YZ’nın çuvalladığı noktalar

Günümüzdeki yapay zeka uygulamaları, bizlerin bilinçli biçimde yani düşünerek yaptığımız işleri bizden de iyi yapabiliyorlar. Ama bize en doğal gelen, düşünmeden yaptığımız pek çok işe gelince zorlanıyor, hatta tamamen işlevsiz kalıyorlar: Vücudumuzu dengede tutmak, yürümek, duyularımızla algıladıklarımıza anlam vermek, ilişkilendirmek, saklamak, kavramsallaştırmak gibi.

Son sinirbilim araştırmaları ise bu tür bilinç gerektirmeden yapılan bilişsel işlemlerin beynimizin toplam işlemlerinin %90’ını oluşturduğunu, bilinçli olanların ise sadece %10 civarında olduğunu göstermekte! Beynimizin ve zekamızın nasıl çalıştığını anlamak için önümüzde çok yol var alınacak.

Öte yandan, yapay zeka çalışmaları, tanımı ve doğası gereği çok disiplinli. Çalışmalara, bilişimci, matematikçi ve mühendisler yanında sinirbilim (nöroloji) uzmanlarının, hatta bilim felsefecilerinin de katılımı gerekli.

Bu çerçevede, yapay zeka çalışmaları, insan beyni ve zekasının yapısı, nitelikleri, özellikleri ve çalışma biçimi konusunda da yepyeni bakış açıları oluşturmayı, matematiksel modeller geliştirmeyi ve onları daha iyi anlamayı sağlıyor. Yani beynimizin çalışmasını anlamamıza yardımcı olarak kendi kendisini besliyor.

Yarınlar üzerinde sis bulutları dolaşıyor 

Yakın gelecekte, yani önümüzdeki 10-15 yıl içinde, uzmanlaşmış (zayıf) yapay zekanın hızla gelişeceği ve yaygınlaşacağı ortada. Hemen her şey ‘akıllı’ olacak. Kararların daha çoğu bilgi sistemleri tarafından alınacak, robotlar daha marifetli ve ucuz olacak, üretim daha da otomatikleşecek.

İnsanların yapageldiği işlerin yarısından çoğunu makineler yapmaya başlayarak yaygın işsizliğe yol açacak. Ayrıca,  geçmişte olduğu gibi bunu dengeleyecek yeni iş kollarının aynı hızda oluşması da beklenmiyor. Bu durum da, bilinen çevresel, ekonomik ve sosyal sorunlara eklenince insanlık için ciddi bir tehdit oluşturacak.

Yine de, evrensel temel gelir gibi mekanizmalar aracılığı ile, bu teknolojik gelişmelerin, daha adil ve sürdürülebilir bir toplumsal ve ekonomik düzene yol açması da olası.

Tehlikelerin en büyüğü

2015 ocağında YZ uzmanı Stuart Russell’in inisyatifiyle yapay zekanın tehditlerine dikkati çeken bir açık mektup yayınlamış ve 2016 ortasına kadar, içlerinde Bill Gates, Elon Musk gibi kişilerin de olduğu 8600 kadar uzman araştırıcı ve düşünür tarafından imzalanmıştı.

Filozof Nick Bostrom’un Süperzeka (Superintelligence) adlı kitabının yol göstericiliğindeki bildiri, gelişmiş genel amaçlı (güçlü) yapay zekanın insan zekasına eriştiğinde orada durmayacağını vurguluyordu. Gerçekten de, insandan farklı olarak, gelişmiş yapay zekanın kendi kendini geliştirebilme ve çoğaltabilme potansiyeli ve hızı olağanüstü yüksek olacak ve kendi amaç ve hedeflerine göre hareket ederek, insanı köleleştirme ya da yok etme olasılığı doğacaktı.

Bildiriyi imzalayanlar, günümüzde tipik bir bilim kurgu senaryosu olan bu durumun, 30 ila 50 yıl sonra gerçekleşme olasılığının bulunduğunu belirtiyor, yapay zeka geliştiricilerine bunu önlemek için bazı somut öneriler yapıyor ve çalışmaların şimdiden başlamasının şart olduğuna inanıyorlar.

Sonuç olarak, yapay zeka, diğer teknolojik gelişmelerden çok farklı. Dünyamızdan yoksulluğu ve hastalıkları silmeye kadar gidebilecek olağanüstü potansiyel getirileri yanında yaşamsal tehditler de içeriyor.

Henüz yolun başında iken bunların farkında olmak ve insanı insan yapan değerleri, ilkeleri, hatta düşleri gelişmiş yapay zekaya sahip sistemlerin (yoksa, onlar da bilinçli olacağı için, varlıkların mı desek?) de paylaşmasını sağlamak gerek.

Belki, o zaman, bunlara sahip ol(a)mayan insanları da değiştirmeyi başarırız!

Erdal Musoğlu / [email protected]

Kaynaklar: Superintelligence, Nick Bostrom
http://futureoflife.org/ai-open-letter/
http://fr.slideshare.net/Mines_Telecom/cahier-de-veille-intelligence-artificielle