“Sistemimiz yapay zeka ile çalışıyor” denince, akan sular duruyor: Yapay zeka, insandan daha akıllı, daha güvenilir; insan hata yapar, yapay zeka yapmaz. Öyle mi acaba? Afganistan’ın başkenti Kabil’de ABD’nin havaalanı saldırısına misilleme olarak 10 sivili Silahlı İnsansız Hava Aracı (SİHA) ile öldürmesi, bize durumun hiç de öyle olmadığını gösteriyor.
29 Ağustos’taki olayda, bagajında bidon taşıyan şüpheli bir araç, bir eve yaklaşıyor. Evden çıkan en küçüğü üç yaşında yedi çocuk, arabayı karşılamak üzere arabaya koşuyorlar. SİHA’dan atılan füze arabayı vurduğunda, aynı aileden 10 kişi katlediliyor. Aracın sürücüsünün, ABD için çalışan bir tercüman olduğu ve tanıkların anlatımları ortaya çıkınca, ABD özür dilemek zorunda kalıyor.
Üstelik bu, istisnai bir durum değil. Irak’ta en az 13.000 sivilin SİHA saldırılarında öldürüldüğü biliniyor. Pakistan’daki benzer olayları protesto etmek için, gönüllüler, ailesi öldürülen bir çocuğun dev portresini, ABD’deki ofislerinden çalışan SİHA operatörleri görsün diye bir tarlaya işlemişti.
Bütün bunlar belki yapay zekanın suçu değil, bu sistemleri kuran, işleten, bu amaçlarla kullananların suçu. Ancak onlar da, suçlarını, “sistemimiz yapay zeka kullanıyor, çok güvenilirdir” diye gizlemeye çalışıyorlar. Peki bu sistemler sahiden zeki mi? Bunun sorumlusu yapay zeka mı? Nasıl oluyor da, bir arabaya koşan çocukları görmüyor; çocuklar araca koşarsa aracın bombalı araç değil babalarının arabası olacağını anlamıyor? Bu yapay zeka değil, olsa olsa yapay geri zeka olabilir.
Moda terim
Yapay zeka, günümüzün moda terimi halini aldı. İçinde bir tür yazılım olan her şeye “yapay zeka” demeye başladık. Peki SİHA’larda yapay zeka var mı sahiden? SİHA’larda pek çok yazılım var; uçuş bilgisayarı, iletişim birimleri, sensörler ve kameraların kontrol yazılımları, misyona özel yazılımlar. Ortalama toplam üç-dört milyon satır kod. Eğer misyon belli bir aracın tespiti, izlenmesi ve imhası ise, buna özel yazılımlar: hedef tespiti, takibi, silahın hedefe ulaşması için rotasının hesaplanması. Peki bunlar yapay zeka mı? 30-40 yıldır var olan bu teknolojilere niye yapay zeka deniyor?
Son 10 yılda hız kazanan gelişmeler, yapay sinir ağlarının çok büyük verilerle eğitilmesi ve karar vermesi konusunda oldu. Bu alana “yapay zeka” demek yerine “veriden öğrenme” demek daha doğru olur.
40 yıl önce, araç tespiti için, değişik araç tiplerine ait görüntüleri sistem saklıyor; sonra gördüğü görüntüyü bunlardan birisine eşleştirmeye çalışıyordu. Aynı araç, değişik yönlerden, değişik ışıklandırmalar altında farklı göründüğü için bunlara dayanıklı olacak yaklaşımlar geliştiriliyordu.
Son yıllarda, bunun yerine, değişik koşullarda çekilmiş milyonlarca görüntü ile, yapay sinir ağının bu dayanıklı gösterimi kendi kendine bulması için matematiksel yöntemler geliştirildi. Yöntemler ne kadar iyi olursa olsun, iş, veriye gelip dayanıyor: Veriniz ne kadar iyiyse, o kadar iyi öğreniyorsunuz. Veri setinizdeki tüm siyahlar suçluysa, yüz tarama yazılımınız ayrımcılık yapıyor. Veri setinizde tüm su bidonları patlayıcı diye işaretli ise, evine su taşıyan bir babayı ve tüm ailesini öldürüyorsunuz.
Bunları okuyunca, yapay zekadan da, teknolojiden de nefret etmek kolay. Oysa aynı teknoloji orman yangınlarını tespit etmek ve söndürmek için de kullanılabilir.
Nesne tespitinin en yaygın kullanım alanlarından birisi biyomedikal uygulamalar: Kanserli büyümeleri erkenden tespit etmek, pek çok hayat kurtarır. Teknolojiyi iyi veya kötü kullanan biziz; insanlar, karar vericiler.
Hiç bir teknoloji insanlar kadar zeki değil; daha da önemlisi, vicdan sahibi değil. Sahici zeka ve etik ilkelere sahip sistemler için daha gidecek çok yol var.
Lale Akarun
Bu yazı HBT'nin 288. sayısında yayınlanmıştır.