Lancaster ve Manchester’daki üniversitelerden araştırma ekipleri, 2040’a kadar teknolojiden kaynaklanmasını bekledikleri en büyük riskleri belirlemek için 12 uzmanla birlikte bir çalışma yürüttü. Bulgular ilginç ve harekete geçirici nitelikte...
Bilgisayar teknolojilerinde şaşırtıcı derecede hızlı değişiklikler oluyor, hayatımızı doğrudan etkiliyor. Özellikle yapay zekâ (YZ) ve “Nesnelerin İnterneti” (İoT) dediğimiz, birbirine bağlı küçük cihaz yığınlarında ve kablosuz bağlantıda heyecan verici gelişmeler yaşanıyor.
Maalesef bu gelişmeler, faydalarının yanı sıra potansiyel tehlikeleri de beraberinde getiriyor. Güvenli bir geleceği inşa etmek için bilişimin yakın geleceğinde neler olabileceğini tahmin etmemiz ve olası tehditlere karşı erken müdahale yollarını geliştirmemiz gerekiyor.
Peki ama uzmanlar, ne gibi riskler olduğunu düşünüyor ve büyük sorunları önlemek için ne yapabiliriz?
“Öngörü”
Bu soruyu yanıtlamak isteyen Lancaster ve Manchester’daki üniversitelerden araştırma ekipleri, “öngörü” olarak nitelendirebileceğimiz, bir tür geleceğe bakma bilimine yönelmiş durumda. Aslında hiç kimse geleceği tahmin edemez. Ancak tahminleri bir araya getirerek, mevcut eğilimlere dayanarak neler olabileceğine dair açıklamalar getirilmesi mümkün.
Özellikle teknolojideki mevcut trendlere ilişkin uzun vadeli tahminler, bazen son derece doğru olabiliyor. Tahmin etmenin etkili bir yolu da çeşitli disiplinlerden birçok farklı uzmanın fikirlerini birleştirip hangi noktada uzlaştıklarını bulmaktan geçiyor.
Lancaster Üniversitesi’nden Öğretim Görevlisi Charles Weir ile Manchester Üniversitesi Bilgisayar Bilimleri Kıdemli Öğretim Görevlisi Louise Dennis, yeni bir araştırma makalesi için 12 uzman fütüriste danıştı.
“Delphi çalışması” adı verilen bir teknik kullanarak fütüristlerin tahminlerini bir dizi riskle ve bu risklere yönelik tavsiyeleriyle birleştiren ekip, 2040’a kadar bilgisayar teknolojisindeki değişikliklerin etkilerine ilişkin uzun vadeli tahminler yapan kişilerden oluşuyordu.
“Blockchain ve kuantum hesaplama henüz büyük etki yaratmayacak”
Yapılan çalışmaların sonucunda uzmanlar, YZ ve bağlantılı sistemlerdeki hızlı ilerlemenin, günümüzden çok daha fazla bilgisayar odaklı bir dünyaya yol açacağını öngördü. Ancak şaşırtıcı bir şekilde, abartılı gördükleri iki yeniliğin çok az etki yaratmasını beklediklerini açıkladı.
Örneğin son on yılın gelecek vadeden en önemli teknolojilerinden Blockchain’in günümüz sorunlarıyla “alakasız olduğunu” ileri sürdüler. Bununla birlikte kuantum hesaplamanın henüz başlangıç aşamasında olduğunu ve önümüzdeki 15 yıl içinde insanlık için çok az etkisi olabileceğini öngördüler.
En büyük riskler neler?
Çalışmaya katılan fütüristler, bilgisayar bilimindeki gelişmelerle ilişkili üç büyük riskin şunlar olacağını öne sürdü:
Yapay zekada rekabetçilik: Uzmanlar birçok ülkenin, rekabetçi ve teknolojik üstünlük kazanmak istedikleri bir alan olarak YZ konusundaki tutumunun, yazılım geliştiricilerini YZ kullanımında risk almaya teşvik edeceğini öne sürdü. Uzmanlara göre bu durum, yapay zekânın karmaşıklığı ve insan yeteneklerini aşma potansiyeli ile birleştiğinde felaketlere yol açabilir. Örneğin, üretilen otonom arabaların kontrol sistemlerinde bir sapma olduğunu ve YZ’nin tüm karmaşık programlamasında bu durumun fark edilmediğini hayal edin. Bu durum gün geçtikçe daha çok sayıda arabanın aynı anda kararsız davranmaya başlamasına ve dünya çapında birçok insanın ölümüne neden olabilir.
Üretken YZ: ChatGPT gibi üretken yapay zekâlar, gerçeğin belirlenmesini imkânsız hale getirebilir. Sonuçta yıllardır fotoğraf ve videoların sahtesini yapmak çok zordu. Ancak üretken YZ bu durumu daha şimdiden kökten değiştirdi. İkna edici sahte medya üretme yeteneğinin daha da gelişmesini bekleyen uzmanlar, bu nedenle bazı görsellerin veya videoların gerçek olup olmadığını söylemenin son derece zor olacağını belirtti. Saygın bir lider ya da bir ünlü gibi güvenilir isimlerden birinin (ya da bir kısmının) farkında olmadan sahte içeriklere de yer verdiğini varsayalım. Bu durumda onları takip edenler için gerçek ile yalan arasındaki farkı belirlemenin bir yolu yok. Bu yüzden gerçeği bilmek gittikçe imkânsız olacak.
Görünmez siber saldırılar: Farklı geliştiriciler tarafından kurulacak sistemlerin karmaşıklığının beklenmedik bir sonucu var. Uzmanlara göre işlerin ters gitmesine neden olan şeyin kökenine inmek imkânsız olmasa da zorlaşacak. Bir siber suçlunun, fırın veya buzdolabı gibi zararsız gözüken cihazları bile kontrol etmek için kullanılan bir uygulamayı hacklediğini ve tüm cihazların aynı anda açılmasına neden olduğunu hayal edin. Bu, şebekedeki elektrik talebinde yoğun ve kaldırılamayacak düzeyde bir artışa neden olarak büyük elektrik kesintilerine neden olabileceğini düşünün. Bu durumda enerji şirketi uzmanları, ani talep yükselişine hangi cihazların neden olduğunu tespit etmekte bile zorluk çekecek. Kısacası “siber sabotaj” görünmez hale gelecek ve sorunun çözümünün imkânsız hale gelmesi söz konusu.
Ne yapmalı?
Çalışmaya katılan uzmanlara göre bu tür tahminlerin amacı, insanları korkuya sevk etmek değil, olası sorunların şimdiden ele alınmasına ve çözülmesine ön ayak olmak. Belki de uzmanların önerdiği en basit öneri şu: Bilgisayar programlarının, kendi güvenlik denetimlerini gerçekleştirmesini sağlayacak şekilde tasarlanması.
Benzer şekilde, yazılımların güvenli çalışmasını sağlamak için halihazırda kullanılan yöntemlerin yeni teknolojilere de uygulanmaya devam etmesi ve bunun bir esas olması konusunda ısrar edilebilmesi doğru yol olabilir. Uzmanlara göre bir sistemin yeni olması, iyi güvenlik uygulamalarını göz önünde bulundurmamak için bir mazeret sayılmamalı.
Ancak uzmanlar bu tip teknik yanıtların tek başına yeterli olmayacağı konusunda hemfikir. Bunun yerine insanoğlunun söz konusu teknoloji sorunlarıyla başa çıkacak becerileri geliştirmesi gerekiyor.
Hükümetlerin de kendi YZ tedarikleri için güvenlik ilkeleri oluşturması ve sorumlu geliştirme ve dağıtım yöntemlerini teşvik ederek sektör genelinde YZ güvenliğine yönelik mevzuat oluşturması gerekiyor.
Aslında bu tahminler ve çözüm önerileri, bize geleceğin olası teknoloji sorunlarına çözüm bulmamız için bir dizi araç sağlıyor. Teknolojik geleceğimizin heyecan verici ve insanlığa fayda sağlama vaadini gerçekleştirmek için bu tehlikeleri göz önünde bulundurmak ve çözüm üretmek için şimdiden çalışmaya başlamamız gerekiyor.
Batuhan Sarıcan / [email protected]
