Yazılımlar hayatımızın her yerinde… Sadece bir arabadaki bilgisayarlı sistem bile onlarca milyon satır kod içeriyor.
Gün geçtikçe artan dijital dönüşümle birlikte daha fazla ve daha iyi yazılıma olan talep de artıyor. Ancak ortada bir sorun var: Artan talebi karşılayacak yeterli sayıda insan programcı yok!
Hal böyle olunca da her gün kullandığımız yazılımların giderek daha fazlası yapay zekâ (YZ) yardımıyla yapılmaya başladı.
Yazılım geliştiriciler ve programcılar, ChatGPT gibi araçlara aşina. Bu tip teknolojiler, insan programcıların üretkenliğini artırmak için akıllı bir otomatik tamamlama aracı, bir nevi yardımcı gibi çalışıyor. Ancak işler değişiyor, boynuz kulağı geçmek üzere!
Tamamen özerkleşiyor
Lüksemburg Bilim ve Teknoloji Enstitüsü’nden (LIST) yardımcı araştırmacı Iván Alfonso ve aynı üniversiteden Yazılım Mühendisliği Birimi Başkanı Yrd. Doç. Jordi Cabot, yakın gelecekte birçok yazılım uygulamasının tamamen, özerk bir şekilde YZ tarafından oluşturulacağını öngörüyor.
Bakıldığında yapay zekânın, bir insan programcıya ihtiyaç duymadan program yazması, yazılım programlama becerileri olmayan kullanıcıların ihtiyaçlarına göre yazılım oluşturulmasını veya uyarlamasını sağlayabilir. Bu olumlu gibi görünse de potansiyel olumsuz sonuçları da söz konusu.
Çünkü her YZ modelinde olduğu gibi yazılım oluşturan YZ’ler de mükemmel olmaktan uzak ve saldırılara karşı savunmasız. Ayrıca belirli topluluklara karşı önyargılı kodlar oluşturma ihtimalleri var.
Örneğin, işe alım yazılımı oluşturan bir YZ, onu eğitmek veya geliştirmek için kullanılan verilerdeki önyargılar nedeniyle erkek adayları kadın adaylara tercih edebilir. Bu nedenle, bu tür riskleri en aza indirmek için AB'nin Yapay Zekâ Yasası gibi mekanizmalar oluşturulması gerekiyor.
“İnsan geliştiricilerin bariyerler kurması gerekiyor”
Günümüzde insan yazılım geliştiricileri, doğruluk, güvenlik açıkları ve önyargılar gibi bir dizi endişeye karşı tüm LLM'leri (büyük dil modelleri) analiz ederek en iyi ve etik olanları seçiyor.
Bu da belirli bir miktarda etik davranışın sağlanmasına yardımcı oluyor. Ancak araştırmacılar soruyor: “Talimatlarımızı anlayıp takip ettiklerinden nasıl emin olabiliriz?”
Alfonso ve Cabot’a göre çözüm, inşa edilecek yazılımın tasarımında açık kapı bırakmamaktan geçiyor. Geliştirdikleri açık kaynaklı BESSER isimli platform, uygulamaların tasarımdan itibaren etik olacak şekilde inşa edilmesine ön ayak oluyor, açık kapı bırakmıyor.
Alfonso ve Cabot, şunları söylüyor:
“Biz ve diğer birçok araştırmacı, yazılım oluşturan yapay zekâların davranışlarını kontrol altında tutmak için bariyerler (olası zararları önleme mekanizmaları) koymak için çalışıyoruz. Bunlar, her vatandaşı ve şirketi, ideal yazılım çözümlerini özerk bir şekilde oluşturma gücüne sahip, yetenekli bir geliştiriciye dönüştürmeye yardımcı olacaktır.”
