Önyargısız Robotlar?
3 dk okuma
Okuma Süresi: 5 dakika
Arama motorunuza “tüm zamanların en büyük liderleri” yazdığınızda muhtemelen dünyanın önde gelen erkeklerinin bir listesini göreceksiniz. Kaç tane kadın görüyorsunuz?
Çünkü arama motoru teknolojisi, büyük verileri işliyor ve hem kullanıcı tercihlerine hem de konuma bağlı olarak, sonuçları en çok tıklamayla önceliklendiriyor. Dolayısıyla da tarafsız değil. Bu şekilde, bir arama motoru, gerçek dünyanın önyargılarını destekleyen ve bu önyargıları ve “kalıpları” çevrimiçi ortamda daha da güçlendiren bir yankı odası haline gelebilir.
UNESCO’nun çağrısı; yapay zeka kullanımında cinsiyet önyargısından kaçınılması veya en azından bu etkinin en aza indirgenmesi yönünde. Organizasyon, dijital dünyada kadınların klişeleşmiş temsillerini tekrarlamamak adına bu konuda girişimlerde bulunuyor.
Verdiği diğer örnek vakalar arasında ise; otonom araçlar, sanat eserleri ve hukuki konular var.
Otonom otomobil, topladığı verileri anlamak ve akla gelebilecek herhangi bir trafik durumunda doğru kararı verebilmek için ciddi bir eğitim almalıdır.
Her gün herkes ahlaki kararlar veriyor. Bir sürücü, önüne bakmadan yürüyen birine çarpmamak için frene basmayı seçtiğinde; mevcut riski, yoldaki yayadan, arabanın içindeki insanlara yönlendiren ahlaki bir karar vermiş oluyor.
Bir büyükanneye ve bir çocuğa doğru son sürat giden, frenleri bozuk otonom bir araba düşünün. Aracın biraz sapmasıyla, kişilerden biri kurtarılabilir. Ve bu sefer kararı verecek olan bir insan sürücü değil, arabanın algoritması.
Kimi seçerdiniz: büyükanneyi mi yoksa çocuğu mu? Peki tek bir doğru cevap olduğunu mu düşünüyorsunuz?
Bu da, teknolojilerin gelişmesinde etiğin önemini gösteren tipik bir etik ikilem.
2016 yılında, ressamın ölümünden 351 yıl sonra, bir bilgisayar “Bir sonraki Rembrandt” (Next Rembrandt) adlı bir Rembrandt tablosu tasarladı ve eser, bir 3D yazıcı tarafından çıkarıldı.
Bu tür durumlarda eser sahibi tam olarak kim olacak? Projeyi düzenleyen şirket mi? Mühendisler mi? Yoksa algoritma mı? Ya da Rembrandt'ın kendisi mi?
2019'da Çinli teknoloji şirketi Huawei, bir yapay zeka algoritmasının, 197 yıl önce Franz Schubert'in 1822'de başladığı ama bitirmediği 8.Senfoni’nin son iki bölümünü tamamlayabildiğini duyurdu.
Peki yapay zekanın kendisi sanat eserleri yaratma kapasitesine sahip olduğunda ne olacak? Bu anlamda insanların yerini makineler ve algoritmalar alırsa, telif hakları ne ölçüde atfedilebilir? Bir algoritma, bir eser sahibi olarak tanınabilir mi ve bir sanatçıyla aynı haklara sahip olabilir mi?
Yapay zeka tarafından üretilen sanat eserleri, hem “orijinal” eser sahibinin yaratıcı çalışmasına; hem de sanat eserinin kendisini üreten algoritmalara ve teknolojilere hakkını vermek için, “eser sahibi” olmanın ne anlama geldiğine dair yeni bir tanım gerektiriyor.
Korsanlık ve intihal ile “özgünlük ve yaratıcılık” gibi kavramlar arasındaki farkı ayırt etmek adına yeni çerçeveler geliştirmemiz gerekiyor. İnsanların ortaya çıkardığı eserlerin ve yaratıcılıklarının kasıtlı olarak sömürülmesine engel olunmalı; sanatçıların emeğinin karşılığı verilmeli ve itibarları korunmalı. Ayrıca kültürel değer zincirinin bütünlüğü ve kültür sektörünün gereken işleri sağlayabilme kapasitesi de garanti edilmeli.
Bazı görüşler; yapay zekanın hızından ve büyük veri alımından yararlanarak, makinelerin hukuki süreçlerde insanlara göre daha iyi değerlendirmeler yapabileceğini ve daha adil bir yargı sistemi oluşturmaya yardımcı olabileceğini savunuyor.
Ancak bu alanda da birçok etik zorluk var:
● Yapay zeka araçlarının şeffaf olmaması: Yapay zeka kararları insanlar için her zaman anlaşılır değil.
● Yapay zeka tarafsız değil: Yapay zeka tabanlı kararlar yanlışlıklara, ayrımcı sonuçlara, yerleşik veya sonradan oluşturulmuş önyargılara açıktır.
● Mahkemedeki bireylerin veri toplama ve mahremiyetine yönelik gözetim uygulamaları ayrı bir soruna işaret ediyor.
● İnsan Hakları ve diğer temel değerler için adalet ve risk adına gelen yeni kaygılar var.
Peki, mahkemede bir robot tarafından yargılanmak ister miydiniz? Robotun, sonuca nasıl ulaştığını tam olarak bilmiyor olsanız dahi, bunu seçer miydiniz?
UNESCO tüm dünyayı bu tartışmaların bir parçası olmaya çağırıyor. Çünkü “yapay zeka herkesin meselesi”.
Tüm bunlara yönelik olarak UNESCO, yapay zeka etiğine ilişkin yasal ve küresel bir belge geliştirme girişiminde bulunuyor.
Yapay zeka etiği hakkında daha fazla bilgi edinmek içinse önerdiği bir ön hazırlık dokümanı var: Preliminary study on the Ethics of Artificial Intelligence (COMEST)
Kaynak:
https://en.unesco.org/artificial-intelligence/ethics/cases#biasedai
