Arka planda trafik sıkışıklığı olan CCTV güvenlik kamerasını kapatın

Bir CCTV kamera

NYstudio/Getty Images

Yapay zeka hayatımızda her zamankinden daha fazla yer alıyor: e-postalarda ne söylemek istediğimizi tahmin ediyor, A’dan B’ye gitmemize yardımcı oluyor ve hava durumu raporlarımızı iyileştiriyor. Covid-19 aşılarının benzersiz bir şekilde geliştirilme hızı, kısmen, çok sayıda klinik deneyden elde edilen verileri hızla kıran ve dünyanın dört bir yanındaki araştırmacıların notları gerçek zamanlı olarak karşılaştırmasına olanak tanıyan AI algoritmalarının kullanımına da bağlanabilir.

Ancak teknoloji her zaman faydalı değildir. AI oluşturmak için kullanılan veri kümeleri genellikle nüfusun çeşitliliğini temsil etmez, bu nedenle ayrımcı uygulamalar veya önyargılar üretebilir. Bir örnek yüz tanıma teknolojisidir. Bu, cep telefonlarımıza, banka hesaplarımıza ve apartman binalarımıza erişmek için kullanılır ve polis güçleri tarafından giderek daha fazla kullanılmaktadır. Ancak kadınları ve Siyah insanları doğru bir şekilde tanımlamada sorun yaşayabilir. Büyük teknoloji şirketleri tarafından yayınlanan bu tür üç program için, hata oranı açık tenli erkekler için yalnızca yüzde 1 iken, koyu tenli erkekler için yüzde 19 ve koyu tenli kadınlar için şaşırtıcı bir şekilde yüzde 35’e kadar çıktı. Yüz tanıma teknolojilerindeki önyargılar, haksız tutuklamalara yol açtı.

Yapay zekanın nasıl geliştirildiğine baktığınızda bu şaşırtıcı değil. Dünya çapında her 10 yazılım geliştiricisinden yalnızca 1’i kadın ve ABD’deki en büyük 75 teknoloji şirketindeki çalışanların yalnızca yüzde 3’ü Siyahi olarak tanımlıyor. Ama şimdi dünyanın çok daha iyi bir yaklaşıma dönmek üzere olduğuna dair bir umut var.

Dün UNESCO’da 193 ülke, yapay zekanın hükümetler ve teknoloji şirketleri tarafından nasıl tasarlanması ve kullanılması gerektiği konusunda çığır açan bir anlaşmaya vardı. UNESCO’nun Yapay Zeka Etiğine İlişkin Tavsiyesinin bir araya getirilmesi iki yıl sürdü ve çeşitli sosyal gruplardan insanlarla binlerce çevrimiçi istişareyi içeriyordu. Yapay zeka geliştiren insanlar ve işletmeler ve hükümetler arasındaki güç dengesini temelden değiştirmeyi amaçlıyor.

UNESCO üyesi ülkeler – ve bu dünyadaki hemen hemen her millettir – AI’nın tasarımını ve dağıtımını düzenleyen mevzuat çıkararak bu tavsiyeyi uygulamayı kabul etti.

Bu, kadınların ve azınlık gruplarının AI tasarım ekiplerinde adil bir şekilde temsil edilmesini sağlamak için olumlu eylem kullanmaları gerektiği anlamına gelir. Bu tür eylemler, bu ekiplerin çeşitli olmasını sağlayan kota sistemleri şeklini alabilir.

Ülkelerin az önce üzerinde anlaşmaya vardıkları bir diğer önemli ilke, temel özgürlükleri ihlal eden kitlesel gözetimi ve diğer istilacı teknolojileri yasaklamak. Elbette, CCTV’nin her yerde tamamen geri çekilmesini beklemiyoruz, ancak bu tür toplu gözetimin insan haklarına uygun kullanımlarla sınırlı olmasını bekliyoruz. UNESCO, küresel normları uygulamak için BM kurumlarının kullandığı “akran baskısı” ve diğer çok taraflı araçları kullanacak.

Önümüzdeki aylarda, UNESCO uzmanları, yapay zekanın geliştirilmesi ve uygulanmasının insan haklarına uygun olmasını, ancak yeniliği engellememesini sağlamak için bir dizi izleme aracı oluşturmak için çalışacak. Bu, elde edilmesi zor bir denge olacak ve bilim camiasının tam bağlılığını gerektirecektir.

Yeni anlaşma geniş ve iddialı. Çevrimiçi zorbalık ve nefret söylemini ele alıyor ve ülkeleri teknolojiden kaynaklanan karbon ayak izini azaltmaya zorluyor – AI inovasyonu genişlemeye başladığından beri verilerimizi depolamak için kullanılan enerji miktarı önemli ölçüde arttı.

AI dünyasındaki tüm oyuncular, hiçbir kural kitabı olmadan çalışmaya devam edemeyeceklerinin farkındadır.

UNESCO şimdi iki şeyin olmasını bekliyor. İlk olarak, hükümetler ve şirketler gönüllü olarak AI sistemlerini tavsiyede belirtilen ilkelere uygun hale getirmeye başlayacaklar – benzer hamleler UNESCO’nun insan genomu hakkındaki beyanı genetik araştırmalar için normlar belirledikten sonra gerçekleşti. İkinci olarak, hükümetler tavsiyeyi bir kılavuz olarak kullanarak yasa çıkarmaya başlayacaklar. UNESCO, mevzuatın ilerlemesini izleyecek ve ülkeler ilerlemeleri hakkında rapor vermek zorunda kalacak.

Bu anlaşmayla, yapay zekayı dünyanın en büyük zorlukları üzerinde en fazla etkiye sahip olabileceği yerde çalıştıracağımızdan eminiz: açlık, çevresel krizler, eşitsizlikler ve salgın hastalıklar. Gerçek değişim için ivmeyi oluşturduğumuz konusunda iyimseriz.

Gabriela Ramos, UNESCO’nun sosyal ve beşeri bilimler genel müdür yardımcısı

Bu konular hakkında daha fazlası:



#Yapay #zeka #konusundaki #küresel #anlaşmamız #önyargıyı #gözetimi #azaltabilir