yapay zeka

Kredi: CC0 Kamu Malı

Yapay zeka (AI) bir zamanlar bilim kurgu malzemesiydi. Ama yaygınlaşıyor. Cep telefonu teknolojisinde ve motorlu araçlarda kullanılmaktadır. Tarım ve sağlık için araçlara güç sağlar.

Ancak yapay zeka ve makine öğrenimi gibi ilgili teknolojilerin hesap verebilirliği konusunda endişeler ortaya çıktı. Aralık 2020’de bir bilgisayar bilimcisi olan Timnit Gebru, Google’ın Etik Yapay Zeka ekibinden kovuldu. Daha önce yapay zeka teknolojilerindeki yanlılığın sosyal etkileri hakkında alarmı yükseltmişti. Örneğin, 2018 tarihli bir makalede Gebru ve başka bir araştırmacı olan Joy Buolamwini, yüz tanıma yazılımının kadınları ve beyaz olmayan insanları tanımlamada beyaz erkeklere göre nasıl daha az doğru olduğunu göstermişti. Eğitim verilerindeki önyargılar, geniş kapsamlı ve istenmeyen etkilere sahip olabilir.

AI’da etik hakkında zaten önemli bir araştırma grubu var. Bu, teknolojilerin yalnızca önyargıları kötüleştirmemesini ve hatta yeni sosyal zararlar vermemesini sağlamak için ilkelerin önemini vurgulamaktadır. UNESCO’nun yapay zeka etiğine ilişkin tavsiye taslağının belirttiği gibi: “Bu gelişen teknolojilerin bir bütün olarak insanlığa fayda sağlamasını sağlamak için uluslararası ve ulusal politikalara ve düzenleyici çerçevelere ihtiyacımız var.”

Son yıllarda, etik yapay zeka için hedefleri ve öncelikleri belirleyen birçok çerçeve ve kılavuz oluşturulmuştur.

Bu kesinlikle doğru yönde atılmış bir adımdır. Ancak, önyargı veya kapsayıcılık konularını ele alırken teknik çözümlerin ötesine bakmak da önemlidir. Önyargılar, hedefleri belirleyen ve öncelikleri dengeleyen düzeyde girebilir.

Yakın tarihli bir makalede, kapsayıcılık ve çeşitliliğin, değerleri belirleme ve ilk etapta neyin etik yapay zeka olarak sayıldığına ilişkin çerçeveleri tanımlama düzeyinde olması gerektiğini savunuyoruz. Bu, özellikle Afrika kıtasında yapay zeka araştırmalarının ve makine öğreniminin büyümesi düşünüldüğünde geçerlidir.

Bağlam

Afrika ülkelerinde yapay zeka ve makine öğrenimi teknolojilerinin araştırma ve geliştirmesi artıyor. Bugüne kadar 27 farklı Afrika ülkesinde gerçekleştirilen Data Science Africa, Data Science Nijerya ve uydusu IndabaX etkinlikleriyle Deep Learning Indaba gibi programlar, alanlara olan ilgiyi ve insan yatırımını gözler önüne seriyor.

AI ve ilgili teknolojilerin Afrika’da büyüme, gelişme ve demokratikleşme fırsatlarını teşvik etme potansiyeli, bu araştırmanın temel itici gücüdür.

Yine de, araştırmaya rehberlik etmeyi amaçlayan uluslararası etik çerçevelere şimdiye kadar çok az Afrikalı ses katıldı. Bu çerçevelerdeki ilke ve değerlerin evrensel bir uygulaması varsa, bu bir sorun olmayabilir. Ama yaptıkları belli değil.

Örneğin, Avrupa AI4People çerçevesi, diğer altı etik çerçevenin bir sentezini sunar. Özerkliğe saygıyı temel ilkelerinden biri olarak tanımlar. Bu ilke, biyoetiğin uygulamalı etik alanında eleştirilmiştir. Afrika’da ortak olan komüniter değerlerin hakkını vermediği görülüyor. Bunlar, bireye daha az ve daha çok topluluğa odaklanır, hatta etkili müdahalelere izin vermek için böyle bir ilkeyi desteklemek için istisnalar yapılmasını gerektirir.

Bunun gibi zorluklar – hatta bu tür zorlukların olabileceğinin kabulü – etik AI tartışmalarında ve çerçevelerinde büyük ölçüde yoktur.

Tıpkı eğitim verilerinin var olan eşitsizlikleri ve adaletsizlikleri sağlamlaştırabilmesi gibi, sosyal, kültürel ve politik bağlamlarda değişebilen çeşitli değer kümelerinin olasılığını fark etmede başarısız olabilir.

Kullanılamaz sonuçlar

Ek olarak, sosyal, kültürel ve politik bağlamları hesaba katmamak, görünüşte mükemmel bir etik teknik çözümün bile uygulandıktan sonra etkisiz veya yanlış yönlendirilebileceği anlamına gelebilir.

Makine öğreniminin faydalı tahminler yapmada etkili olması için, herhangi bir öğrenme sisteminin eğitim verilerine erişmesi gerekir. Bu, ilgilenilen veri örneklerini içerir: birden çok özellik veya ölçüm biçimindeki girdiler ve bilim adamlarının tahmin etmek istediği etiketler olan çıktılar. Çoğu durumda, hem bu özellikler hem de etiketler, sorun hakkında insan bilgisi gerektirir. Ancak yerel bağlamı doğru bir şekilde hesaba katmamak, düşük performans gösteren sistemlere neden olabilir.

Örneğin, afetlerden önce ve sonra nüfus büyüklüklerini tahmin etmek için cep telefonu görüşme kayıtları kullanılmıştır. Bununla birlikte, savunmasız popülasyonların mobil cihazlara erişme olasılığı daha düşüktür. Dolayısıyla, bu tür bir yaklaşım yararlı olmayan sonuçlar verebilir.

Benzer şekilde, bir alandaki farklı yapı türlerini tanımlamaya yönelik bilgisayarlı görme teknolojileri, farklı inşaat malzemelerinin kullanıldığı yerlerde muhtemelen düşük performans gösterecektir. Bu vakaların her ikisinde de, biz ve diğer meslektaşlarımız yakın tarihli başka bir makalede tartıştığımız gibi, bölgesel farklılıkları hesaba katmamak, afet yardımının sağlanmasından otonom sistemlerin performansına kadar her şey üzerinde derin etkilere sahip olabilir.

İleriye gidiyor

Yapay zeka teknolojileri, mevcut insan toplumlarının sorunlu yönlerini basitçe kötüleştirmemeli veya içermemelidir.

Etkili teknik çözümler tasarlamak için farklı bağlamlara duyarlı ve kapsayıcı olmak hayati önem taşır. Değerlerin evrensel olduğunu varsaymamak da aynı derecede önemlidir. AI geliştirenler, farklı geçmişlere sahip insanları dahil etmeye başlamalıdır: sadece veri kümeleri ve benzerlerini tasarlamanın teknik yönlerinde değil, aynı zamanda hedefleri ve öncelikleri çerçevelemek ve belirlemek için çağrılabilecek değerleri tanımlamada.


İnsan haklarını tehdit eden yapay zekadan somut korumaya ihtiyacımız var


Konuşma tarafından sağlanan

Bu makale, Creative Commons lisansı altında The Conversation’dan yeniden yayınlanmıştır. Orijinal makaleyi okuyun.Konuşma

Alıntı: Yapay zekada neyin etik olduğunun tanımlanması için Afrikalıların girdisi gerekiyor (2021, 24 Kasım), https://techxplore.com/news/2021-11-ethical-artificial-intelligence-africans.html adresinden alındı.

Bu belge telif haklarına tabidir. Özel çalışma veya araştırma amaçlı herhangi bir adil işlem dışında, yazılı izin alınmadan hiçbir bölüm çoğaltılamaz. İçerik yalnızca bilgi amaçlı sağlanmıştır.





#Yapay #zekada #neyin #etik #olduğunu #tanımlamak #için #Afrikalılardan #girdi #gerekiyor