amerikali
Yeni Üye
İnternet Zirvesi Avusturya: “Yapay zeka talihsiz bir terimdir”
“Zeka yapaylaştığında insanlardan geriye ne kalır?” Bu soru Perşembe akşamı Viyana’da düzenlenen Avusturya 2023 İnternet Zirvesi’nin konusuydu. Ancak belki de soru zaten merkezi kavramına takılıp kalmıştır. İnsan hakları uzmanı Carina Zehemaier’in açılış konuşmasında gösterdiği gibi yapay zekanın ne olduğunu kimse tam olarak bilmiyor. Avusturya Yapay Zekada Kadınlar derneğinin başkanı, “Yapay zekanın küresel ve kabul görmüş bir tanımı yok” dedi.
Reklamcılık
Yapay zekanın yasal dayanağına ilişkin planlanan AB düzenlemesi olan AB Yapay Zeka Yasasında bir tanım bulunmalıdır; ancak bunun dünya çapında yerleşik hale gelip gelmeyeceği henüz bilinmiyor. Her halükarda bu, felsefi ya da ekonomik değil, hukuki bir tanım olacaktır.
Temel olarak Zehemaier “yapay zeka” teriminin talihsizlik olduğunu düşünüyor. Avukat, “Yapay zeka sistemleri geniş kapsamlı sonuçlar doğurabilecek kararlar verebilir” diye hatırlattı. Hangi iş başvurusunda bulunanların mülakata bile davet edildiği, kimin kredi aldığı, kimin ne kadar süre hapiste kaldığı veya kimin polis tarafından takip edildiği, yaratıcılarının bile nasıl çalıştığını bilmediği algoritmalara giderek daha fazla bağımlı hale geliyor.
Otonom karar verme sistemleri
Zehemaier bu nedenle yapay zeka yerine “otonom karar alma sistemlerinden” bahsetmeyi tercih ediyor. Buna göre Zehemaier’in kurucularından olduğu Taxtastic şirketinin internet sitesinde yapay zeka terimini boşuna arıyorsunuz. Taxtastic, vergi mükelleflerine vergi beyannamelerinde uygun sınıflandırmalar önerebilmek amacıyla makbuzları ve diğer belgeleri otomatik olarak analiz etmeye başladı. Değişiklik olsun diye yapay zekayı satmayan bir yapay zeka girişimi.
Zehemaier, “Hepimiz yıllardır yapay zeka kullanıyoruz” dedi. Ancak AI’nın belirli bir alanda kullanımı sosyal olarak kabul edilir edilmez, ister rota hesaplamalarında, ister dijital fotoğrafçılıkta, ister Netflix gibi çevrimiçi servislerin önerilerinde olsun, artık yapay zeka olarak adlandırılmayacaktır.
PEBCAK: Önyargı verilerle sınırlı değil
Ancak bu, algoritmaların arka planda otonom olarak karar verdiği gerçeğini değiştirmiyor. Uzman, bu kararların “ne objektif ne de tarafsız” olduğunu vurguladı çünkü “Yapay zeka toplumumuzun bir aynasıdır.” Son olarak insanlardan gelen verilerle eğitilir.
İnsan hakları ve yapay zeka uzmanı Carina Zehetmaier Avusturya 2023 İnternet Zirvesi’nde
(Resim: Daniel AJ Sokolov)
Ve yalnızca seçilmiş kişilerden alınan verilerle: İngilizce içerik, büyük üretken yapay zeka modellerinde aşırı derecede temsil ediliyor. Ve internette olmayan kişilerden gelen içerik neredeyse hiç dahil edilmiyor. Zehemaier, bunun hala tüm insanların yüzde 36’sı olduğunu vurguladı.
Avusturyalı, algoritmalarla ilgili önyargının hiçbir şekilde eğitim verileriyle sınırlı olmadığı konusunda uyardı. Algoritmaların kullanıcıları da özellikle makineler lehine önyargılıdır. Kararları insan kararlarına göre çok daha az sorgulanıyor.
Yapay zeka sonuçlarının şeffaflığa ihtiyacı var
Zehemaier’in Polonya’da yaşanan bir olayı anlatması izleyenleri güldürdü. Orada bir otorite bir yapay zeka programı başlattı. Otoritenin çalışanları yapay zekanın önerdiği her kararı yüzde yüz doğruladı. Yapay zekanın önerdiğinden farklı bir karar vermek isteselerdi yetkililerin gerekçelerini belirtmeleri gerekirdi. Ancak kararı iptal etmek hiçbir çalışma gerektirmedi. Zehemaier’e göre bunun arkasında ciddi bir sorun var: Yapay zekayla ilgili tehlikeli olan şey, Terminatör gibi distopyalar değil, insanların yapay zekaya körü körüne güvenmeleri.
Zehemaier’in bunun için de bir patent çözümü yok. Avrupa Birliği’nin 2019’da yayınlanan yapay zeka tasarımına ilişkin etik kurallarına atıfta bulunuyor ve aynı zamanda gelecekteki AB Yapay Zeka Yasası tarafından izlenen risk temelli yaklaşımın da faydalı olduğunu düşünüyor. Sonuçta bir bilgisayar oyunundaki algoritma, tıbbi tedaviler geliştiren ya da hapis cezalarının süresini hesaplayan bir programdan farklı etkilere sahip.
Zehemaier ayrıca basit önlemler de önerdi: Otonom karar alma sistemlerinin sadece karar vermesi veya önermesi değil, aynı zamanda bu konunun dayandığı kanaatin derecesini de her zaman göstermesi önemli. Ayrıca yapay zeka geliştiricileri, sistemlerini evet/hayır yanıtları verecek şekilde uyarlamaktan kaçınmalıdır. Önemli yönleri vurgulayan algoritmalar daha iyidir.
İnternet Zirvesi Avusturya, tartışmayı teşvik etmeyi amaçlamaktadır ve Avusturya İnternet Servis Sağlayıcıları Birliği’nin (ISPA) yıllık bir etkinliğidir. 1997 yılında kurulan endüstri derneğinin 225 şirketi bulunuyor ve kendisini Avusturya’daki internet endüstrisinin sesi olarak görüyor. Konuşmacıların görüşleri organizatörün görüşleriyle örtüşmek zorunda değildir.
(ds)
Haberin Sonu