amerikali
Yeni Üye
OpenAI'nin kar amacı gütmeyen kuruluşu, ABD'deki Duke Üniversitesi'nde bir araştırma projesini destekliyor. Proje, “Yapay Zeka Ahlakını Araştırma” başlığını taşıyor ve yapay zeka şirketinden üniversiteye verilen daha büyük bir bağışın parçası. OpenAI, bir profesörlüğü üç yıl boyunca 1 milyon dolarlık bir hibe ile finanse ediyor. Profesörlük ahlaki yapay zekanın geliştirilmesine odaklanacak. Üç yıl 2025'te sona eriyor.
Reklamcılık
TechCrunch'a göre araştırma hakkında çok az şey biliniyor. Mevcut çalışmanın baş yazarı Walter Sinnott-Armstrong'un, kendisine çalışmaları hakkında konuşmasına izin verilmediği sorulduğunda söylediği söyleniyor. Sinnot-Armstrong Duke Üniversitesi'nde etik profesörüdür. Araştırmacılar Jana Schaich Borg ve Vincent Conitzer ile birlikte, ahlaki bir pusula olarak yapay zekanın daha iyi kararlar almaya nasıl yardımcı olabileceği hakkında bir kitap yayınladı. Bu, örneğin kimin böbrek bağışı alması gerektiğine ilişkin algoritmik kararları içerir. OpenAI'nin yatırımını da açıklayan üniversitenin basın açıklamasına göre araştırmacılar, yapay zeka kullanımının Çin ve ABD'de ahlaki açıdan nasıl farklılaştığını da inceliyor.
Schaich Borg, resmi web sitesinde kendisini sosyal biliş, empati ve ahlaki yapay zeka alanında uzman olarak tanımlıyor. Çalışmasının amacı yapay zekanın değerlerimize uygun olarak nasıl hareket edebileceğini bulmaktır. Ruth Chang'ın bir alıntısı, bu uyarlama olmadan yapay zekanın pek de yararlı olmayacağını düşündüğünü gösteriyor:
“Yapay zekanın insani değerlere saygı duymasını sağlayamazsak, bundan sonraki en iyi şey yapay zekanın bizim için sınırlı bir fayda sağlayabileceğini kabul etmek, gerçekten kabul etmektir.”
OpenAI tarafından yaptırılan araştırma aynı zamanda tıp, adalet ve ekonomi alanlarındaki ahlaki kararlara ilişkin öngörüleri de incelemeyi amaçlıyor.
Yapay zeka ve ahlak
Mevcut üretken yapay zeka, sıkı bir çerçevede kalan kararlar alabiliyor ancak aynı zamanda kötüye kullanıma karşı da oldukça savunmasız. İnsanların daha önce aldıkları kararlara göre kararlar verirler. Ondan olasılıkları öğrenir ve çıkarırsınız. Yapay zeka modelleri henüz kötüye kullanımın ortadan kaldırılabileceği kadar sağlam bir şekilde geliştirilememiştir. Çok sayıda saldırı senaryosu vardır ve sonuçta kararlardan insanlar sorumlu kalır. Kitapta Schaich Borg, Sinnott-Armstrong ve Conitzer de yapay zekanın nasıl güvenli ve adil hale getirileceği sorusuna değiniyor.
Ahlakı, yapay zekanın bu sınırlar içinde karar vermesine yetecek kadar tanımlamak da önemsiz değildir. Felsefeciler yüzyıllardır ahlakın ne olduğunu, ahlaki ya da etik açıdan doğru olanın ne olduğunu tartışıyorlar.
Ayrıca okuyun
Daha fazlasını göster
Daha az göster
(emw)
Reklamcılık
TechCrunch'a göre araştırma hakkında çok az şey biliniyor. Mevcut çalışmanın baş yazarı Walter Sinnott-Armstrong'un, kendisine çalışmaları hakkında konuşmasına izin verilmediği sorulduğunda söylediği söyleniyor. Sinnot-Armstrong Duke Üniversitesi'nde etik profesörüdür. Araştırmacılar Jana Schaich Borg ve Vincent Conitzer ile birlikte, ahlaki bir pusula olarak yapay zekanın daha iyi kararlar almaya nasıl yardımcı olabileceği hakkında bir kitap yayınladı. Bu, örneğin kimin böbrek bağışı alması gerektiğine ilişkin algoritmik kararları içerir. OpenAI'nin yatırımını da açıklayan üniversitenin basın açıklamasına göre araştırmacılar, yapay zeka kullanımının Çin ve ABD'de ahlaki açıdan nasıl farklılaştığını da inceliyor.
Schaich Borg, resmi web sitesinde kendisini sosyal biliş, empati ve ahlaki yapay zeka alanında uzman olarak tanımlıyor. Çalışmasının amacı yapay zekanın değerlerimize uygun olarak nasıl hareket edebileceğini bulmaktır. Ruth Chang'ın bir alıntısı, bu uyarlama olmadan yapay zekanın pek de yararlı olmayacağını düşündüğünü gösteriyor:
“Yapay zekanın insani değerlere saygı duymasını sağlayamazsak, bundan sonraki en iyi şey yapay zekanın bizim için sınırlı bir fayda sağlayabileceğini kabul etmek, gerçekten kabul etmektir.”
OpenAI tarafından yaptırılan araştırma aynı zamanda tıp, adalet ve ekonomi alanlarındaki ahlaki kararlara ilişkin öngörüleri de incelemeyi amaçlıyor.
Yapay zeka ve ahlak
Mevcut üretken yapay zeka, sıkı bir çerçevede kalan kararlar alabiliyor ancak aynı zamanda kötüye kullanıma karşı da oldukça savunmasız. İnsanların daha önce aldıkları kararlara göre kararlar verirler. Ondan olasılıkları öğrenir ve çıkarırsınız. Yapay zeka modelleri henüz kötüye kullanımın ortadan kaldırılabileceği kadar sağlam bir şekilde geliştirilememiştir. Çok sayıda saldırı senaryosu vardır ve sonuçta kararlardan insanlar sorumlu kalır. Kitapta Schaich Borg, Sinnott-Armstrong ve Conitzer de yapay zekanın nasıl güvenli ve adil hale getirileceği sorusuna değiniyor.
Ahlakı, yapay zekanın bu sınırlar içinde karar vermesine yetecek kadar tanımlamak da önemsiz değildir. Felsefeciler yüzyıllardır ahlakın ne olduğunu, ahlaki ya da etik açıdan doğru olanın ne olduğunu tartışıyorlar.
Ayrıca okuyun
Daha fazlasını göster
Daha az göster
(emw)