ChatGPT insanları karaladığı için ABD ajansı OpenAI’yi soruşturuyor

amerikali

Yeni Üye
ChatGPT operatörü OpenAI, ABD rekabet otoritesi FTC (Federal Ticaret Komisyonu) tarafından yürütülen bir soruşturmayla karşı karşıya kalacak. Yetkili şirkete ayrıntılı olarak yanıtlaması gereken 20 sayfalık sorular gönderdi. En sıcak demir: OpenAI, ChatGPT gibi dil modelleriyle gerçek kişilerin karalanmasına karşı ne yapar?

Reklamcılık



Örneğin FTC, OpenAI’nin hangi şikayetleri aldığını ve bunları nasıl ele aldığını, şirketin bir dil modeli yayınlamadan önce hangi güvenlik ve risk analizlerini yaptığını, yanlış bilgileri nasıl tespit ettiğini ve hangi koşullar altında belirlemek için hangi yönergeleri kullandığını bilmek istiyor. Kişisel bilgileri yapay zeka aracılığıyla çıkarmak mümkün. Bunu yaparken OpenAI, kişisel bilgileri işlerken ve yayınlarken kamu yararına çalışan kişiler ile diğer kişiler arasında ayrım yapıp yapmadığını da ifşa etmelidir.

Birkaç soru daha temel konulara yöneliktir: sahipler, yöneticiler, sorumlu çalışanlar ve iş ortakları kimlerdir, OpenAI hizmetlerinin performansını nasıl ölçer ve bunların reklamını nasıl yapar, kullanıcılarının işlevsellik hakkındaki (yanlış)anlayışları hakkında ne bilir? , dil modellerinin doğruluğu, güvenilirliği ve Veri toplaması? İşte FTC’nin olası bir saldırı yönü: OpenAI yanlış anlamaların farkındaysa ancak şirket bu konuda hiçbir şey yapmıyorsa veya hatta kendi açıklamalarıyla halkın yanlış anlamalarını pekiştiriyorsa, bu ABD federal yasasına göre yasa dışı olabilir. Bu, haksız rekabeti, yanıltıcı reklamları veya ürün özelliklerinin yanlış beyanını yasaklar.

OpenAI eğitim verilerini nereden alıyor?


FTC ayrıca OpenAI’nin temel sorunlar için dil modellerini nasıl eğittiğini, geliştirdiğini, test ettiğini, izlediğini ve yeniden eğittiğini, tüm bu süreçlere insan girdisini nasıl dahil ettiğini ve kişisel olarak tanımlanabilir bilgilerin eğitime girmesini nasıl engellediğini bilmek istiyor. İkinci soru veri koruma yönünde gider. Üç ay önce, Almanya’nın veri koruma görevlileri OpenAI’ye karşı dava açtı.

Ayrıca FTC, web sitesi adresleri ve bunların toplam veri stoğundaki ilgili payları da dahil olmak üzere tüm eğitim verilerinin kaynaklarının kapsamlı bir listesini gerektirir. Örneğin, yasa dışı olarak kullanılan veriler haksız rekabete işaret edebilir.

Birkaç soru daha, FTC’nin Mart ayında ChatGPT’nin diğer kullanıcıların ChatGPT ile yaptığı konuşmaların bazı kısımlarını ifşa ettiği bir olayla özellikle ilgilendiğini gösteriyor. Ayrıca, OpenAI’nin BT sistemi diğer bazı abonelerin adlarını, fatura adreslerini, e-posta adreslerini ve kısmi kredi kartı bilgilerini uygunsuz bir şekilde ifşa etti. O sırada OpenAI hizmetini durdurdu ve hataları kabul etti.

Reklamcılık

Ek olarak, OpenAI programlama arayüzleri ve eklentileri, bunların riskleri ve bunlarla nasıl mücadele ettiği hakkında bilgi sağlamalıdır. Son olarak, yetkili makam, kullanıcılardan sohbet komutları (hızlı enjeksiyon) yoluyla dil modellerinin filtrelerini ve kısıtlamalarını atlatmaya veya OpenAI tarafından amaçlanmayan işlevleri tetiklemeye yönelik tüm girişimlerinin bir listesini talep eder.

Yasal ip yürüyüşü


Anket temel olarak 1 Haziran 2020’ye, ancak kısmen 2017’ye kadar uzanan döneme atıfta bulunuyor. OpenAI, Aralık 2015’te kuruldu. FTC, yasal ve politik olarak, soruşturmasının yetkilerini aşmamasını sağlamalıdır. Temel görevi, haksız rekabet, aldatma, yasa dışı tekeller ve diğer rekabete aykırı durumlarla mücadele etmektir; Tüketici zarar gördüğünde cezalar devreye giriyor.

Ajans ayrıca çeşitli maddi yasaların uygulanmasından da sorumludur. Tüketiciler İçin Çevrimiçi Perakende Pazar Yerlerinde Dürüstlük, Bildirim ve Adalet Yasası yakın zamanda eklenmiştir. ABD web mağazalarındaki satıcıları kimliklerini ifşa etmeye ve müşterilerle iletişim kurmaya zorunlu kılar. Son olarak FTC, piyasalar ve piyasa katılımcıları hakkında her türlü bilgiyi toplar, raporlar oluşturur ve mevzuat değişiklikleri için teklifler sunar. Öte yandan, hakaret cezasının kendisi genellikle tek tek devletlerin hukukuna ilişkin bir meseledir.


(ds)



Haberin Sonu