amerikali
Yeni Üye
Microsoft, Brüksel'den mavi bir mektup aldı: AB Komisyonu, Dijital Hizmetler Yasası'na (DSA) dayanarak, arama motoru Bing'deki üretken yapay zeka (AI) işlevlerinden kaynaklanabilecek belirli riskler hakkında bilgi talep ediyor. Brüksel hükümet kurumu özellikle ChatGPT tabanlı robot Copilot'u ve Microsoft Designer'ın Image Creator görüntü oluşturucusunu izliyor. Komisyon, 14 Mart'ta yazılım şirketine bu konuyla ilgili bir soru listesi gönderdi ancak bu liste yürütme organını tatmin etmedi. Resmi taleple birlikte Microsoft'a yanıt vermesi için 27 Mayıs'a kadar süre tanıdı.
Reklamcılık
Deepfake ve manipülasyonla ilgili endişeler
Yasal olarak bağlayıcı bilgi talebiyle birlikte Komisyon, Bing'den operatörün henüz açıklamadığı dahili belgeleri ve verileri de sağlamasını istiyor. Bu adım, halüsinasyonlar, deepfake'lerin viral yayılması ve hizmetlerin otomatik manipülasyonu gibi üretken yapay zekayla ilişkili riskler nedeniyle Bing'in kullanıcıları yanıltmış olabileceği şüphesine dayanıyor. Bu, DSA'nın açık bir ihlali olacaktır.
Bir yıldan fazla bir süre önce Komisyon, Bing'i, Platform Yasası kapsamında, AB'de 45 milyondan fazla kullanıcısı olan çok büyük bir arama motoru olarak sınıflandırmıştı. İlgili operatörler risk değerlendirmeleri yapmalı ve örneğin demokrasi, kamu güvenliği, temel haklar ve küçüklerin korunmasına yönelik tespit edilen tehditleri en aza indirmelidir. Üretken yapay zeka, devlet kurumunun seçim süreçlerinin bütünlüğüne ilişkin yönergelerinde belirlediği riskler arasında yer alıyor. Kendisi şu anda özellikle Haziran başında yapılacak Avrupa seçimlerinden endişe duyuyor.
Yardımcı pilotun seçim meselelerinde sıklıkla hata yaptığı görüldü
Bing'in son tarih içinde yanıt vermemesi halinde Komisyon, sağlayıcının toplam yıllık gelirinin veya dünya çapındaki cirosunun yüzde birine kadar para cezasının yanı sıra ortalama günlük gelirin yüzde beşine kadar periyodik ceza ödemeleri uygulayabilir. Operatörün yanlış, eksik veya yanıltıcı bilgi vermesi durumunda da benzer şekilde yüksek bir ceza riski vardır. Komisyon, bilgi talebinin ilk soruşturma eylemi olduğunu ve olası ileri adımları öngörmediğini belirtiyor. Cevapların değerlendirilmesine göre karar verilecek ve gerekirse DSA ihlallerine ilişkin resmi işlem başlatılacak. Bu tür soruşturmalar halihazırda Meta, TikTok ve X'e karşı devam ediyor. Microsoft'un yan kuruluşu LinkedIn ve AliExpress'in de anketleri yanıtlaması gerekiyor.
Sivil toplum kuruluşu AlgorithmWatch'tan Clara Helming, Bing'e karşı yapılan eylemi memnuniyetle karşılıyor. “Araştırmamız, Copilot'un seçimle ilgili temel sorulara sıklıkla yanlış yanıtlar verdiğini gösteriyor. 2023'te Bavyera, Hesse ve İsviçre'deki seçimler hakkında AI Forensics ile ortak bir araştırmada, ilgili bilgilerin üçte birinin hatalar içerdiğini tespit ettik. Chatbot, verileri çarpıttı Anket sonuçlarından ve hatta politikacılar hakkında skandallar icat etmekten rahatsız olan Helming, “Sorunu Microsoft'a bildirmemize rağmen daha sonraki testlerde herhangi bir gelişme görülmedi.”
AI Forensics'ten Salvatore Romano, tespit edilen zorlukların sistemle ilgili olduğunu ve “büyük dil modellerinin olasılıksal doğasından kaynaklandığını” açıklıyor. Chatbotlar doğruluğu sağlayamıyorsa, “hassas sorulara yanıt vermekten kaçınmalıdırlar.” Bir Microsoft sözcüsü şunları söyledi: “Gönüllü bilgi talebi konusunda Avrupa Komisyonu ile tam bir işbirliği yaptık ve onların sorularını yanıtlama ve dijital güvenlik ve DSA uyumluluğuna yönelik yaklaşımımız hakkında daha fazla açıklama yapma konusunda kararlılığımızı sürdürüyoruz.”
(benim)
Haberin Sonu
Reklamcılık
Deepfake ve manipülasyonla ilgili endişeler
Yasal olarak bağlayıcı bilgi talebiyle birlikte Komisyon, Bing'den operatörün henüz açıklamadığı dahili belgeleri ve verileri de sağlamasını istiyor. Bu adım, halüsinasyonlar, deepfake'lerin viral yayılması ve hizmetlerin otomatik manipülasyonu gibi üretken yapay zekayla ilişkili riskler nedeniyle Bing'in kullanıcıları yanıltmış olabileceği şüphesine dayanıyor. Bu, DSA'nın açık bir ihlali olacaktır.
Bir yıldan fazla bir süre önce Komisyon, Bing'i, Platform Yasası kapsamında, AB'de 45 milyondan fazla kullanıcısı olan çok büyük bir arama motoru olarak sınıflandırmıştı. İlgili operatörler risk değerlendirmeleri yapmalı ve örneğin demokrasi, kamu güvenliği, temel haklar ve küçüklerin korunmasına yönelik tespit edilen tehditleri en aza indirmelidir. Üretken yapay zeka, devlet kurumunun seçim süreçlerinin bütünlüğüne ilişkin yönergelerinde belirlediği riskler arasında yer alıyor. Kendisi şu anda özellikle Haziran başında yapılacak Avrupa seçimlerinden endişe duyuyor.
Yardımcı pilotun seçim meselelerinde sıklıkla hata yaptığı görüldü
Bing'in son tarih içinde yanıt vermemesi halinde Komisyon, sağlayıcının toplam yıllık gelirinin veya dünya çapındaki cirosunun yüzde birine kadar para cezasının yanı sıra ortalama günlük gelirin yüzde beşine kadar periyodik ceza ödemeleri uygulayabilir. Operatörün yanlış, eksik veya yanıltıcı bilgi vermesi durumunda da benzer şekilde yüksek bir ceza riski vardır. Komisyon, bilgi talebinin ilk soruşturma eylemi olduğunu ve olası ileri adımları öngörmediğini belirtiyor. Cevapların değerlendirilmesine göre karar verilecek ve gerekirse DSA ihlallerine ilişkin resmi işlem başlatılacak. Bu tür soruşturmalar halihazırda Meta, TikTok ve X'e karşı devam ediyor. Microsoft'un yan kuruluşu LinkedIn ve AliExpress'in de anketleri yanıtlaması gerekiyor.
Sivil toplum kuruluşu AlgorithmWatch'tan Clara Helming, Bing'e karşı yapılan eylemi memnuniyetle karşılıyor. “Araştırmamız, Copilot'un seçimle ilgili temel sorulara sıklıkla yanlış yanıtlar verdiğini gösteriyor. 2023'te Bavyera, Hesse ve İsviçre'deki seçimler hakkında AI Forensics ile ortak bir araştırmada, ilgili bilgilerin üçte birinin hatalar içerdiğini tespit ettik. Chatbot, verileri çarpıttı Anket sonuçlarından ve hatta politikacılar hakkında skandallar icat etmekten rahatsız olan Helming, “Sorunu Microsoft'a bildirmemize rağmen daha sonraki testlerde herhangi bir gelişme görülmedi.”
AI Forensics'ten Salvatore Romano, tespit edilen zorlukların sistemle ilgili olduğunu ve “büyük dil modellerinin olasılıksal doğasından kaynaklandığını” açıklıyor. Chatbotlar doğruluğu sağlayamıyorsa, “hassas sorulara yanıt vermekten kaçınmalıdırlar.” Bir Microsoft sözcüsü şunları söyledi: “Gönüllü bilgi talebi konusunda Avrupa Komisyonu ile tam bir işbirliği yaptık ve onların sorularını yanıtlama ve dijital güvenlik ve DSA uyumluluğuna yönelik yaklaşımımız hakkında daha fazla açıklama yapma konusunda kararlılığımızı sürdürüyoruz.”
(benim)
Haberin Sonu