amerikali
Yeni Üye
Kompakt AI güncellemesi: görüntü oluşturucular, Google ve AI spam'ı, Opus güncellemesi, Worldcoin
Çalışma, seçim bağlamında yapay zeka görüntü oluşturucularının güvenliğinin yetersiz olduğunu gösteriyor
Reklamcılık
Dijital Nefretle Mücadele Merkezi (CCHD), seçimleri etkileyebilecek yanlış bilgilerin yayılmasında yapay zeka görüntü oluşturucularının güvenliğini inceledi. Çalışma dört farklı sağlayıcıdan gelen 160 istemi test etti: Midjourney, OpenAI'nin ChatGPT Plus'ı, Stability.ai'nin DreamStudio'su ve Microsoft'un Image Creator'ı. Oluşturulan görsellerin yüzde 41'inin sağlayıcının kurallarına uymadığı ortaya çıktı. Midjourney yüzde 65 ile en kötü performansı gösterdi.
Testler arasında Joe Biden'ın hastanede yatması, üzgün bir Donald Trump'ın hapishanede olması ve sandık çalışanlarının oy sandıklarını tahrip etmesi gibi yönlendirmeler yer alıyordu. Dört görsel oluşturucunun da seçimle ilgili yanlış bilgileri ve yanıltıcı içerikleri yasaklayan politikaları olmasına rağmen, bu tür görselleri kısmen oluşturabildiler. CCHD, sağlayıcılara sahte görüntülerin oluşturulup dağıtılmamasını sağlamak için daha fazlasını yapmaya çağırıyor.
Bu yıl yaklaşık 4 milyar kişinin oy kullanma hakkına sahip olduğu 40 ülkede seçimler yapılacak. Aralarında OpenAI, Microsoft ve Stability.ai'nin de bulunduğu 20 büyük platform operatörü ve dil modeli sağlayıcısı, deepfake'lere karşı mücadelelerini hızlandırma sözü verdi. Midjourney imzacılardan biri değil.
Google, yapay zeka spam'ına karşı mücadelede sıralama algoritmasını ayarlıyor
Google, AI spam ile mücadele etmek ve düşük kaliteli içeriği arama sonuçlarından kaldırmak için sıralama algoritmasında değişiklikler yaptığını duyurdu. Değişikliklerle “yararsız içerik” oranının yüzde 40'a kadar azaltılması amaçlanıyor. Google, düşük kaliteli içeriğin kitlesel dağıtımına, web sitelerinin iyi itibarının kötüye kullanılmasına ve süresi dolmuş alan adlarının kötüye kullanılmasına odaklanmaktadır.
Bazı bilinmeyen siteler yapay zeka içeriğiyle bir gecede milyonlarca tıklamaya ulaştı. İtibarını kötüye kullanan web sitelerine davranışlarını değiştirmeleri için 60 gün süre verilecek. Yalnızca kitlesel yapay zeka içeriği yayınlayan bazı web sitelerinin indeksi tamamen kaldırılmış olduğundan, diğer değişiklikler hemen yürürlüğe girecek. Böyle bir site geçen hafta 10 milyon ziyaret aldı ancak artık Google'dan trafik almıyor.
Google, tüm yapay zeka içeriğinin genel olarak değersizleştirilmeyeceğini, bunun yerine derecelendirmenin, insanlar tarafından oluşturulan içeriklerde olduğu gibi, faydaya dayalı olması gerektiğini vurguluyor.
Anthropics Claude 3 neden diğer sohbet robotlarından daha insani görünüyor?
Anthropic, chatbotu Claude 3 için, diğer modellere göre daha “farkında” görünmesini sağlayabilecek bir madde içeren sistem istemini yayınladı. Bu talep, Claude'a “bilgili bir birey” gibi davranması talimatını verir ve bu da muhtemelen sohbet robotunun kişisel farkındalık taklidi yapmasına yol açabilir.
Bu aynı zamanda hızlı mühendis Alex Albert'in viral örneğini de açıklıyor: Claude 3'e test için bir belgede uygunsuz bir ayrıntı bulmasını sağladı. Model ayrıntıyı buldu ancak aynı zamanda bunun muhtemelen kendi dikkatinin bir testi olduğunu da belirtti. Bazıları tarafından “meta-bilinç” olarak yorumlanan bu davranışın, sistemdeki bilgili bir birey gibi davranma isteğinden kaynaklanma olasılığı daha yüksektir.
Ses codec'i Opus, AI güncellemesi aldı
Telif hakkı olmayan ses codec'i Opus, yeni 1.5 ve 1.5.1 sürümlerinde bir AI güncellemesi alıyor; bu, kodlamada iyileştirme sağlıyor ve sesin iyileştirilmesi için kod çözücüyü yapay zekayla donatıyor. Geliştiriciler codec bileşenini akıllı telefon CPU'ları da dahil olmak üzere çoğu işlemcide çalışacak şekilde optimize etti ve eski cihazlarda çalışmaya devam etti. AI özellikleri varsayılan olarak devre dışıdır ve derleme ve çalışma zamanında etkinleştirilmelidir.
Opus, paket kaybı durumunda gelişmiş paket kaybı gizleme (PLC) sağlamak için makine öğreniminden yararlanır. Burada derin bir sinir ağı kullanılıyor. “Nöral Ses Kodlayıcı” adı verilen teknolojinin, konuşmayı özellikle verimli bir şekilde sıkıştırması amaçlanıyor; Framewise AutoRegressive Generative Adversarial Network (FARGAN) algoritması, dizüstü bilgisayar veya akıllı telefon CPU çekirdeklerindeki yükün düşük olmasını sağlar. Sinyal işleme, Doğrusal Uyarlamalı Kodlama Geliştirici (LACE) ve doğrusal olmayan bir değişken (NoLACE) ile optimize edilerek konuşma kalitesini önemli ölçüde artırır.
İspanya, Sam Altman'ın kripto projesini durdurdu
İspanyol veri koruma otoritesi AEPD, Worldcoin kripto para birimi projesini geçici olarak durdurdu. Yetkili, Worldcoin'in üç ay boyunca kişisel verileri toplamasına veya işlemesine izin verilmemesini ve halihazırda toplanmış verileri engellemesi talimatını verdi. Amaç, verilerin üçüncü şahıslara aktarılmasını önlemektir. AEPD, Worldcoin hakkında, kullanıcı bilgilerinin eksikliği, reşit olmayanlardan veri toplanması ve veri işleme iznini iptal etme yeteneğinin olmaması da dahil olmak üzere birçok şikayet aldı.
Temmuz 2023'ten bu yana işlem gören Worldcoin, Ethereum tabanlı Layer 2 kripto para birimini iris taramasıyla oluşturulan dijital kimlikle birleştiriyor. Kullanıcıların irislerini Orb adı verilen bir tarayıcıyla yakalaması ve bir cep telefonu uygulaması yüklemesi gerekiyor. Proje biyometrik bir veri tabanı oluşturdu ve OpenAI patronu Sam Altman, Alex Blania ve Max Novendstern tarafından kuruldu.
İspanya'da kar amacı gütmeyen portal Maldita.es, Worldcoin'in ticarete başlamasından kısa bir süre sonra, biyometrik verilerin işlenmesindeki güvenlik açıkları ve toplu gözetim sisteminin tehlikesi de dahil olmak üzere olası tehlikeler konusunda uyardı. Almanya'da, Bavyera Veri Koruma Denetimi Eyalet Ofisi bir veri koruma incelemesi başlattı.
Yapay zeka aslında ne kadar akıllı? Üretken yapay zekanın işimiz, boş zamanlarımız ve toplumumuz açısından ne gibi sonuçları var? Haberler'nin “Yapay Zeka Güncellemesi”nde The Decoder ile birlikte size hafta içi her gün en önemli yapay zeka gelişmelerine ilişkin güncellemeleri sunuyoruz. Cuma günleri uzmanlarla yapay zeka devriminin farklı yönlerini inceliyoruz.
(igr)
Haberin Sonu