amerikali
Yeni Üye
Google Akademik Üzerine Bir Yapıcı Yapısal AI'dan sorgulanabilir “araştırma”
İsveçli araştırmacılar alarmı gündeme getiriyor: Google Akademik'te, çeşitli veritabanlarında ve hatta saygın uzman dergilerinde gizlice Ki tarafından üretilen “araştırma sonuçları” ortaya çıkıyor. Yanlış bilginin bolluğu bilimlerde kalite kontrolünü ezebilir ve böylece bilimsel bilgi kayıtlarının bütünlüğünü tehlikeye atabilir, İsveçliler uyarıyor.
Reklamcılık
İkincisi, üretken yapay zeka ile, ikna edici bir bilimsel etkiye sahip olan ve aynı zamanda kamu arama motorları, özellikle Google Akademik tarafından kullanılacak şekilde optimize edilen yanıltıcı belgeler oluşturulabilir. Bu olasılık, bilimlere olan güveni baltalar ve toplum için ciddi bir tehlikeyi temsil eder. Son olarak, bir toplumu veya kararını belirli kararlar almaya yönlendirmek için yanlış “sonuçlar” verilebilir.
Açıkça incelenen belgeler incelendi
Borås Uygulamalı Bilimler Üniversitesi ve İsveç Tarım Bilimleri Üniversitesi'nden üç bilim insanından oluşan bir grup, Google Akademik'teki sözde bilimsel belgelerden bir örnek çekti. Latte çok düşük koyarlar: Sadece iki hata mesajından en az biri, 3.5 ve 4'ün GPT sürümlerinin oluşturulduğu sürümlere özgü oldukları için belgeyi davet ettiler.
Bu hain baskılar “son bilgi güncellememden” ve “Gerçek zamanlı verilere erişimim yok” idi. 227 Bu tür arama sonuçları araştırmacıları Google Akademik üzerinden davet etti. 88 tanesini terk edebildiler çünkü ya üretken AI kullanımını açıkladılar ya da kullanımı başka türlü meşru olanlar. Bu, en azından kısmen AI tarafından salgılanan ve genişlemesi yaklaşımlarını gizlerken bile en temel bakımı bile kaçıran 139 belgenin bir örneği olarak kaldı.
Örneklemin analizi, bu belgelerin neredeyse yedincisinin saygın bir bilimsel dergide yayınlandığını göstermiştir. Diğer bilimsel dergilerde neredeyse üçte ikisi yayınlandı. Neredeyse yedinci, çeşitli üniversitelerden veritabanlarından öğrenci çalışmasıydı, sadece küçük bir kısmı tartışma belgelerindeydi (çalışma kağıtları). İçerik açısından bilgisayar bilimi, çevre ve sağlık konuları egemen oldu. Soruşturma sonucuna göre, incelenen sahte araştırmaların önde gelen konusu balık ve üremeleriydi. Araştırmacılar, başka yerlerde araştırma kapısı, IEEE, çeşitli web siteleri ve sosyal ağlarda şüpheli eserler buldular.
Öneriler
İsveç araştırmacıları da basit bir çözüm bilmiyorlar. Teknoloji, eğitim ve düzenlemeye eşzamanlı yaklaşımları düşünmektedirler. Hileli çalışmaları tanımak yeterli olmayacaktır; İzleyicilerine nasıl ulaştıklarını ve bazılarının neden dolaşımda kaldıklarını anlamak da önemlidir.
Bu nedenle arama motorlarının filtre seçenekleri sunması yararlı olacaktır, örneğin bazı bilimsel dergi sınıflarına veya denetlenen kaynaklara göre (hakem incelenmiştir). Arama endeksi şeffaf ve bilimsel kriterlere göre oluşturulmalıdır. Yazarlar, “Google Akademik'in gerçek bir rakibi olmadığından, ekonomik nedenlerle çalıştırılmayan, ancak kamu yararına olan serbestçe mevcut, genel bilim arama motoru oluşturmak için önemli nedenler var.”
Öncelikle “Teknik Sorun Yok”
“Bunu sadece AI metin üretimi nedeniyle var olan teknik bir sorun olarak sunmamak önemlidir.” Aksine, “kırık” bilimsel dergi sistemi bağlamındaki sorun ve bilginin kontrolü hakkındaki ideolojik mücadeleler ele alınmalıdır. Teklifler ayrıca, özellikle gazeteciler gibi karar verenler ve çarpanlar için sorunun farkındalığının oluşumunu da içermektedir.
İsveç soruşturması Google Akademik Üzerine GPT-Fabrikasyonlu Bilimsel Makaleler: Kanıt Manipülasyonunu Önleme Önlemleri, Yayılımı ve Çıkarları Dergide incelendi (hakemli olarak incelendi) ve Eylül ayında Yanlış Bilgi İncelemesi Harvard Kennedy Okulu yayınlandı. Çalışmanın amacı sorunun istatistiksel bir kaydı değil, buzdağının ucunun bir göstergesi idi. “Analizimiz, sorgulanabilir ve potansiyel olarak manipülatif, GPT ile dolu kağıt ile araştırma altyapısının nüfuz ettiğini ve muhtemelen yaygın bir fenomen olacağını gösteriyor.” Manipülatif kanıt, ciddiye alınmalıdır “
(DS)