amerikali
Yeni Üye
Darmstadt Uygulamalı Bilimler Üniversitesi'nden bir ekip, ağustos ayından bu yana, BoTox (nefret yorumları alanında bot ve bağlam tespiti) adlı araştırma projesiyle, internette sözde “nefret söylemi” bulmak için yapay zeka kullanan bir sistem üzerinde çalışıyor. internet. BoTox'un amacı, sosyal medya paylaşımlarının ve iletişim geçmişlerinin hakaret, nefrete teşvik veya şiddet tehdidi gibi unsurlar içerdiğini otomatik olarak tespit etmektir.
Reklamcılık
On iki suç
Bilgisayar dilbilimcisi Melanie Siegel şöyle açıklıyor: “On iki farklı suç tespit ettik.” Planlanan yazılım, makine öğrenimi ve yapay zeka (AI) kullanarak bu kategoriye giren ifadeleri otomatik olarak tespit edebilmeli, aynı zamanda bunları değerlendirebilmeli, önceden sınıflandırabilmeli ve HessenGegenHetze raporlama merkezine iletebilmelidir.
Idstein'daki Fresenius Uygulamalı Bilimler Üniversitesi'nden dijital adli tıp uzmanı Dirk Labudde, hukuki bilgi ve temel bilgilerle katkıda bulunuyor. Aynı zamanda BoTox'un nefret yorumu yazanın bir bot mu yoksa bir insan mı olduğunu ayırt edebilmesi gerekiyor. Profesör, ChatGPT gibi üretken yapay zeka zamanlarında bunun kolay bir iş olmadığını biliyor. Chatbotların etik korkulukları doğru sorular ve görevlerle aşılabilir.
Ekip ayrıca trolleri beslememenin mi yoksa zehirli ifadeleri bilinçli olarak eleştirmenin mi daha mantıklı olduğunu bulmak için bağlam analizlerinden yararlanmak istiyor. Yazılımı nefret söylemini ve tüm bu hususları otomatik olarak tanıyacak şekilde eğitmek için büyük miktarda veri gereklidir. Bunu yapmak için bilim insanları Telegram, Facebook ve YouTube'un arayüzlerini kullanıyor.
Bir önceki proje olan DeTox'tan farklı olarak 2025 yılına kadar sürecek olan proje, Hessen İçişleri Bakanlığı tarafından 292.000 euro ile finanse ediliyor.
Temel olarak hassas eğitim
Ancak ekip, Twitter da dahil olmak üzere mevcut eğitim verilerini kullanmaya devam ediyor. Araştırmacı, korona salgını ya da Ukrayna'daki savaş gibi daha güncel konuların henüz buna yansımadığını açıklıyor. “Fakat verileri taşınabilir hale getirmek için çalışıyoruz.” Bazıları için bu çok kolay: “Örneğin Şansölye Merkel için kelime seçimi, günümüzde trafik ışıklarında kullanılana benziyordu.” Aksi takdirde genellikle anti-Semitizm, Holokost inkarı, yabancı düşmanlığı, göç, ırkçılık veya azınlıklara karşı ayrımcılıkla ilgilidir.
Siegel, eğitim materyallerine olan talebin yüksek olduğunu belirtiyor. Nefret söylemi erkekler tarafından kadınlara göre çok daha sık paylaşılıyor. Veri setleri bu tür gerçekleri yansıtmalıdır. Değerlendirmenin temeli de önemlidir. Üç öğrenci asistanı, yorumları aşırı görüş, kabul edilebilir bir hakaret veya suç teşkil eden bir ifade olup olmadığına göre sınıflandırdı. Daha sonra insanlar ve makineler için derecelendirmelerin benzer olup olmadığını görmek için bir karşılaştırma yapılacak.
(vbr)
Haberin Sonu
Reklamcılık
On iki suç
Bilgisayar dilbilimcisi Melanie Siegel şöyle açıklıyor: “On iki farklı suç tespit ettik.” Planlanan yazılım, makine öğrenimi ve yapay zeka (AI) kullanarak bu kategoriye giren ifadeleri otomatik olarak tespit edebilmeli, aynı zamanda bunları değerlendirebilmeli, önceden sınıflandırabilmeli ve HessenGegenHetze raporlama merkezine iletebilmelidir.
Idstein'daki Fresenius Uygulamalı Bilimler Üniversitesi'nden dijital adli tıp uzmanı Dirk Labudde, hukuki bilgi ve temel bilgilerle katkıda bulunuyor. Aynı zamanda BoTox'un nefret yorumu yazanın bir bot mu yoksa bir insan mı olduğunu ayırt edebilmesi gerekiyor. Profesör, ChatGPT gibi üretken yapay zeka zamanlarında bunun kolay bir iş olmadığını biliyor. Chatbotların etik korkulukları doğru sorular ve görevlerle aşılabilir.
Ekip ayrıca trolleri beslememenin mi yoksa zehirli ifadeleri bilinçli olarak eleştirmenin mi daha mantıklı olduğunu bulmak için bağlam analizlerinden yararlanmak istiyor. Yazılımı nefret söylemini ve tüm bu hususları otomatik olarak tanıyacak şekilde eğitmek için büyük miktarda veri gereklidir. Bunu yapmak için bilim insanları Telegram, Facebook ve YouTube'un arayüzlerini kullanıyor.
Bir önceki proje olan DeTox'tan farklı olarak 2025 yılına kadar sürecek olan proje, Hessen İçişleri Bakanlığı tarafından 292.000 euro ile finanse ediliyor.
Temel olarak hassas eğitim
Ancak ekip, Twitter da dahil olmak üzere mevcut eğitim verilerini kullanmaya devam ediyor. Araştırmacı, korona salgını ya da Ukrayna'daki savaş gibi daha güncel konuların henüz buna yansımadığını açıklıyor. “Fakat verileri taşınabilir hale getirmek için çalışıyoruz.” Bazıları için bu çok kolay: “Örneğin Şansölye Merkel için kelime seçimi, günümüzde trafik ışıklarında kullanılana benziyordu.” Aksi takdirde genellikle anti-Semitizm, Holokost inkarı, yabancı düşmanlığı, göç, ırkçılık veya azınlıklara karşı ayrımcılıkla ilgilidir.
Siegel, eğitim materyallerine olan talebin yüksek olduğunu belirtiyor. Nefret söylemi erkekler tarafından kadınlara göre çok daha sık paylaşılıyor. Veri setleri bu tür gerçekleri yansıtmalıdır. Değerlendirmenin temeli de önemlidir. Üç öğrenci asistanı, yorumları aşırı görüş, kabul edilebilir bir hakaret veya suç teşkil eden bir ifade olup olmadığına göre sınıflandırdı. Daha sonra insanlar ve makineler için derecelendirmelerin benzer olup olmadığını görmek için bir karşılaştırma yapılacak.
(vbr)
Haberin Sonu